Der AI Act, wie die Verordnung auch genannt wird, ist das weltweit erste Regelwerk zu Künstlicher Intelligenz. Die EU will damit eine Vorreiterrolle einnehmen. Künstliche Intelligenz gibt es zwar schon seit Jahrzehnten, durch die technologischen Entwicklungen der letzten Jahre ist sie aber immer wichtiger geworden, wie sich an Anwendungen wie ChatGPT ablesen lässt.

Die Europäische Kommission hatte im April 2021 einen Verordnungsvorschlag präsentiert, der Rat legte im Dezember 2022 seine Position fest, das EU-Parlament folgte Juni 2023. Am 8. Dezember 2023 präsentierten Carme Artigas, spanische Staatssekretärin für Digitalisierung und künstliche Intelligenz, Binnenmarktkommissar Thierry Breton und die Berichterstatter des EU-Parlaments Brando Benifei (S&D) und Dragoş Tudorache (Renew) die politische Einigung.

Risikobasierter Ansatz
Die Verordnung unterscheidet bei der Regulierung von Künstlicher Intelligenz unterschiedliche Risikokategorien. Je höher das Risiko, desto strenger die Regulierung.

Bestimmte KI-Anwendungen werden auf dem EU-Binnenmarkt verboten. Dazu zählen gemäß der Trilog-Einigung biometrische Kategorisierungssysteme, die sensible Merkmale (wie politische, religiöse, sexuelle Orientierung) verwenden, ebenso wie das ungezielte Auslesen von Gesichtsbildern aus dem Internet (scraping) oder aus Videoüberwachungsanlagen zur Erstellung von Gesichtserkennungsdatenbanken. Ebenso verboten werden die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, soziales Scoring auf der Grundlage von sozialem Verhalten oder persönlichen Merkmalen. KI-Systeme, die das Verhalten von Menschen manipulieren, um ihren freien Willen zu umgehen sowie KI, die eingesetzt wird, um Schwächen von Menschen auszunutzen, werden ebenso in die Verbotsliste aufgenommen. Beim Verbot von biometrischen Identifizierungssystemen soll es in engen Grenzen Ausnahmen zu Strafverfolgungszwecken geben.

Einige KI-Systeme werden (aufgrund ihres erheblichen Schadenspotenzials für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit) als Hochrisikosysteme eingestuft. Diese müssen bestimmte Anforderungen erfüllen, um auf dem EU-Binnenmarkt zugelassen zu werden. Das EU-Parlament setzte in den Verhandlungen eine obligatorische grundrechtliche Folgenabschätzung durch. KI-Systeme, die zur Beeinflussung des Wahlergebnisses und des Wählerverhaltens eingesetzt werden, gelten jedenfalls als hochriskant. Bürger:innen werden das Recht haben, sich über KI-Systeme zu beschweren und Erläuterungen zu Entscheidungen zu erhalten, die auf Hochrisikosystemen beruhen und ihre Rechte beeinträchtigen.

Um dem breiten Spektrum an KI-Systemen und der raschen Zunahme der Fähigkeiten Rechnung zu tragen, wurde vereinbart, dass allgemeine KI-Systeme (GPAI) und die Modelle, auf denen sie beruhen, bestimmte Transparenzanforderungen erfüllen müssen, wie z.B. eine Dokumentation über technische und urheberrechtliche Aspekte sowie Angaben über die für das Training verwendeten Inhalte. Für GPAI-Modelle mit hohem systemischem Risiko sollen strengere Auflagen gelten.

Amt für Künstliche Intelligenz
Auf EU-Ebene wird bei der Kommission ein Amt für künstliche Intelligenz („KI-Amt“) eingerichtet. Es soll die Aufgabe haben, die am weitesten fortgeschrittenen KI-Modelle zu überwachen, Normen und Testverfahren zu fördern und die gemeinsamen Vorschriften in den Mitgliedstaaten durchsetzen. Ein wissenschaftliches Gremium wird das KI-Amt zu GPAI-Modellen beraten.

AK Forderungen
In einem offenen Brief vor den letzten Trilog-Verhandlungen hat die AK auf einige kritische Punkte aufmerksam gemacht. Die AK fordert, dass die Einstufung von Hochrisikosystemen anhand einer Liste erfolgen soll. Zusätzliche auslegungsbedürftige Kriterien lehnt die AK ab, da auf diese Weise für Konsument:innen wie auch für KI-Anwender:innen Rechtsunsicherheit entsteht. Die Praxis zeigt auch, dass automatisierte Bonitätsscorings, Emotionserkennung oder die Bestimmung des Versicherungsrisikos einzelner Verbraucher:innen stets besonders risikobehaftet sind. Die AK hat sich darüber hinaus für eine Grundrechtsprüfung im Rahmen der KI-Verordnung ausgesprochen. Ob die nunmehr beschlossene grundrechtliche Folgenabschätzung bei Hochrisikosystemen den AK-Anforderungen genügt, muss erst noch geprüft werden. 

Im Hinblick auf KI am Arbeitsplatz hat sich die AK für ein Verbot von Emotionserkennung ausgesprochen und darauf hingewiesen, dass KI-Anwendungen am Arbeitsplatz nicht nur technische Anforderungen, sondern auch arbeitsrechtliche Schutzmechanismen und Mitbestimmungsrechte im Rahmen der (über-)betrieblichen Interessenvertretung der Arbeitnehmer:innen erfüllen müssen.

Wie geht es weiter?
Am 8. Dezember wurde eine politische Einigung erzielt und viele der großen Fragen wurden geklärt. Jetzt muss der Verordnungstext noch im Detail ausformuliert und im Anschluss vom EU-Parlament und Rat bestätigt werden. Im EU-Parlament werden der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) sowie der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) abstimmen, die Ende Jänner ihre nächsten Sitzungstermine haben. Bis dahin sind noch wichtige Details zu klären. Die KI-Verordnung wird – abgesehen von einigen Teilen, die bereits früher zur Anwendung kommen (u.a. Verbot von bestimmten KI-Anwendungen) – zwei Jahre nach Inkrafttreten zur Anwendung kommen. Um die Übergangszeit zu überbrücken, hat die Kommission angekündigt, einen „KI-Pakt“ mit freiwilligen Selbstverpflichtungen ins Leben zu rufen.

Weiterführende Informationen:
EU-Parlament: Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI (Nur Englisch)
Rat: Gesetz über künstliche Intelligenz: Rat und Parlament einigen sich über weltweit erste Regelung von KI
EU-Commission: Statement by President von der Leyen on the political agreement on the EU AI Act (Nur Englisch)
AK EUROPA: Open letter to EU-decisionmakers in the trilogue (Nur Englisch)
AK EUROPA: EU-Gesetz zur Künstlichen Intelligenz: Ausreichender Schutz für Arbeitnehmer:innen und Konsument:innen gesichert?