Bereits im Februar 2020 legte die EU-Kommission das Weißbuch zur Künstlichen Intelligenz (KI) vor, welches die Basis für den 2021 vorgelegten Kommissionsvorschlag darstellt. Auch das Europäische Parlament veröffentlichte im Vorfeld drei legislative Entschließungen zu den Themenbereichen Ethik, zivilrechtlicher Haftung und geistigem Eigentum. Nun wird der Entwurf intensiv vom Europäischen Parlament sowie im Rat behandelt. Zuletzt verabschiedete das Parlament mit großer Mehrheit eine Resolution, welche ein Verbot von Gesichtserkennungssoftware durch Strafverfolgungsbehörden fordert. Im Juni 2021 wurde unter portugiesischem Vorsitz ein Fortschrittsbericht veröffentlicht. Kommende Woche, am 14. Oktober 2021, wird die Verordnung auf Minister:innenebene im Telekommunikationsrat diskutiert, wobei primär Fragen der regulatorischen Ausgestaltung sowie die Herausforderungen betreffend einer effektiven Umsetzung des KI-Gesetzes erörtert werden sollen.
 

KI-Regulierung benötigt „menschenzentrierten Ansatz“

AK EUROPA hat den KI-Verordnungsentwurf der Kommission in einem neuen Positionspapier analysiert. Insgesamt ist zu begrüßen, dass dieses zukunftsweisende Thema aufgegriffen wird, um einen Rahmen zur Förderung, Entwicklung und dem Einsatz sowie zur Regulierung von KI zu schaffen. Der Grad der Regulierungserfordernisse soll sich hierbei nach einer Risikobewertung der Technologie richten. Jedoch hat der Entwurf einen primär technikzentrierten Fokus mit Blick auf die Erfordernisse des Binnenmarktes. Der ursprünglich propagierte „menschenzentrierte Ansatz“ findet sich kaum wieder. Viele richtige Ansatzpunkte werden durch Ausnahmen und Einschränkungen verwässert. Auch das institutionelle Setting der mit der Regulierung beauftragten Behörden ist offen.
 

Künstliche Intelligenz und Arbeitswelt unzureichend berücksichtigt

Aus Perspektive der Arbeitnehmer:innen ist der Verordnungsentwurf in mehreren Aspekten unzureichend. So wurde der Themenbereich „Künstliche Intelligenz und Arbeitswelt“ nicht berücksichtigt. Es fehlen daher notwendige Schutzbestimmungen für betroffene Arbeitnehmer:innen bei der Anwendung von KI am Arbeitsplatz. Besonders wichtig wären hierbei:
 

• Verankerung der (über-)betrieblichen Arbeitnehmer:inneninteressenvertretung bei der Einführung und Verwendung von KI am Arbeitsplatz sowie entsprechende Mitsprache- und Vetorechte der Arbeitnehmer:innen und ihrer Interessenvertretungen.
• Anwendungen, die auf Arbeitsrealitäten und -bedingungen negative Auswirkungen haben können, sind als „hochriskant“ zu klassifizieren, womit sie strikteren Vorschriften unterliegen würden.
• Bestimmte Anwendungen im Arbeitsverhältnis (automatisierte Entscheidungen im Einzelfall und Profiling) sollten überhaupt untersagt werden.
• Es bedarf eines „Bottom-Up-Ansatzes“, bei dem von Beginn an die Auswirkungen von KI auf arbeitende Menschen und deren Arbeitsbedingungen untersucht werden und dass über den endgültigen Einsatz erst auf Basis dieser Erfahrungen entschieden wird.
   

Nachbesserungsbedarf aus Verbraucher:innensicht

Auch aus Verbraucher:innensicht weist der Verordnungsentwurf grundlegende Mängel auf. Konsument:innen müssen vor einer Aushöhlung ihrer Grund- und Freiheitsrechte, Intransparenz, Diskriminierung, körperlichen sowie psychischen Risiken und sonstigen Schadensrisiken, die von KI und Algorithmen ausgehen, bestmöglich geschützt werden. Folgende Punkte sind unter anderem erforderlich:
 

• Nicht nur für Hochrisiko-KI, sondern auch bei „bloß“ riskanten Anwendungen sind Transparenz, Diskriminierungsfreiheit und Beschwerderechte durch Vorschriften abzusichern.
• Verankerung von Rechten für betroffene Bürger:innen und Verbraucher:innen, unter anderem das Recht auf Information, Auskunft, Selbstbestimmung und Beschwerderechte.
• Verbot von gesellschaftlich unerwünschten KI-Systemen statt lückenhafter Verbote einiger Spielarten von Social Scoring, biometrischer Fernüberwachung und Verhaltensmanipulation.
• KI-Zertifizierung ausnahmslos durch unabhängige Behörden statt bloßer Selbstzertifizierung durch die Hersteller.
• Schutznormen für biometrische KI-Analysen bei Verbraucher:innengeschäften.
• Überarbeitung der unzeitgemäßen Regeln für Produkthaftung und Produktsicherheit.
   

Obzwar es prinzipiell zu begrüßen ist, dass KI ein europäischer Rechtsrahmen gegeben werden soll, fehlen viele notwendige Rahmenbedingungen für Arbeitnehmer:innen und Konsument:innen. Der „menschenzentrierte Ansatz“ bleibt zugunsten eines liberalen Marktes für KI auf der Strecke. Wichtig wäre es hier, dass Europa eine Führungsrolle übernimmt und die Interessen der Bürger:innnen bei der Anwendung von KI berücksichtigt.
 

Weiterführende Links:

AK EUROPA Positionspapier: EU-Verordnung zur Künstlichen Intelligenz
AK EUROPA Policy Brief: The body as an access key? Biometric methods for consumers (nur Englisch)
AK EUROPA: Künstliche Intelligenz muss Verbraucher:innenschutz sicherstellen