Um sicherzustellen, dass künstliche Intelligenz in der EU verantwortungsvoll und sicher eingesetzt wird, hat die Europäische Kommission am 21. April 2021 den Entwurf für eine Verordnung zur Regulierung der Nutzung Künstlicher Intelligenz vorgestellt. Am 11. Mai 2023 haben sich die Abgeordneten der federführenden Ausschüsse IMCO und LIBE nach fast einem Jahr schwieriger Verhandlungen und etwa 4.000 eingebrachten Änderungsanträgen auf einen gemeinsamen Vorschlag für ein KI-Gesetz geeinigt.

Mehr Rechte für Verbraucher:innen beim Einsatz von KI
Aus Sicht der AK ist es grundsätzlich zu begrüßen, dass ein regulatorischer Rahmen für KI durch die EU geschaffen wird. KI beeinflusst immer mehr Bereiche des täglichen Lebens von Konsument:innen, wie zB bei der Kreditwürdigkeitsprüfung, im Rahmen der Mobilität oder dem Micro-Targeting bei Online-Werbung. Während der ursprüngliche Vorschlag der EU-Kommission immense Defizite im Bereich des Verbraucher:innenschutzes aufwies, ist es äußerst begrüßenswert, dass nun das EU-Parlament beim Verbraucher:innenschutz nachbessern möchte. „Das Ergebnis der Abstimmung zeigt, dass das EU-Parlament entschlossen ist, den Verbraucher:innenschutz zu verbessern und die Grundrechte der Nutzer:innen von KI-Systemen zu achten“, so Ursula Pachl, stellvertretende Direktorin des Europäischen Verbraucher:innenverbandes (BEUC).

Verankern möchte das EU-Parlament insbesondere ein ausdrückliches Verbot der Verwendung biometrischer Identifizierungsmethoden in öffentlich zugänglichen Räumen, der Echtzeitüberwachung oder von Social Scoring. Besonders positiv hervorzuheben sind auch den Konsument:innen eingeräumte Rechte, unter anderem der Anspruch auf kollektiven Rechtsschutz und Benachrichtigungs- und Erklärungspflichten der Systembetreiber. Für Systeme wie ChatGPT möchte das EU-Parlament eigene Regeln einführen. Auch das EU-Parlament hat jedoch bislang noch nicht alle Bedenken, die auch von der AK geäußert wurden, aufgegriffen. Emotionserkennung soll etwa nicht in die Liste der „verbotenen Praktiken“ fallen. Kritisch wird außerdem gesehen, dass den Entwickler:innen ein zu großer Ermessensspielraum bei der Risikoeinstufung ihrer KI-Systeme eingeräumt wird, an einer verpflichtenden Überprüfung dieser Angaben durch Dritte mangelt es. Zudem sind von Konsument:innenschutzorganisationen risikounabhängig für KI-Systeme geforderte Prinzipien wie Transparenz, Fairness und Verantwortlichkeit nach wie vor freiwillig, was ihren Nutzen schmälert.

Besonderer Schutz bei Einsatz von KI am Arbeitsplatz notwendig
Für den Bereich der Arbeitswelt greift das KI-Gesetz zu kurz, die Frage der künstlichen Intelligenz am Arbeitsplatz bleibt weitgehend unberücksichtigt und es fehlen daher notwendige Schutzbestimmungen. Die AK fordert eine strenge Regulierung von KI-Anwendungen, die Arbeitnehmer:innenrechte, Arbeitsbedingungen und die Gesundheit am Arbeitsplatz berühren. Das KI-Gesetz muss es den Mitgliedstaaten daher ermöglichen, bestehende arbeits(verfassungs)rechtliche Regelungen beizubehalten und mit nationalen Vorschriften (Kollektivvereinbarungen) die Anwendung von KI am Arbeitsplatz zu regeln. Nicht zuletzt ist es dringend notwendig, eine eigene EU-Richtlinie zum Thema Künstliche Intelligenz am Arbeitsplatz mit Mindestschutzbestimmungen für die Arbeitnehmer:innen zu schaffen.

Am 14. Juni 2023 folgt nun die Abstimmung im Plenum des EU-Parlaments, bevor in der Folge die Trilogverhandlungen mit dem Rat starten können, welcher bereits Ende 2022 seine Position zum KI-Gesetz festgelegt hat. Geplant ist ein Start der Verhandlungen noch unter der schwedischen Ratspräsidentschaft; die darauffolgende spanische Ratspräsidentschaft hat angekündigt, eine politische Einigung bis Ende des Jahres anzustreben.

Weiterführende Informationen:
AK EUROPA Positionspapier: Richtlinie über KI-Haftung
AK EUROPA: Vorschlag einer neuen KI-Haftung wenig erfolgsversprechend
AK EUROPA: Open Letter of AK to the Members of the EU Parliament on the need for improvement to the draft Artificial Intelligence Act from the consumer's point of view  (Nur Englisch)
Europäische Verbraucher:innenorganisation (BEUC): Factsheet Artificial Intelligence (Nur Englisch)