Künstliche Intelligenz (KI) hält zunehmend Einzug in alle Lebensbereiche. Mit der fortschreitenden Digitalisierung ist auch der vermehrte Einsatz sogenannter KI-Technologien verbunden. Doch so sehr diese primär selbstlernenden Systeme („Machine Learning“) auch in der Lage sind, vieles zu erleichtern und zu ermöglichen, so sehr sind damit auch Risiken verbunden. Es ist daher unvermeidbar, einen Rechtsrahmen zu schaffen, der vor diesen Risiken schützt, Grund- und Freiheitsrechte beachtet und vor allem auch Transparenz schafft, wie diese Systeme wirken.

Bereits im Jahr 2020 wurde deshalb mit der Vorlage des Weißbuches KI und der damit verbundenen Konsultation ein Diskussionsprozess in Gang gesetzt, der nun durch die Vorlage eines VO Vorschlages einen nächsten Schritt nimmt. Dieser muss allerdings als Zwischenschritt und nicht als Ende der Diskussion gesehen werden, denn zu viele Fragen bleiben bisher offen.
 

Der vorliegende Verordnungsvorschlag verkennt zwar nicht, dass KI-Systeme vielfältige Risiken bergen können, beschränkt sich aber dennoch auf die Regulierung „hochriskanter“ KI. Gemeint sind Anwendungen, die etwa den Tod einer Person, ernste Gesundheitsfolgen oder Schäden am Eigentum zur Folge haben können. Was genau in der Praxis als „hochriskant“ gelten wird, ist aufgrund einschränkender Voraussetzungen jedenfalls zu unbestimmt und im ungünstigsten Fall auch viel zu restriktiv. Für geschädigte ArbeitnehmerInnen, BürgerInnen und KonsumentInnen ist es letztlich irrelevant, ob ihr Schaden von einer hochriskanten oder bloß risikobehafteten KI herrührt. Sie erwarten sich in jedem Fall staatliche Regulierung in Form von Schadensprävention durch Vorabkontrolle, Transparenz und Beschwerderechte. 
 

Zudem vermisst man Ansätze zu Beschwerde- und Auskunftsrechten ebenso wie etwa das Recht, das Ausmaß des Einsatzes von KI-Systemen die eigene Person betreffend mitzubestimmen. Besonders problematisch erscheint auch, dass neben der Verantwortung auch die Kontrolle über die Konformität der KI mit den Bestimmungen der Verordnung primär den HerstellerInnen selbst überlassen werden soll. Selbst viele hochriskante Systeme entziehen sich dadurch weitgehend einer systematischen Kontrolle durch unabhängige Dritte. Dies ist eine höchst unbefriedigende Lösung, vor allem, wenn man sich das Ziel setzen will, das Vertrauen der europäischen Bevölkerung in künstliche Intelligenz zu erhöhen.
 

Besonders enttäuscht der Vorschlag aber auch im Bezug auf das Arbeitsleben. KI-Systeme sind im Arbeitsalltag vieler Menschen bereits jetzt ständige Begleiter. Oftmals unterstützen sie ArbeitnehmerInnen bei der Arbeit, aber natürlich sind mit dem ständigen Datenfluss, der oftmals „nebenbei“ anfällt, auch viele Möglichkeiten zur Überwachung und Kontrolle verbunden.
 

Ein Mit- und Selbstbestimmungsrecht von ArbeitnehmerInnen, die mit KI in ihren Arbeitsprozessen konfrontiert sind, ist deshalb dringend notwendig. Die Einbindung von ArbeitnehmerInnen und deren Vertretungen bei der Einführung von KI sowie ebenso begleitende Auskunfts-, Informations- und Kontrollrechte für Beschäftigte bzw BetriebsrätInnen während des Einsatzes von solchen Systemen ist deshalb unbedingt notwendig. Dies gilt umso mehr, als sich auch oft zeigt, dass eine frühe und umfassende Einbindung der Beschäftigten bei der Einführung von KI in einem Betrieb oft zu besseren, effizienteren und breit akzeptierten Lösungen führt und damit im Interesse aller Beteiligten liegt. Im Verordnungsentwurf werden diese Aspekte aber weitestgehend außer Acht gelassen.
 

Es bedarf dementsprechend noch vieler Nachschärfungen, bis auch tatsächlich eine Verordnung entsteht, die für Künstlicher Intelligenz einen adäquaten Rechtsrahmen schafft.
 

Weiterführende Informationen:

AK EUROPA Positionspapier: EU-Verordnung zur Künstlichen Intelligenz

AK Wien: Analyse des VO-Entwurfes KI aus VerbraucherInnensicht

AK EUROPA: Digitaler Kompass 2030 skizziert Kommissionspläne im digitalen Sektor

AK EUROPA Positionspapier: Weißbuch zur Künstlichen Intelligenz

Europäische Kommission: Kommission schlägt neue Vorschriften und Maßnahmen im Bereich der künstlichen Intelligenz vor