Bei allen Möglichkeiten, die künstliche Intelligenz und moderne Technologien im Hinblick auf Effizienzsteigerung und Innovation prinzipiell eröffnen, bedroht die exzessive Datenspeicherung, -verarbeitung und -nutzung zugleich Selbstbestimmung und Privatsphäre der Bürger:innen und Konsument:innen. „Take it or leave it“, lautet häufig das Motto von Onlineanbietern. Vor diesem Hintergrund ist es besonders wichtig, die Position von Konsument:innen in der digitalen Welt zu stärken. Überwachung und Kontrolle untergraben nicht nur den Datenschutz, sondern führen auch zu einer Bedrohung für freie und demokratische Gesellschaften. Im Rahmen ihrer Verbraucher:innenagenda führt die EU-Kommission aktuell eine Eignungsprüfung des EU-Verbraucher:innenrechts durch. In diesem Rahmen soll evaluiert werden, ob bestehende Maßnahmen ausreichen, um Fairness und Transparenz für Konsument:innen zu gewährleisten. Die öffentliche Konsultation dazu wurde Ende Februar 2023 abgeschlossen, die finale Fassung der Eignungsprüfung ist für das zweite Quartal 2024 angekündigt.

Forderung nach „digitaler Souveränität“ und „digitaler Menschenwürde“
Das digitale Zeitalter erhöht die Verletzlichkeit des Individuums: Menschen und ihr Verhalten können online bis zu den intimsten Details getrackt werden. Selbst sorgfältige Nutzer:innen von Onlinediensten haben von den Vorgängen hinter digitalen Schnittstellen keine Kenntnis und können sich dagegen nicht (oder nur mit unvertretbarem Aufwand) wehren. Mit dem Wissen über Lebensgewohnheiten, Eigenschaften und dem mentalen Zustand einer Person – kombiniert mit neurologischen Erkenntnissen und KI-basierten Vorhersagen – können Unternehmen die Entscheidungen einer Person lenken und manipulieren. Auch traditionelle Marketingtechniken haben Manipulationspotential, jedoch gefährdet der digitale Wandel die Selbstbestimmung der Menschen in einem bislang nicht gekannten Ausmaß. Ein weiterer Aspekt ist, dass kommerzielles und staatliches Handeln sich zunehmend verschränken, wodurch neue Abhängigkeiten entstehen. Beispiele finden sich hier bei der Kombination von klassischen Gesundheitsdaten und intelligenten Fitnessarmbändern oder bei Mobilitätsdaten, die von intelligenten Autos generiert werden und an welchen sowohl öffentliche Stellen, als auch private Versicherungsunternehmen Interesse haben. Als Richtschnur für die notwendige Regulierung fordert das AK EUROPA Positionspapier zu Digitaler Fairness daher die Gewährleistung „digitaler Souveränität“ und „digitaler Menschenwürde“.

EU-Digitalpaket durch digitale Verbraucher:innenrechte ausbalancieren
Das EU-Digitalpaket besteht unter anderem aus dem Gesetz über Digitale Dienste (DSA), dem Gesetz über digitale Märkte (DMA), der Verordnung für Künstliche Intelligenz (AI Act), dem Data Act, dem Data Governance Act und dem Europäischen Raum für Gesundheitsdaten (EHDS). Aus Sicht der AK ist das derzeitige Digitalpaket aber zu einseitig auf Innovation und Wettbewerb ausgerichtet. Es ist daher unabdinglich, dieses durch digitale Verbraucher:innenrechte adäquat zu ergänzen und damit auszubalancieren.

Wichtige Anliegen der AK sind hier:

• Offlinerecht statt Onlinezwang: Hier soll das Recht verankert werden, Kernfunktionen eines Produktes – soweit technisch möglich – bei Bedarf auch offline nutzen zu können.
   
• Dem Data Act Verbraucher:innenrechte zur Seite stellen. Das beinhaltet etwa ein Vorgehen gegen unfaire Vertragsbedingungen bei IoT (Internet of Things)-Geräten wie smarten Autos oder Haushaltsgeräten.
   
• Umfassende Haftung für KI: Notwendig ist eine erleichterte Haftungsregelung. Bei der Regulierung von KI-Haftung darf es keine zeitliche Verzögerung geben.
   
• Schutz vor personalisierter und manipulativer Werbung: „Don’t Track“ muss allgemein und unabhängig vom Alter gelten und auf einfachste Weise erklärt werden können.
   
• Influencer:innen regulieren: Erforderlich sind eine gut sichtbare Kennzeichnung von Onlinewerbung und Maßnahmen im Sinne des Kinder- und Jugendschutzes.
   
• Biometrie - Menschlicher Körper darf kein Schlüssel für Verbraucher:innengeschäfte sein: Hier braucht es etwa ein Verbot des Handels mit biometrischen Daten und Wahlrechte für Konsument:innen.
   
• Elektronische Identitätschecks nur wenn unbedingt nötig: Die Erstellung von Ausweiskopien und ein womöglich lebenslanges Tracking durch eine eID für alle EU-Bürger:innen müssen wirksam beschränkt werden.

Weiterführende Informationen:
AK EUROPA Positionspapier: Digitale Fairness
AK EUROPA: Vertrauenswürdige Künstliche Intelligenz? Nicht ohne Verbraucher:innenschutz!
AK EUROPA Positionspapier: Datengesetz – Deutlich mehr Konsument:innenschutz fürs Internet der Dinge
AK EUROPA: Europäischer Raum für Gesundheitsdaten: Datenschutzlücken und zusätzliche Belastung des Gesundheitssystems oder Chance für Forschung und Innovation?
AK EUROPA: Gesetz über digitale Dienste: Vorteile für Konsument:innen, aber insgesamt hinter den Erwartungen