Künstliche Intelligenz muss auch für Verbraucher:innen sicher und vertrauenswürdig sein!

veröffentlicht am 15.03.2022

Zum Weltverbrauchertag: Zukunftsthema "Künstliche Intelligenz" - mit YouTube-Link zum Nachhören und -schauen

Systeme künstlicher Intelligenz (KI) spielen in beinahe allen Bereichen bereits heute eine wichtige Rolle. Sie unterstützen nicht nur beispielsweise die öffentliche Verwaltung, Medizin, Wirtschaft oder Forschung dabei, große Datenmengen rasch und effektiv zu verarbeiten und Entscheidungsprozesse zu präzisieren und zu beschleunigen oder medizinische Diagnosen zu unterstützen. Auch für den Verbraucherschutz können sie wertvolle Unterstützung leisten: in der Betrugsprävention kann KI helfen, unseriöse Webseiten oder Praktiken rasch zu erkennen; in allgemeinen Geschäftsbedingungen ist KI in der Lage, rechtswidriger Klauseln zu identifizieren und Verbraucher:innen nehmen gerne Wearables zur Messung diverser Körperfunktionen und Fitnessparameter in Anspruch.

Was ist Künstliche Intelligenz?

Künstliche Intelligenz ist gar nicht leicht definierbar, so wie wir auch nicht genau definieren können, was menschliche Intelligenz ausmacht. Es handelt sich bei künstlicher Intelligenz jedenfalls um eine Software, die mittels bestimmter Techniken im Hinblick auf von Menschen vorgegebene Ziele Ergebnisse, Entscheidungen oder Vorhersagen liefert. Ein für Verbraucher:innen wichtiges Beispiel ist ein System, das anhand gewisser Inputdaten wie Einkommen, soziodemografischer und sonstiger Daten einen sogenannten Bonitätsscore berechnet, der dann Auskunft über die Kreditwürdigkeit eines Menschen gibt. Umstritten ist, ob Systeme erst dann als KI gelten, wenn sie selbstlernende Anteile haben, sich also mit der Zeit selbständig weiterentwickeln. Dann würde Software, die nur vorgegebene Regeln ausführt, herausfallen. Offenbar ist aber die Abgrenzbarkeit gar nicht so leicht. Der Begriff ist also höchst interpretationsbedürftig.

Künstliche Intelligenz birgt Risiken:

Bonitätsscores führen mitunter dazu, dass z.B. Kreditanträge abgelehnt werden, ohne dass die Gründe dafür transparent werden. Virtuelle Assistenten und smarte Geräte treffen Entscheidungen (kaufen z.B. Produkte ein), die nicht immer im Sinne des/der Beratenen sein müssen und häufig auch nicht nachvollziehbar sind. KI-Systeme tracken menschliches Verhalten und konstruieren so ein digitales Profil, das zum Einsatz gezielter Werbung, abgestimmter Angebote oder auch zu personalisierten Preisen führen kann, ohne dass dies den Betroffenen bewusst ist. Künstliche Intelligenz kann auch biometrische Daten analysieren und z.B. anhand von körperlichen Reaktionen Emotionen erkennen, die für gezieltes Marketing verwendet werden.

Ein europäisches Gesetz über künstliche Intelligenz:

2021 hat die Europäische Kommission einen Verordnungsvorschlag vorgelegt. Die Freude war groß, dass die Kommission für diese so zukunftsträchtige Technologie horizontale Regelungen erlässt. Begrüßt wurde auch, dass der Anwendungsbereich breit war und ein risikobasierte Ansatz gewählt wurde. Aus Verbrauchersicht ernüchternd war jedenfalls, dass der EU-Gesetzesvorschlag praktisch keine individuellen Verbraucherrechte und auch kaum Anforderungen an verbraucherrelevante KI-Anwendungen enthält. Nur hochriskante KI-Systeme haben verpflichtende Anforderungen und müssen z.B. über Risiko- und Qualitätsmangagementsysteme verfügen.   Mit Ausnahme von Kreditwürdigkeitssystemen werden verbraucherrelevante KI-Anwendungen wie virtuelle Assistenten, Systeme zur Evaluierung des Beschwerdeverhaltens oder der Häufigkeit der Ausübung von Verbraucherrechten, Emotionserkennungssysteme oder KI-Systeme für Kinder nicht als hochriskant eingestuft und unterliegen daher lediglich unverbindlichen Verhaltenskodizes. Entscheidend für Verbraucher:innen wäre auch eine Verpflichtung der Anbieter, die Logik dieser Systeme zu kommunizieren, damit Verbraucher:innen verstehen können, wie deren Entscheidungen zustandekommen.

Zwei Gutachten für mehr Verbraucherschutz:

Das Konsumentenschutzministerium hat daher Univ.-Prof. Dr. Christiane Wendehorst mit einem Rechtsgutachten beauftragt, das Defizite des Verordnungsvorschlages analysieren und Lösungsmöglichkeiten aufzeigen soll.

Am 15.3.2022 wurde es gemeinsam mit einem zweiten Gutachten, das im Auftrag der Bundesarbeitskammer zu Transparenz und Erklärbarkeit erstellt wurde, bei einem Webinar des Konsumentenschutzministeriums, der Bundesarbeitskammer und der europäischen Verbraucherorganisation BEUC vorgestellt.

Die wichtigsten Forderungen:

• Mehr KI-Systeme verbieten (z.B. zur Ausbeutung typischer oder vorhersebarer Schwachstellen)
• Mehr KI-Systeme als hochriskant einstufen (z.B. Emotionserkennungssysteme)
• Automatisierte Entscheidungen vorher durch Menschen überprüfen
• Recht auf Auskunft und Information, damit KI-Systeme nachvollziehbar sind

Verbraucherschutzeinrichtungen werden sich dafür einsetzen, dass das europäische Gesetz für Künstliche Intelligenz am Ende des Tages verbraucherfreundlicher wird und es verdient, dass Verbraucher:innen in diese neue Technologie auch Vertrauen haben können.

Das Webinar kann über folgenden Link Trustworthy AI? Not without Consumer Protection! - YouTube nachgehört und - geschaut werden.