Konsumentenschutzministerium: Künstliche Intelligenz muss auch für Verbraucher:innen sicher und vertrauenswürdig sein

Systeme künstlicher Intelligenz (KI) spielen in beinahe allen Bereichen bereits heute eine wichtige Rolle. Sie unterstützen nicht nur Wirtschaft, Medizin und Forschung dabei, große Datenmengen rasch und effektiv zu verarbeiten und Entscheidungsprozesse zu präzisieren und zu beschleunigen. Auch für den Verbraucherschutz können sie wertvolle Unterstützung leisten.****

    So kann KI in der Betrugsprävention helfen, unseriöse Praktiken rasch zu erkennen. In allgemeinen Geschäftsbedingungen ist KI in der Lage, rechtswidrige Klauseln zu identifizieren und Verbraucher:innen nehmen gerne Wearables zur Messung diverser Körperfunktionen und Fitnessparameter in Anspruch. KI-Systeme bergen aber auch Risiken. Bonitätsscores führen mitunter dazu, dass Produkte und Dienstleistungen versagt werden, ohne dass die Gründe dafür transparent werden. Virtuelle Assistenten und smarte Geräte treffen Entscheidungen, die nicht immer im Sinne des/der Beratenen und häufig auch nicht nachvollziehbar sind. KI-Systeme tracken menschliches Verhalten und konstruieren so ein digitales Profil, das zum Einsatz gezielter Werbung, abgestimmter Angebote oder auch zu personalisierten Preisen führen kann, ohne dass dies den Betroffenen bewusst ist.

    Es ist nun fast ein Jahr her, dass die Europäische Kommission ihren Vorschlag für ein horizontales Gesetz über künstliche Intelligenz vorgelegt hat. Die Freude war groß, dass die Kommission für diese so zukunftsträchtige Technologie horizontale Regelungen erlässt. Begrüßt wurde auch, dass der Anwendungsbereich breit war und ein risikobasierter Ansatz gewählt wurde. Aus Verbrauchersicht ernüchternd war allerdings, dass der EU-Gesetzesvorschlag praktisch keine individuellen Verbraucherrechte und auch kaum Anforderungen an verbraucherrelevante KI-Anwendungen enthält. Die Liste der hochriskanten Systeme, für die Anforderungen wie beispielsweise ein Risikomanagementsystem oder eine menschliche Überprüfungspflicht automatisierter Entscheidungen vorgesehen sind, umfasst zwar Bonitätsbewertungssysteme für die Kreditvergabe, aber keine weiteren für Verbraucher:innen wichtige KI-Anwendungen. Zu denken ist hier etwa an virtuelle Assistenten oder smarte Geräte, die Entscheidungen treffen, Risikoeinschätzungen für den Zugang zu essentiellen privaten und öffentlichen Dienstleistungen wie z.B. Versicherungen oder auch Systeme, die von Kindern genutzt werden. Entscheidend für Verbraucher:innen wäre auch eine Verpflichtung der Anbieter, die Logik dieser Systeme zu kommunizieren, damit Verbraucher:innen verstehen können, wie deren Entscheidungen zustandekommen.

    Das Konsumentenschutzministerium hat daher Univ.-Prof. Dr. Christiane Wendehorst mit einem Rechtsgutachten beauftragt, das dieses Defizit analysieren und Lösungsmöglichkeiten aufzeigen soll. Dieses liegt nun vor. Gestern wurde es gemeinsam mit einem Gutachten, das im Auftrag der Bundesarbeitskammer zu Transparenz und Erklärbarkeit erstellt wurde, bei einem Webinar des Konsumentenschutzministeriums, der Bundesarbeitskammer und der europäischen Verbraucherorganisation BEUC vorgestellt.

Weitere Informationen unter: www.sozialministerium.at