Pröll: Wer mit KI interagiert, soll das auf den ersten Blick erkennen

Ab morgen kommen die Transparenzpflichten des europäischen AI Act für bestimmte KI-Systeme zur Anwendung. Anbieter und Betreiber müssen klar darüber informieren, wenn Menschen mit Künstlicher Intelligenz interagieren. Für bestimmte KI-generierte oder mit KI manipulierte Bild-, Audio-, Video- und Textinhalte gelten zusätzliche technische Kennzeichnungs- und Offenlegungspflichten. Das Bundeskanzleramt bringt dazu im Rahmen der Public AI Initiative ein einheitliches KI-Kennzeichnungsmodell für die Bundesverwaltung zum Einsatz. Erstmals wird es beim neuen Chatbot „ida“ angewendet.

„Wer mit KI spricht, soll das auch wissen. Künstliche Intelligenz soll den Menschen unterstützen, aber sie darf nicht im Verborgenen arbeiten. Mit der KI-Kennzeichnung schaffen wir Vertrauen, indem wir sie sichtbar machen. So ist im Sinne des AI-Act auf den ersten Blick klar, wo KI eingesetzt wird und welche Rolle sie übernimmt. Damit bringen wir die europäischen Transparenzvorgaben verständlich in die praktische Anwendung“, so Digitalisierungsstaatssekretär Alexander Pröll.

Vier zentrale Transparenzpflichten

Artikel 50 des AI Act umfasst vier zentrale Anwendungsfälle:

1. Bei Chatbots und anderen Systemen, die direkt mit Menschen kommunizieren, muss die KI-Interaktion klar offengelegt werden.
2. Anbieter generativer KI-Systeme müssen künstlich erzeugte oder manipulierte Audio-, Bild-, Video- und Textinhalte technisch und maschinenlesbar markieren – etwa durch Metadaten oder technische Wasserzeichen.
3. Beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung sind betroffene Personen zu informieren.
4. Deepfakes sowie bestimmte KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse müssen ebenfalls als solche offengelegt werden.

Die Vorgaben bedeuten keine pauschale Kennzeichnung jeder KI-Unterstützung. Entscheidend sind die konkrete Funktion des Systems, die Art der erzeugten Inhalte und die Frage, ob Menschen unmittelbar mit der KI oder ihren Ergebnissen konfrontiert sind.

Europäische Leitlinien unterstützen die Umsetzung

Die Europäische Kommission hat zur Umsetzungsunterstützung im Juli Leitlinien veröffentlicht, die den Anwendungsbereich und die praktische Umsetzung der Transparenzpflichten konkretisieren. Ergänzend steht ein freiwilliger europäischer Praxisleitfaden für die technische Markierung und Offenlegung KI-generierter Inhalte zur Verfügung. Damit erhalten Anbieter und Betreiber eine gemeinsame Orientierung für eine einheitliche und verhältnismäßige Umsetzung. Über die KI-Servicestelle der RTR-GmbH können außerdem Informationen und Grafiken zu den Transparenzpflichten auf Deutsch genutzt werden.

Kennzeichnung zeigt Rolle und Wirkung der KI und schafft Vertrauen
Das Bundeskanzleramt hat im Rahmen der Public AI Initiative ein eigenes Kennzeichnungsmodell für KI-Services der Bundesverwaltung entwickelt. Es soll Bürgerinnen und Bürgern auf einen Blick zeigen, wann KI in einem digitalen Verwaltungsservice eingesetzt wird und damit rasch Orientierung geben.

Das Modell geht über den bloßen Hinweis „Hier kommt KI zum Einsatz“ hinaus. Ein Info-Button zeigt die Kennzeichnung und eine von vier Kategorien. Diese ergibt sich aus zwei Fragen: Wie eigenständig handelt das System und welche Auswirkungen können dessen Ergebnisse für betroffene Menschen haben? Die Kennzeichnung ist kein Güte- oder Qualitätssiegel, sondern ein Transparenzinstrument.

Einheitliche Kennzeichnung durch zentrale Beratung
In einer weiteren Ausbaustufe soll eine unabhängige, schlank aufgestellte Clearing- und Beratungsstelle die Bundesministerien und nachgeordneten Dienststellen bei der einheitlichen Anwendung der KI-Kennzeichnung und Bewertung von KI-Systemen unterstützen. Damit erhalten die Verfahrensverantwortlichen zusätzliche Unterstützung, um den Einsatz aller eingesetzten KI-Systeme gegenüber den Bürgerinnen und Bürgern transparent zu gestalten. Dadurch können Bürgerinnen und Bürger sowie Unternehmen darauf vertrauen, dass alle KI-Systeme der öffentlichen Verwaltung gleich gekennzeichnet werden.

Erste Anwendung beim Chatbot „ida“

Erstmals kommt das Kennzeichnungsmodell beim neuen Chatbot „ida“ zur Anwendung. Die intelligente digitale Assistenz steht dann in der ID Austria App sowie auf oesterreich.gv.at und id-austria.gv.at zur Verfügung. Der Chatbot beantwortet in natürlicher Sprache Fragen zur ID Austria, zu digitalen Verwaltungsservices und zu Wohnsitzangelegenheiten. Nutzerinnen und Nutzer erkennen von Beginn an, dass sie mit einem KI-System kommunizieren.

Gemeinsamer Standard für weitere Anwendungen

Das Kennzeichnungsmodell wird künftig auch für weitere KI-Anwendungen der Bundesverwaltung eingesetzt. Ziel ist ein gemeinsamer, verständlicher und wiedererkennbarer Transparenzstandard statt unterschiedlicher Einzellösungen bei jedem neuen Service. Bei wesentlichen Änderungen eines Systems oder seiner Funktionen wird auch die Kennzeichnung neu geprüft.

„Transparenz darf kein Kleingedrucktes sein. Unsere Kennzeichnung zeigt nicht nur, dass KI eingesetzt wird, sondern erklärt auch, wie selbstständig ein System arbeitet und welche Bedeutung seine Ergebnisse haben können. Damit schaffen wir Orientierung und stärken das Vertrauen in digitale Verwaltungsservices“, so Pröll abschließend.

Weitere Information zur KI-Kennzeichnung unter:
KI-Kennzeichnung in der Verwaltung - Digital Austria