Verfassungsschutz: Tendenz zu steigender Rolle von Künstlicher Intelligenz (KI) bei Radikalisierung

Die Direktion Staatsschutz und Nachrichtendienst (DSN) warnt vor einer potenziellen Zunahme der Gefahr durch den gezielten Einsatz Künstlicher Intelligenz (KI) durch extremistische Gruppierungen. Bei den aktuellen Entwicklungen rund um KI besteht die Möglichkeit, dass zukünftig moderne KI-gestützte Systeme genutzt werden, um personalisierte Radikalisierungsstrategien zu entwickeln und dadurch gezielt Einzelpersonen für extremistische Ideologien zu gewinnen.

„Die fortschreitende Entwicklung Künstlicher Intelligenz eröffnet extremistischen Gruppierungen gefährliche Möglichkeiten, Menschen mit maßgeschneiderter Propaganda zu radikalisieren. Wir dürfen diese neue Form der Bedrohung nicht unterschätzen. Deshalb werden wir Tendenzen in diesem Bereich ganz genau beobachten,“ so Staatssekretär Jörg Leichtfried zu den aktuellen Herausforderungen im Onlinebereich.

Die enorme Menge an Online-Inhalten kann heute nicht mehr ausschließlich manuell überprüft werden. Daher ist davon auszugehen, dass große Plattformen und Sicherheitsbehörden zukünftig verstärkt auf automatisierte Werkzeuge zurückgreifen werden, die mittels maschinellen Lernens terroristische oder extremistische Inhalte erkennen und deren Entfernung anregen. Gleichzeitig besteht das Risiko, dass dieselben technologischen Fortschritte auch von extremistischen Akteuren adaptiert und missbraucht werden könnten. Auf diese Entwicklungen will sich der österreichische Verfassungsschutz vorbereiten.

Gezielte Ansprache durch KI-gestützte Propaganda

Moderne KI-Systeme könnten laut Verfassungsschutz künftig in der Lage sein, große Datenmengen automatisiert auszuwerten und so individuelle psychologische und soziale Merkmale von Nutzerinnen und Nutzern zu analysieren. In einem solchen Szenario könnten extremistische Organisationen diese Technologien nutzen, um maßgeschneiderte Inhalte zu entwickeln, die gezielt auf persönliche Überzeugungen, Interessen und Schwachstellen zugeschnitten sind. Denkbare Anwendungen wären unter anderem:

• Automatisierte Analyse sozialer Medien: KI-Systeme könnten Profile von Nutzerinnen und Nutzern analysieren, um Personen mit erhöhter Anfälligkeit für radikale Inhalte zu identifizieren.

• Dynamische Propagandastrategien: Es ist davon auszugehen, dass KI-Modelle personalisierte extremistische Inhalte generieren, die sich an das Verhalten und die Vorlieben der Zielpersonen anpassen.

• Manipulative Chatbots und Deepfake-Technologien: Fortschrittliche KI-gesteuerte Chatbots und täuschend echte, gefälschte Videos könnten dazu genutzt werden, den Einfluss extremistischer Narrative erheblich zu verstärken.

Herausforderungen für die Sicherheitsbehörden

Sollten sich Entwicklungen, wie die Fähigkeit dieser Systeme, in Echtzeit Inhalte zu optimieren und auf spezifische Reaktionen von Zielpersonen einzugehen, fortsetzen – wovon aktuell auszugehen ist – stellt dies die Sicherheitsbehörden vor neue Herausforderungen. Herkömmliche Überwachungs- und Gegenmaßnahmen würden hier an ihre Grenzen stoßen, da sich KI-generierte Inhalte dynamisch verändern und klassische Erkennungsmechanismen umgehen könnten.

Besonders problematisch wäre, wenn extremistische Akteure generative KI gezielt einsetzen, um beispielsweise Verzerrungen oder Lücken in Sprach-, Bild- oder Desinformationserkennung zu finden und diese ausnutzen. Dadurch würden personalisierte Radikalisierungswege entstehen, die schwerer zu durchbrechen sind als herkömmliche Propaganda.

Notwendigkeit neuer Gegenmaßnahmen

Die DSN arbeitet intensiv mit nationalen und internationalen Partnern zusammen, um für die zukünftig zu erwartenden Herausforderungen gewappnet zu sein und Strategien zur Erkennung und Bekämpfung von KI-gestützter Radikalisierung zu entwickeln. Dabei wird auf folgende Ansätze gesetzt:

• Erweiterte KI-gestützte Erkennungssysteme: Systeme müssen in der Lage sein, kontextuelle und dynamische Veränderungen in extremistischer Propaganda zu identifizieren.

• Erhöhte Transparenz und Kontrolle über Algorithmen: Die Zusammenarbeit mit Technologieunternehmen ist entscheidend, um Manipulationsversuche frühzeitig zu erkennen.

• Sensibilisierung der Öffentlichkeit: Nutzerinnen und Nutzer müssen über die neuen Methoden extremistischer Gruppierungen aufgeklärt und für personalisierte Radikalisierungsversuche sensibilisiert werden.

„Nur mit enger Zusammenarbeit von Staat, Sicherheitsbehörden und Technologieunternehmen sowie durch Stärkung von Medienkompetenz und dem kritischen Umgang mit Online-Inhalten können wir dem voranschreitenden Extremismus im Netz entgegentreten“, sagt Leichtfried. Es gehe dabei unter anderem auch viel um die Sensibilisierung der Öffentlichkeit für KI-gesteuerte personalisierte Radikalisierungsversuche.

Expertinnen und Experten warnen vor Extremismus durch Künstliche Intelligenz

Anfang des Jahres 2025 fand in Wien ein Symposium des CSAIR (Center for Security Analysis and Intelligence Research) der DSN statt, bei dem Expertinnen und Experten aus Wissenschaft, Politik und Sicherheitsbehörden über aktuelle Entwicklungen und Herausforderungen im Bereich des Extremismus diskutierten. Ein zentrales Thema war der Missbrauch von KI durch extremistische Gruppen. Einer der Vortragenden, David Wells vom Asscociate Cyber Threats Resarch Centre an der Swansea University in Wales, machte in seinem Vortrag deutlich, dass insbesondere generative KI zunehmend zur Verbreitung von Propaganda, zur Erstellung täuschend echter Deepfake Videos und zur personalisierten Radikalisierung eingesetzt wird. Diese Technologien stellen Sicherheitsbehörden und Social Media Plattformen vor neue Herausforderungen, eröffnen aber gleichzeitig auch neue Möglichkeiten zur Bekämpfung extremistischer Inhalte. Die Teilnehmerinnen und Teilnehmer des Symposiums betonten die Notwendigkeit einer engen Zusammenarbeit zwischen staatlichen Institutionen, Technologieunternehmen und der Wissenschaft, um diesen Bedrohungen wirksam entgegenzutreten.