Extremisten benutzen laut Verfassungsschutz vermehrt KI

Moderne KI-Systeme könnten laut Verfassungsschutz künftig in der Lage sein, große Datenmengen automatisiert auszuwerten und so individuelle psychologische und soziale Merkmale von Nutzerinnen und Nutzern analysieren. In einem solchen Szenario könnten extremistische Organisationen diese Technologien nutzen, um maßgeschneiderte Inhalte zu entwickeln, die gezielt auf persönliche Überzeugungen, Interessen und Schwachstellen zugeschnitten sind. So könnte die KI etwa gezielt Personen ausfindig machen, die für radikale Inhalte empfänglich sind und personalisierte extremistische Inhalte generieren. KI-gesteuerte Chatbots und täuschend echte, gefälschte Videos könnten dazu genutzt werden, den Einfluss extremistischer Narrative erheblich zu verstärken.

Herkömmliche Überwachungs- und Gegenmaßnahmen würden hier an ihre Grenzen stoßen, da sich KI-generierte Inhalte dynamisch verändern und klassische Erkennungsmechanismen umgehen können. Besonders problematisch wäre laut Verfassungsschutz, wenn extremistische Akteure generative KI gezielt einsetzen, um beispielsweise Verzerrungen oder Lücken in Sprach-, Bild- oder Desinformationserkennung zu finden und diese ausnutzen. Dadurch würden personalisierte Radikalisierungswege entstehen, die schwerer zu durchbrechen sind als herkömmliche Propaganda.

Die DSN arbeitet daher intensiv mit nationalen und internationalen Partnern zusammen, um für die zukünftigen Herausforderungen gewappnet zu sein, wurde betont. Man setze dabei selbst auf KI-gestützte Erkennungssysteme, die in der Lage sein sollen, KI-generierte und personalisierte Propaganda zu identifizieren. Auch die Zusammenarbeit mit Technologieunternehmen werde entscheidend sein, um Manipulationsversuche frühzeitig zu erkennen. Darüber hinaus gelte es, die Öffentlichkeit zu sensibilisieren. "Nur mit enger Zusammenarbeit von Staat, Sicherheitsbehörden und Technologieunternehmen sowie durch Stärkung von Medienkompetenz und dem kritischen Umgang mit Online-Inhalten können wir dem voranschreitenden Extremismus im Netz entgegentreten", betonte Leichtfried.