EU-Parlament stimmte für Verbot von KI für Porno-Deepfakes

Es bezieht sich auf Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung" zeigen. Solche Bilder und Videos "schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre", heißt es im Gesetzentwurf zur Begründung.

Ein ausdrückliches Verbot sei "dringend geboten", argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von Künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen etwa sollen verschoben werden. Das Europaparlament muss in den kommenden Wochen und Monaten mit dem Rat der 27 EU-Staaten über die gesamte Reform verhandeln.

Europa hinkt KI noch hinterher

"Es ist Zeit, den digitalen Missbrauch zu beenden", reagierte die SPÖ-EU-Abgeordnete Elisabeth Grossmann in einer Aussendung. "Während technologische Entwicklungen rasant voranschreiten und neue Formen digitaler Gewalt sich in kürzester Zeit zu einem regelrechten Massenphänomen entwickeln, fehlt es an klaren, europaweit harmonisierten Regeln zum Schutz von Frauen. Solange der Rechtsrahmen hinter dieser Entwicklung zurückbleibt, schützt er nicht die Opfer, sondern die Täter."

"Nudifier-Apps sind digitale Gewalt und sie treffen vor allem Frauen und Kinder", betonte Lena Schilling, Mitglied des Europäischen Parlaments von den Grünen. "KI-Tools, die Menschen auf Knopfdruck entkleiden und Fake-KI-'Pornos' erstellen, greifen massiv in Würde, Sicherheit und Privatsphäre ein", kritisierte sie.

Die Organisation Aufstehn.at - Verein zur Förderung zivilgesellschaftlicher Partizipation berichtete, dass 35.000 Menschen die Petition "Missbrauch stoppen, Grok sperren!" unterzeichnet hatten. Mit einem wirksamen Schutz sei nun jedoch nicht vor Juli zu rechnen. "Mit jedem Tag ohne Verbot gibt es mehr Opfer von virtueller Gewalt - überwiegend Frauen, teilweise sogar Kinder", so die Warnung.