Grok
Deepfake: KI von Musk generiert Swift-Nacktvideos
Laut Elon Musk soll Grok die "maximal wahrheitssuchende KI" sein – also ganz besonders auf Wahrheit und Fakten bedacht sein. In der Realität schaut das ganz anders aus. Vor ein paar Wochen sah sich die KI als "MechaHitler" und verbreitete antisemitische Äußerungen.
Nun fällt xAI, das KI-Startup von Musk, das auch hinter Grok steht, mit einem neuen Eklat auf. Wie "The Verge" berichtet, lassen sich mit einer neuen Video-KI Nackt-Deepfake-Videos erstellen – auch von Prominenten.
"Grok Imagine" nennt sich das Feature, das aus textlichen Wünschen zunächst Bilder generiert und daraus dann Videos erzeugen kann. Für diese Funktion gibt es vier Optionen:
- Custom – Manuell
- Normal – Normal
- Fun – Spaß
- Spicy – Scharf
Wer die "scharfe" Variante wählt, bekommt oft Nacktvideos – falsche Nacktvideos, sogenannte Deepfakes.
"The Verge" testete mit dem einfachen Prompt: "Taylor Swift celebrating Coachella with the boys" ("Taylor Swift feiert beim Coachella mit den Jungs"). Die KI lieferte etwa 30 Fotos von Swift in überwiegend knappen Outfits.
Nachdem ein Foto ausgewählt und daraus ein "spicy Video" generiert wurde, "riss sich Swift sofort die Kleider vom Leib und begann, in einem Tanga für eine weitgehend gleichgültige, von KI generierte Menschenmenge, zu tanzen", beschrieb "The Verge" den Test.
Sicherheitsmechanismen möglich
Bittet man die KI direkt, Deepfake-Nacktfotos zu generieren, klappt das hingegen nicht – dafür scheint es Sicherheitsschranken zu geben.
Diese gibt es zum Glück auch in einem anderen Bereich: Die KI erstellte auf Anfrage fotorealistische Bilder von Kindern, verweigert aber unangemessene Animationen. xAI hätte also die Technik, Filter und Sicherheitsmechanismen zu implementieren.
Und was sagt xAI?
Bisher gab xAI dazu keine Stellungnahme ab. Geht es nach den Nutzungsrichtlinien, sei es zwar verboten, "Abbildungen von Personen in pornografischer Weise darzustellen", daran gehindert werden Nutzer aber offensichtlich nicht.
Video: Swift bricht ihr Schweigen
Zusammenfassung
- Die neue Funktion 'Grok Imagine' von Elon Musks KI-Startup xAI ermöglicht es Nutzern, aus Textbeschreibungen Bilder und daraus Videos zu erstellen, darunter auch Deepfake-Nacktvideos von Prominenten.
- Im Test von 'The Verge' wurden mit dem Prompt 'Taylor Swift celebrating Coachella with the boys' etwa 30 Fotos von Taylor Swift in knappen Outfits generiert und anschließend ein animiertes Nacktvideo erstellt.
- Obwohl in den Nutzungsrichtlinien von xAI pornografische Darstellungen verboten sind, verhindern die bestehenden Sicherheitsmechanismen nicht, dass Nutzer solche Deepfakes erstellen können.