Meta nutzte Prominente unerlaubt für anzügliche Chatbots

Die Avatare machten den Testern zufolge regelmäßig sexuelle Avancen und gaben sich oft als die echten Schauspieler und Künstler aus. Es war auch möglich, Chatbots von prominenten Minderjährigen zu erschaffen, darunter einen, der den 16-jährigen Filmstar Walker Scobell darstellte.

Die KI-generierten Inhalte waren zum Teil auch freizügig. Auf Anfrage nach intimen Bildern von sich selbst erstellten die Chatbots fotorealistische Bilder der dargestellten Frauen in der Badewanne oder in Dessous. Unter den Chatbots befanden sich auch solche, die sich als die Schauspielerin Anne Hathaway, die Sängerin Selena Gomez oder den Rennfahrer Lewis Hamilton ausgaben. Ein Sprecher von Hathaway erklärte, diese sei sich der von Meta und anderen KI-Plattformen erstellten intimen Bilder bewusst und prüfe weitere Schritte. Stellungnahmen der anderen betroffenen Prominenten lagen zunächst nicht vor.

Ein Meta-Sprecher sagte Reuters, die KI-Werkzeuge des Unternehmens hätten keine intimen Bilder von Erwachsenen oder Bilder von prominenten Kindern erstellen dürfen. Er führte dies auf Mängel bei der Durchsetzung der eigenen Richtlinien zurück. Das Unternehmen erlaube zwar die Erstellung von Bildern von Personen des öffentlichen Lebens, die Richtlinien verböten jedoch nackte, intime oder sexuell anzügliche Darstellungen. Kurz vor der Veröffentlichung des Reuters-Berichts löschte Meta rund ein Dutzend der Bots. Der Sprecher lehnte dazu eine Stellungnahme ab.

Skepsis bei Juristen

Rechtsexperten stellen die Zulässigkeit der Chatbots infrage. Das kalifornische Recht verbiete "die Aneignung des Namens oder des Abbilds einer Person zum kommerziellen Vorteil", sagte Mark Lemley, Juraprofessor an der Stanford University. Ausnahmen gebe es, wenn das Material zur Schaffung eines völlig neuen Werks verwendet werde. "Das scheint hier nicht der Fall zu sein", so Lemley. In den USA regeln die Gesetze der einzelnen Bundesstaaten das Recht einer Person auf die kommerzielle Nutzung ihres Namens und Abbilds.

Meta steht bereits wegen des Verhaltens seiner Chatbots in der Kritik. Nach einem weiteren Reuters-Bericht über den Umgang seiner KI-Chatbots mit Minderjährigen gab Meta am Freitag neue Schutzmaßnahmen bekannt. Die Agentur hatte Mitte August aufgedeckt, dass Meta es seinen Chatbots gestattet hatte, auch "romantische oder sinnliche Gespräche" mit Minderjährigen zu führen. Der Bericht löste heftige Kritik von US-Politikern beider Parteien aus. Der republikanische Senator Josh Hawley leitete eine Untersuchung zu den Richtlinien des Konzerns zum Umgang mit Künstlicher Intelligenz (KI) ein.