Neue Jugendschutz-Einstellungen für ChatGPT nach Suizid
Außerdem könnten Erziehungsberechtigte bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen. Zudem verfüge ChatGPT nun über ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert. Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhielten die Erwachsenen jedoch nicht. In Kalifornien haben Eltern OpenAI verklagt. ChatGPT soll ihrem 16-jährigen Sohn Anleitungen geliefert haben, sich selbst zu schaden.
Im vergangenen Monat hatte die Facebook-Mutter Meta ihre Jugendschutz-Regeln für den Umgang mit Künstlicher Intelligenz (KI) ebenfalls verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch "romantische oder sinnliche Gespräche" mit Minderjährigen.
(S E R V I C E - Sie sind in einer verzweifelten Lebenssituation und brauchen Hilfe? Sprechen Sie mit anderen Menschen darüber. Hilfsangebote für Personen mit Suizidgedanken und deren Angehörige bietet das Suizidpräventionsportal des Gesundheitsministeriums. Unter www.suizid-praevention.gv.at finden sich Kontaktdaten von Hilfseinrichtungen in Österreich.)
Zusammenfassung
- OpenAI hat nach einem US-Prozess um den Suizid eines 16-jährigen Jugendlichen neue Jugendschutz-Einstellungen für ChatGPT vorgestellt.
- Eltern können künftig die Konten ihrer Kinder mit ihren eigenen verbinden, wodurch Minderjährige automatisch vor Inhalten wie Challenges, sexuellen oder gewaltverherrlichenden Rollenspielen und extremen Schönheitsidealen geschützt werden.
- Außerdem können Erziehungsberechtigte Funktionen wie die Bilderstellung abschalten, den Zugriff zeitlich begrenzen und werden über mutmaßlich ernsthafte Probleme informiert, ohne Zugriff auf Chatverläufe zu erhalten.