APA/APA/AFP/SEBASTIEN BOZON
Chronik

Kanadas KI-Minister mit Kritik an ChatGPT nach Amoklauf

Heute, 08:54 · Lesedauer 2 min

Zwei Wochen nach den tödlichen Schüssen an einer Schule in Kanada haben Regierungsvertreter Verbesserungen bei der Gefahren-Meldekette des ChatGPT-Entwicklers OpenAI gefordert. "Eine interne Überprüfung allein reicht nicht aus, wenn die öffentliche Sicherheit auf dem Spiel steht", erklärte Kanadas Minister für Künstliche Intelligenz (KI), Evan Solomon, am Mittwoch nach einem Gespräch mit dem führenden Sicherheitsteam des Plattform-Betreibers.

Hintergrund des Treffens von Solomon und weiteren Ministern war die Gewalttat vom 10. Februar im westkanadischen Ort Tumbler Ridge, bei der insgesamt neun Menschen starben. Den Ermittlungen zufolge hatte eine 18-Jährige acht Menschen getötet, sechs davon in einer Schule, bevor sie sich das Leben nahm.

Danach wurde bekannt, dass die 18-jährige Schützin Monate vor ihrer Tat den KI-Chatbot zur "Förderung gewalttätiger Aktivitäten" missbraucht haben soll, wie der Sender CBC berichtete. Laut Medienberichten soll sie dem KI-Bot ChatGPT Szenarien beschrieben haben, die Waffengewalt beinhalteten. OpenAI sperrte ihr Konto - eine Meldung an Strafverfolgungsbehörden erfolgte allerdings nicht.

"Wir haben deutlich gemacht, dass die Kanadier erwarten, dass glaubwürdige Warnzeichen für schwere Gewalt zeitnah und verantwortungsvoll eskaliert werden", hieß es von Solomon nach dem Gespräch mit den OpenAI-Vertretern. Es sei darüber gesprochen worden, wie ein "unmittelbares und glaubhaftes Risiko" bei der Nutzung der Chat-Plattform identifiziert und überprüft werde.

Enttäuschenderweise habe der Plattform-Betreiber zunächst keine nennenswerten neuen Sicherheitsmaßnahmen präsentiert, so Solomon. OpenAI habe aber in Aussicht gestellt, bald konkretere, "auf den kanadischen Kontext zugeschnittene Vorschläge" vorzulegen.

Zusammenfassung
  • Nach einem Amoklauf mit neun Todesopfern, darunter sechs in einer Schule im kanadischen Tumbler Ridge am 10. Februar, forderte KI-Minister Evan Solomon Verbesserungen bei der Meldekette von OpenAI.
  • Die 18-jährige Täterin hatte laut Medienberichten ChatGPT zur Förderung gewalttätiger Aktivitäten genutzt, woraufhin OpenAI ihr Konto sperrte, jedoch keine Behörden informierte.
  • OpenAI präsentierte zunächst keine neuen Sicherheitsmaßnahmen, kündigte aber an, bald konkrete Vorschläge für den kanadischen Kontext vorzulegen.

PULS 24 Archiv