Forscherin ortet noch viel Lernbedarf bei KI-Nutzung

Immer mehr Unternehmen greifen bei Entscheidungen auf den Einsatz von KI zurück. Inzwischen betrifft das auch Bereiche, die direkte Auswirkungen auf das Leben von Menschen haben. Sabrina Schneider hat gemeinsam mit Elena Freisinger von der Ilmenau University of Technology in einer im "European Management Journal" Ende 2025 veröffentlichten Studie untersucht, wie Menschen mit KI-Beschlüssen in Fällen mit erheblichen moralischen und sozialen Konsequenzen umgehen, etwa bei Massenentlassungen und Werksschließungen. Denn gerade die Perspektive der Betroffenen fand bisher in der Forschung wenig Beachtung.

Dazu entwarfen die Forscherinnen ein heute durchaus realistisches Szenario: Im ersten Experiment sollte eine Gruppe als Zuständige entscheiden, welche Mitarbeitenden bei einer Standortschließung gekündigt würden, die andere sollte das im Namen eines erkrankten Kollegen tun. Die Hauptfrage war, wie sehr die Teilnehmer bereit wären, die Wahl einem auf rational optimale Entschlüsse trainierten KI-Entscheidungssystem zu überlassen. Im zweiten Experiment sollten Teilnehmende in vier Szenarien bewerten, ob sie Entscheidungen über Kündigungen akzeptieren würden, je nachdem, ob diese von einem menschlichen bzw. nicht-menschlichen Agenten getroffen wurden.

Das Ergebnis: Etwa 58,5 Prozent der Teilnehmer, die Entscheidungen im eigenen Verantwortungsbereich treffen mussten, aber nur etwa die Hälfte der Stellvertreter (49,3 Prozent), waren bereit, die Aufgabe an die KI zu übertragen. Die Rolle beeinflusste demnach die Delegationsbereitschaft stark: Wer für sich selbst entschied, übertrug schwierige Entscheidungen eher an die KI. Für Schneider durchaus überraschend zeigte sich, dass davon Betroffene nicht automatisch von Menschen gefasste Entschlüsse bevorzugten. Mit 36 Prozent akzeptierte ein signifikanter Anteil die KI-Entscheidungen. Denn Teilnehmende bewerteten die KI in ergänzenden Interviews als fair. Sie wurde als Entlastung für menschliche Führungskräfte gesehen und als besser geeignet, große Datenmengen zu analysieren, was fundierte und rationale Entscheidungen ermögliche.

Ebenso zeigte sich, dass es gerade in sensiblen Fragen große Vorbehalte gegenüber KI-Entscheidungen gab: 56 Prozent lehnten in den Interviews die von KI getroffenen Entscheidungen als "herzlos" ab, trauten dem nicht-menschlichen Agenten nicht zu, die emotionale Tragweite zu bewerten, und bemängelten, dass die KI keine Verantwortung für die Konsequenzen der Entscheidungen übernehmen könne. Insbesondere erwarteten Teilnehmende, dass menschliche Entscheider in solchen Fällen persönlich Verantwortung übernehmen.

KI-Einsatz braucht Wissen und Verantwortungsbewusstsein

Ein verantwortungsvoller KI-Einsatz brauche also mehr als technische Kompetenz, es stellten sich auch Fragen nach Verantwortung, Transparenz und sozialer Wirkung, hielt Sabrina Schneider fest. "Wir müssen das gesamte Bild im Auge behalten, auch die Perspektive von Mitarbeitenden oder Kunden", betonte die Blum-Stiftungsprofessorin, die seit über zehn Jahren in dem Bereich forscht. Die KI sei keine neutrale Helferin, sondern eine Akteurin, die unsere Arbeitswelt verändere. Unternehmen empfahl sie eine bewusste Auseinandersetzung und klare Standards. "Das Schlimmste ist, wenn die KI im Verborgenen genutzt wird, wenn Mitarbeiter private Accounts nutzen, gar sensible Daten hochladen", beschrieb sie.

Anders als noch vor zwei Jahren sei vielen Unternehmen heute die Verantwortung im Umgang mit KI bewusster, "wir sind aber sicherlich noch nicht am Ziel", so Schneider. "Niemand muss selbst programmieren können, aber zu verstehen, wie KI funktioniert, lernt und wo ihre Grenzen liegen, ist essenziell", betonte sie. So brauche es weiterhin kritisches Mitdenken, Hinterfragen und Reflexion. "Wir brauchen Wissen und Verständnis, um in Kontrolle zu bleiben", so ihr Fazit. Die Zusammenarbeit mit Künstlicher Intelligenz bewusst zu gestalten und das Schritthalten mit der rasch laufenden Transformation blieben die großen Herausforderungen.

(S E R V I C E - Studie im "European Management Journal": https://go.apa.at/uUeUYWo9)