Expertin untersucht Kombination von Menschen und KI-Systemen

Eines schickte sie im APA-Gespräch vorweg, auch für ihre Diskussionen beim Festival: "Wenn wir von Künstlicher Intelligenz sprechen, meinen wir nicht nur generative KI. Ich glaube nämlich, dass einige Leute heutzutage einfach alles verwechseln und denken, dass KI nur ChatGPT ist. Aber dazu gehören alle Technologien des maschinellen Lernens im weiteren Sinne, aber auch andere Technologien wie computergestütztes Lernen." "Citizen Science, Bürgerwissenschaften, Crowd Science, partizipative Wissenschaft, es gibt so viele verschiedene Namen. Ich interessiere mich für diese Kombination aus Menschen und KI-Systemen", sagte Ponti. In der Bürgerwissenschaft, insbesondere in der Astronomie und in der Umweltwissenschaft, werden Berge von Daten gesammelt. Um sie zu klassifizieren, brauche es KI-Systeme.

"Meine Frage wäre: Wie können wir darüber hinausgehen? Wir bauen und nutzen KI-Systeme, die im Moment nur Antworten geben. Können wir nicht noch ein bisschen weiter gehen und vielleicht Maschinen einsetzen, um unsere Fähigkeit, Fragen zu stellen, zu vertiefen, denn ich glaube, das ist es, was wir brauchen." Insbesondere die generative KI liefere manchmal auch falsche Antworten. Ziel sei, die Bürger stärker zu befähigen und auf eine dialogischere Weise einzubeziehen. "Bitten Sie sie nicht nur darum, Daten über die Luftverschmutzung zu sammeln, sondern diskutieren Sie auch darüber, wie die Daten analysiert und die Ergebnisse dargestellt und visualisiert werden können", forderte die Soziologin und Informatikerin. Es geht ihr darum, wie sich die Beziehung zwischen Maschinen und Menschen verändert, "wie können wir es den Menschen ermöglichen, sich aktiver in diese Beziehung einzubringen, anstatt nur von Forschern angeleitet zu werden".

Ponti kritisiert unter anderem die verzerrte Beteiligung an Citizen Science. Im von ihr zitierten Bericht "Global Citizen Deliberation on Artificial Intelligence" aus dem Vereinigten Königreich ist die Idee, Menschen einzubeziehen, die unterschiedliche Hintergründe repräsentieren. "Und das ist sehr wichtig", denn "Citizen Science ist nicht repräsentativ für alle Menschen auf dieser Welt, ganz und gar nicht". Vor allem Männer und Weiße sowie gut Ausgebildete seien stärker vertreten als andere. Diese Personen hätten auch Zeit sich zu engagieren. "Sie müssen sich nicht abmühen, weil sie zwei oder drei Jobs annehmen müssen, um über die Runden zu kommen." Das gelte nicht nur für Citizen Science, sondern für die Verbindung von Menschen mit KI in allen Bereichen. Es sei wichtig, die Beteiligung an Citizen Science um Menschen zu erweitern, die derzeit unterrepräsentiert oder gar nicht vertreten sind. "Und wir müssen eine gemeinsame Vision entwickeln, wie KI für das öffentliche Wohl und für eine nachhaltige Entwicklung genutzt werden kann", fordert die Professorin.

Mehr KI-Kompetenz im Unterricht

In Bezug auf Bildung sieht Ponti sehr wohl die Gefahren des Einsatzes von KI, ist aber der Meinung, dass die Schülerinnen und Schüler lernen müssen, damit umzugehen. Der Begriff "KI-Kompetenz" scheint ihr angemessen und nützlich. Sie vergleicht die Nutzung von KI als reinen Produktlieferanten mit der Lernmethode in ihrer Ausbildung. Damals galt es, Wissen aus Büchern auswendig zu lernen, es zu hinterfragen war nicht erwünscht. "Und ich habe Soziologie studiert, nicht Medizin oder Recht". Heutzutage benutzen Studierende oder Schüler KI um ein Ergebnis zu bekommen und lernen das auswendig. Das sei nicht zielführend. Sie selbst fragte Gemini (KI-Assistent von Google. Anm.): "Können Sie Menschen Ihre Denkweise erklären?" Die Antwort: "Ich habe keine Überzeugungen. Ich habe kein Bewusstsein. Ich habe keinen Aha-Moment. Mein Prozess ist ein Prozess der Mustererkennung und Vorhersage in großem Maßstab." Pontis Kommentar: "Das hat es schön gesagt. Genau das ist es, und ich denke, dass wir wieder über Kompetenzen sprechen müssen."

Offener Umgang mit Large Language Models

Für die Entwicklung der Dinge sei weiterhin der Mensch zuständig, die KI könne als Partner für uns arbeiten. "Ich möchte, dass die Schüler verstehen, inwieweit dieser Partner für sie arbeitet." In ihrem Kurs über "Data and Society" an der Uni Göteborg stelle sie den Studierenden gegenüber gleich zu Beginn klar: "Ich weiß, dass Sie ein großes Sprachmodell verwenden werden, aber lassen Sie uns offen sein und sagen Sie mir, wie Sie es verwenden. Und lassen Sie uns einen Weg finden, wie wir es auf eine gute Art und Weise nutzen können." Es gelte, Beurteilungen und Aufgaben zu überdenken und es brauche Lehrer, Forscher und Bürger, die wissen, wie man diese Technologien nutzt. "Meine Studierenden, die vielleicht 40 Jahre jünger sind als ich, sind nicht kritischer als ich oder sie neigen einfach dazu, die Technologien zu nutzen, die sie gerade zur Hand haben", nennt die 66-Jährige als Beispiel die Google-Suche, um die nächste Eisdiele zu eruieren. Obwohl sie die Angst vieler Lehrer vor dem Kontrollverlust versteht, ist Ponti der Meinung, dass es darum geht, den Schülern zu helfen, kritische Denker zu werden und nicht einfach Dinge zu vervielfältigen. "Wir müssen also die Mentalität ändern, aber das ist leichter gesagt als getan."

Insbesondere bei der generativen KI, aber auch beim maschinellen Lernen, sei der Mensch die Quelle des Rohmaterials für die Maschine. Ohne diese Daten könne man keine Modelle trainieren. "Und es gibt einen Aspekt, den ich bisher noch nicht erwähnt habe, und das ist meiner Meinung nach die Bedeutung der Unsicherheit. Ich glaube, wir neigen dazu, zu vergessen, dass sich die Wissenschaft ohne Ungewissheit, ohne Unbekannte, nicht weiterentwickeln kann." Wenn der Algorithmus etwas nicht erkennt, etwas nicht weiß, nicht vorankommt, muss der Mensch eingreifen. "Wir sehen also wieder, dass der Aha-Moment ein Moment ist, den wir als Menschen schaffen können, nicht die Technologie." Das, was die KI hervorbringt oder wo sie ansteht, soll verfeinert, hinterfragt oder darauf aufgebaut werden. Der Wert werde immer noch durch die intellektuelle und kreative Arbeit des Menschen geschaffen.

Begrüßt Regulierung der KI

Einer Regulierung der KI steht Ponti positiv gegenüber - genauso wie Bremsen in Autos verpflichtend seien, brauche es Sicherheitsmerkmale für KI. "Ich denke, dass die KI-Verordnung der Europäischen Union genau dies versucht, Schutzmaßnahmen für die Menschen zu schaffen. Was wir meiner Meinung nach brauchen, sind klare Regeln. Das verringert die Unsicherheit für Entwickler und Nutzer", erklärt die Wissenschafterin. Ein Umfeld für Investitionen und Aufträge solle gefördert werden, die Unternehmen bräuchten klare Vorgaben, quasi die Bestimmung "Ihr Auto muss Bremsen haben" auf KI-Systeme umgelegt.

Als "The Next Big Thing" sieht Ponti eine Fusion von KI mit anderen bahnbrechenden Technologien wie Quantencomputing, Nanotechnologie und Biotechnologie. "Hier in Schweden gibt es sehr viel Schwerpunkt auf Quantencomputing. Ich denke also, dass die Konvergenz von KI mit diesen Bereichen das nächste große Ding sein könnte, in diesem Fall also KI-Power-Quantencomputer oder Nanoroboter".

Marisa Ponti ist Associate Professor für angewandte Informatik an der Universität Göteborg. Sie studierte Soziologie und promovierte in Informationswissenschaft. Die 66-Jährige war und ist als Expertin für die Europäische Kommission und andere Institutionen tätig. Die gebürtige Italienerin besitzt auch die schwedische Staatsbürgerschaft.

(S E R V I C E - "PANIC yes/no" Ars Electronica Festival 2025 von 3. bis 7. September in Linz, PostCity und andere Orte, Programm und Tickets unter http://ars.electronica.art)