«Wir müssen eine KI-Fehlerkultur entwickeln»

Hauptnavigation

• Alle News
  Zurück

  Alle News Alle News

  Menü schliessen
• Für Medien
  Zurück

  Für Medien Für Medien

  Menü schliessen
• UZH Magazin
  Zurück

  UZH Magazin UZH Magazin

  Menü schliessen
• Social Media
  Zurück

  Social Media Social Media

  Menü schliessen

• Mehr
  Menü schliessen

Kategorien

• Digitaler Wandel
• Künstliche Intelligenz
• Forschung
• Wirtschaftswissenschaften und Informatik

Vor ein paar Jahren kam ChatGPT auf den Markt und krempelte das Lernverhalten der Studierenden quasi über Nacht um. Wie stehen Sie dazu?

In der Tat hat eine Umfrage gezeigt, dass heute praktisch alle unsere Studierenden KI nutzen. Mit dieser Entwicklung müssen wir uns in der Weiterentwicklung von Lehre und Forschung verstärkt auseinandersetzen. Die UZH treibt als Produzentin und Konsumentin digitaler Hilfsmittel die KI voran, sie wird aber auch von aussen dazu getrieben, neue Impulse und Technologien aufzugreifen und deren Benutzung mitzuprägen. Dieses Wechselspiel zwischen technologischer Nutzung und Entwicklung über mehrere Generationen hinweg gehört zum Grundauftrag einer Universität, davon bin ich überzeugt.

Eine NFP-77-Studie von Erziehungswissenschaftler Dominik Petko beschäftigte sich mit der digitalen Transformation auf Sekundarstufe und im Gymnasium, die langsamer verläuft. Wie schätzen sie als Informatikprofessor das ein: Sind wir in der Schweiz zu langsam, sollten digitale Hilfsmittel früher und offensiver an Schweizer Schulen eingeführt werden?

Meiner Meinung nach sollte man da keine dogmatischen Ansätze verfolgen, doch ist es sicher sinnvoll, dass sich Schülerinnen und Schüler auf der Sekundarstufe mit digitalen Tools auseinandersetzen. Aus meiner Warte ist es vor allem wichtig, dass sie ein Gefühl dafür entwickeln, was digitale Hilfsmittel wie Taschenrechner oder ChatGPT tun, und sie sollten die Resultate einschätzen können. Wenn sie ein Gefühl dafür entwickeln, ob ein Resultat oder eine Antwort von ChatGPT richtig sein kann oder nicht und wenn sie nicht alles unhinterfragt schlucken, hilft ihnen das später sehr.

Auch bei der Arbeit wird KI vermehrt eingesetzt. Im Spital zum Beispiel als Entscheidungshilfe für die Ärzt:innen und das Pflegepersonal, was ebenfalls im Rahmen des NFP 77 untersucht wurde. Worauf muss beim Einsatz von KI in Hochrisiko-Anwendungen wie dem Gesundheitswesen besonders geachtet werden?

Es gibt wenige Bereiche in unserem Leben, die so reguliert sind wie ein Spital. Das trifft auch auf ein KI-System zu, das zum Beispiel eine Chirurgin konsultiert. Die UZH/ETH-Professorin Kerstin Vokinger forscht zu solchen Regulierungen. KI-Technologie im medizinischen Umfeld muss wie jedes neue Medikament ein systematisches Testing durchlaufen. Man muss zeigen können, dass sie im Therapieprozess hilft.

Wir müssen die Mensch-Maschine-Interaktion ergründen und die Art und Weise, wie wir mit einem KI-System arbeiten, aktiv gestalten.

Ein positives Beispiel könnte eine KI sein, die in der Intensivmedizin zum Einsatz kommt, um die riesige Datenflut, die die Überwachung der Patienten erzeugt, für die klinische Entscheidungsfindung nutzen zu können, mit dem Ziel, die Behandlungsergebnisse zu verbessern. Die Intensivmedizinerin Emanuela Keller untersucht ein entsprechendes Vorhersagemodell und Entscheidungshilfesystem am USZ. Eine NFP-77-Studie aus Bern hingegen hat den Einsatz einer KI auf der Notfallstation des Inselspitals untersucht und herausgefunden, dass die KI die Entscheidungen nicht verbesserte und keine Hilfe war.

Die digitale Transformation verändert auch die Qualifikationsanforderungen und Karrierechancen der Arbeitnehmenden, was zwei NFP-77-Projekte untersucht haben. Welche IT-Kenntnisse muss man heute haben, um erfolgreich zu sein?

Die Markteinführung von KI hat die Arbeitswelt ziemlich geschockt. Ich sehe das unter anderem bei MBA-Studierenden; die Veränderung der Arbeit durch KI treibt eindeutig auch diese Manager um. Was nicht verwunderlich ist, behaupten doch gewisse Exponenten im Silicon Valley, dass auch qualifizierte Leute bald arbeitslos sein werden. Dazu stellen sich zwei grosse Fragen: Führt KI wirklich zu grossen Produktivitätssteigerungen, wie angenommen wird? Und verdrängt sie uns aus unserer Arbeit?

Haben Sie dazu Antworten?

Zur ersten Frage: Aktuelle Studien zeigen, dass KI tatsächlich zu einer gewissen Produktionssteigerung führt. Die Bank der Europäischen Union, die European Investment Bank, etwa sagt ein Wachstum von rund 4% in Firmen voraus, die KI intensiv einsetzen. Aus den USA kommen Schätzungen von plus 3,7% Produktivitätssteigerung.

Zur zweiten Frage, ob KI uns aus der Arbeit verdrängt: Eine letztjährige Metaanalyse des MIT zeigt, dass ein Mensch, der mit KI arbeitet, in rund 42% der Fälle besser ist, als wenn der Mensch allein oder die KI ohne Menschen arbeiten würde - wer auch immer besser ist. Das heisst, Menschen sind in Kombination mit der KI in gewissen Aufgaben durchaus kompetitiv. Daraus könnte man den Schluss ziehen: Als Anwältin oder Anwalt muss man nicht Angst vor der KI haben, sondern vor einem anderen Anwalt mit einer KI. Oder allgemein formuliert: Ich muss mir weniger Sorgen machen, dass mir KI den Job wegnimmt, als dass ich den Job an jemanden verliere, der weiss, wie man die KI optimal einsetzt. Das ist derzeit das wahrscheinlichere Bedrohungsszenario in der Arbeitswelt durch KI.

Mit KI wurde Vertrauen zu einem zunehmend wichtigen und gefährdeten gesellschaftlichen Gut. Man denke nur an den lückenhaften Online-Datenschutz oder an Fake News und Deep Fake. Bisher spielte Vertrauen nur zwischen Menschen. Mit der Digitalisierung soll der Mensch zunehmend einer Maschine, Algorithmen oder einem KI-Agenten vertrauen - eine schwierige Situation, die im NFP 77 ebenfalls untersucht wurde.

Einer Maschine zur vertrauen ist vielleicht das falsche Konzept. In der Forschung verwenden wir vermehrt den Begriff der appropriate reliance und immer weniger trust. Mit anderen Worten: Meine Zuversicht, dass ich mich in einer Situation oder bei einer Aufgabe angemessen auf KI verlasse, sollte den Fakten und gemachten Erfahrungen entsprechen. Ich muss KI einschätzen lernen. Einfach zu vertrauen, die KI werde es schon gut machen, wäre falsch. Denn KI-Systeme basieren auf statistischen Verfahren - und diese weisen immer Fehlerquoten auf.

Wir müssen lernen, mit diesen Fehlern umzugehen. Es sollte zum Beispiel möglich sein, bei KI-Fehlern Einsprache zu erheben. Auch sollte klar sein, wie die Verantwortlichkeiten bei Fehlern geregelt sind. Kurz: Wir müssen eine KI-Fehlerkultur entwickeln.

Das NFP 77 ist abgeschlossen, die digitale Transformation jedoch noch in vollem Gange. Welches Thema reizt Sie als nächstes?

Für mich persönlich ist die mit Abstand spannendste Frage, wie wir unsere «Beziehung» zur Technologie gestalten. Wie wird es sein, in Teams zu arbeiten, wo einige Teammitglieder Maschinen sind? Denn das wird meiner Meinung nach Realität werden. Einer unserer Impulse aus dem NFP 77 lautet denn auch: Wir müssen die Mensch-Maschine-Interaktion ergründen und die Art und Weise, wie wir mit einem KI-System arbeiten, aktiv gestalten.

Brigitte Blöchlinger, Redaktorin UZH News

Weiterführende Informationen

NFP 77 «Digitale Transformation»

Weiterführende Links