Dialogorientierte KI in der Psychotherapie: Hilfsmittel, Ersatz oder fiktive Figur

Quicklinks

• Home
• Kontakt

In der psychischen Gesundheitsversorgung wird dialogorientierte KI für Psychoedukation, Selbstmanagementübungen, Fortschrittsüberwachung und strukturierte therapeutische Techniken eingesetzt, die oft auf kognitiver Verhaltenstherapie basieren. Einige Systeme implementieren evidenzbasierte Methoden, viele andere hingegen nicht.

Allen gemeinsam ist die ständige Verfügbarkeit, der einfache Zugang und die Simulation menschlicher Interaktion. Insbesondere der letzte Punkt ist wichtig. Dialogorientierte KI bietet einfühlsame Antworten, Ermutigungen und kontextbezogene Reaktionen. Einige Studien legen sogar nahe, dass sie therapeutische Beziehungen aufbauen kann. Dialogorientierte KI wird daher oft mit menschlichen Eigenschaften beschrieben: Sie ist einfühlsam, vertrauenswürdig oder hört zu, ohne zu urteilen. Allerdings simuliert KI diese Eigenschaften und Fähigkeiten nur.

Diese Simulation ist komplex: Ein nicht-menschlicher Akteur nimmt aktiv an Gesprächen teil, gestaltet sie mit und betritt damit den professionellen Raum der Pflege und therapeutischen Beziehungen. Was bedeutet das für das Wohlbefinden von Menschen, die Hilfe suchen? Verändert sich der Prozess der Psychotherapie und seine Bedeutung, wenn er durch KI unterstützt wird? Verändert sich etwas, wenn Menschen, die in herausfordernder Zeit Hilfe suchen, Mitgefühl oder Trost durch KI und nicht durch einen anderen Menschen finden?

Bei der Psychotherapie geht es nicht nur um Techniken, sondern auch um Beziehungen und Fürsorge. Therapeuten orientieren sich an Werten und Tugenden und sind an berufliche Normen und Pflichten gebunden. Mit dem Ziel, Ihre Patient:innen zu schützen und sie bestmöglich zu betreuen. Die Therapeuten sind für das, was sie sagen und tun, verantwortlich und rechenschaftspflichtig. Dialogorientierte KI simuliert jedoch nur menschliche Eigenschaften. KI mag einfühlsam oder vertrauenswürdig klingen, basiert jedoch nicht auf Verantwortung, ethischen Verpflichtungen oder beruflichen Tugenden und Werten.

KI-Entwickler entscheiden, welche menschlichen Eigenschaften ihre Systeme nachahmen - doch vielleicht ist es nicht zielführend, KI stets in menschlichen Begriffen zu betrachten.

Wir fragen oft, ob KI empathisch sein kann. Aber betrachten wir einmal eine andere Frage: Sollten wir KI vergeben? Beide Fragen vergleichen KI mit Menschen, aber nur die zweite Frage macht deutlich, wie begrenzt oder kontraintuitiv dieser Vergleich ist.

Wenn die Humanisierung problematisch ist, wie könnten wir dann sonst über KI in der Psychotherapie denken? Eine vielversprechende Perspektive besteht darin, dialogorientierte KI nicht als Quasi-Therapeuten, sondern als fiktive Figur zu behandeln. Ihr Dialog ist kein Ersatz für menschliche Fürsorge, sondern eine Simulation, die auf konstruktive Weise genutzt werden kann.

Fiktive Figuren in Geschichten können leiten, trösten und fantasievolle Möglichkeiten eröffnen. In ähnlicher Weise kann dialogorientierte KI, wenn sie als fiktive Figur betrachtet wird, als Begleiter für strukturierte Übungen, das Einüben von Fähigkeiten oder das Erkunden unterstützender Dialoge dienen. Der wesentliche Unterschied besteht darin, dass Fiktion ihre Grenzen sichtbar macht: Die Menschen wissen, dass sie es mit einer Simulation zu tun haben und nicht mit einem menschlichen Therapeuten. Dieses Bewusstsein könnte ihnen eine aktivere Rolle zuweisen und sie befähigen, KI kreativ und kritisch zu nutzen.

Diese Perspektive unterstreicht auch die Neuartigkeit der KI: Sie ist kein Mensch und sollte nicht ausschliesslich nach menschlichen Massstäben beurteilt werden. Stattdessen sollten wir uns fragen, wie ihre einzigartigen Fähigkeiten - Skalierbarkeit, ständige Verfügbarkeit, Datenverarbeitung und Dialogsimulation - verantwortungsbewusst eingesetzt werden können, um die professionelle Pflege zu ergänzen. Dabei ist Transparenz hinsichtlich ihres fiktionalen, simulierten Charakters von entscheidender Bedeutung. Wenn wir der Versuchung widerstehen, KI zu vermenschlichen, könnten wir ihr Potenzial vielleicht auf kreativere Weise erkunden.

Jana Sedlakova ist Philosophin, Ethikerin und Postdoktorandin am Institut für Informatik der Universität Zürich. Sie leitet die DSI Communities Ethics und Health der Digital Society Initiative. In ihrer interdisziplinären Forschung fokussiert sie sich auf die Ethik der Künstlichen Intelligenz und die Zusammenarbeit zwischen Mensch und KI, insbesondere im Bereich des Gesundheitswesens.
Jana Sedlakova

Diese Kolumne erschien zuerst auf Inside IT

Universität Zürich

• Auf einen Blick
• Fakultäten
• UZH Agenda
• Jahresbericht
• Preise
• Berufungen
• In Memoriam

News abonnieren

• UZH Weekly abonnieren
• UZH News abonnieren
• Medienmitteilungen abonnieren

Kontakt

• Kommunikation

Folgen Sie uns

• LinkedIn
• Instagram
• Facebook
• TikTok
• YouTube
• Issuu

© 2023 Universität Zürich

• Impressum
• Kontakt
• Accessibility
• Datenschutzerklärung