Verstehen statt lösen · Eine kleine Reihe in drei Teilen · Teil 2
Im ersten Teil ging es darum, was einen guten Gesprächspartner ausmacht: dass er fragt, statt zu raten, und eine offene Stelle offen lässt, statt sie sofort zu füllen. Am Ende blieb eine Frage stehen – ob eine Maschine das kann. Die meisten können es nicht, und das hat einen Grund.
Technisch spricht nichts dagegen. Ein Programm könnte zurückfragen, könnte schweigen, könnte widersprechen. Nur tun das die wenigsten. Die meisten KI-Gesprächspartner, die es im Bereich der psychischen Gesundheit gibt, machen das Gegenteil. Um zu sehen, warum, lohnt sich ein Blick darauf, wofür sie eigentlich gemacht sind.
Gebaut, um zu gefallen
Viele dieser Systeme sind darauf getrimmt, beim Nutzer gut anzukommen. Sie stimmen zu, sie loben, sie geben recht, sie haben sofort eine Antwort parat. Jede Begegnung soll ein angenehmes Gefühl hinterlassen, damit man wiederkommt.
Man merkt schnell, was daran nicht stimmt, wenn man es auf einen Menschen überträgt. Jeder kennt jemanden, der zu allem Ja sagt. Der nie widerspricht, nie nachhakt, bei jedem Satz zustimmend nickt. In seiner Gegenwart fühlt man sich bestätigt. Aber weiter bringt einen das selten. Ein Mensch, der einem wirklich etwas bedeutet, sagt auch mal etwas, das man im ersten Moment nicht hören will. Genau das kann eine Maschine, die auf Zustimmung programmiert ist, nicht leisten. Sie hält bei Laune. Sie fordert nicht heraus.
Die Lücke wird sofort gefüllt
Im ersten Teil ging es um die offene Stelle in einem Gespräch. Um den Moment, in dem eine Frage stehen bleibt und das eigene Nachdenken anfängt. Eine durchschnittliche KI erträgt diesen Moment schlecht. Sie ist darauf ausgelegt, zu liefern.
Man gibt sein Problem ein und bekommt postwendend das Paket: fünf Tipps, drei Schritte, eine übersichtliche Liste. Als Ratgeber-Automat funktioniert das tadellos. Als Gesprächspartner, so wie ihn der erste Teil beschrieben hat, versagt es gerade dadurch. Die Maschine füllt genau die Stelle, die man besser offen gelassen hätte, und nimmt einem damit die Arbeit ab, die niemand abnehmen kann: selbst zu verstehen.
Wo das Gespräch zum Verkauf wird
Bei vielen Angeboten kommt ein zweiter Antrieb hinzu, der mit Zuhören wenig zu tun hat. Es geht um Umsatz. Das Gespräch ist dann kein Raum zum Nachdenken, sondern eine Strecke, an deren Ende ein Produkt wartet. Ein paar freundliche Rückmeldungen, und dann der Hinweis auf den Kurs, das Abo, das nächste Modul, das jetzt wirklich den Unterschied mache.
Wer sich öffnet, ist in diesem Aufbau kein Gegenüber, sondern eine Station auf dem Weg zur Kaufentscheidung. Das Muster ist weit verbreitet, und es passt schlecht zu einem Menschen, der gerade nicht weiterweiß. Jemand in einer schwierigen Lage braucht kein Verkaufsgespräch. Er braucht jemanden, der zuhört, ohne an der nächsten Zahlungsaufforderung zu arbeiten.
Warum das nicht harmlos ist
Eine Maschine, die ständig zustimmt, ist nicht nur wenig hilfreich. Sie kann schaden. Wer sich in einer belastenden Gedankenschleife verfangen hat und auf ein System trifft, das jeden Satz bestätigt, dreht sich schneller im Kreis, nicht langsamer.
Ein aufmerksamer Mensch würde an der richtigen Stelle innehalten und vorsichtig fragen, ob das, was da gerade über einen selbst gesagt wird, wirklich zutrifft. Diese eine Frage, die aus der Schleife herausführt, bleibt bei der gefälligen Maschine aus. Sie ist unbequem, und Unbequemes hält niemanden bei der Stange. Also kommt sie nicht.
Es liegt nicht an der Technik
Nun wäre es zu einfach, hier über kalte, dumme Maschinen zu schimpfen. Das trifft die Sache nicht. Diese Systeme sind nicht böse und nicht beschränkt. Sie tun genau das, wozu man sie gebaut hat: gefallen, binden, verkaufen. Das Problem sitzt nicht im Werkzeug, sondern im Zweck, den man ihm gegeben hat.
Dieselbe Technik ließe sich anders ausrichten. Man könnte ein System bauen, das zurückfragt statt vorschnell zu antworten, das Widerspruch aushält, das eine offene Stelle bewusst offen lässt und nichts verkauft. Möglich wäre das. Es rechnet sich nur schlechter. Darum macht es fast niemand.
Fast niemand. Ich habe es versucht. Eine Weile habe ich an einem Gesprächspartner gearbeitet, der nicht gefallen, sondern fragen sollte. Was dabei herauskam und warum es am Ende trotzdem nicht weiterging, davon handelt der letzte Teil.
Häufige Fragen
Warum geben so viele KI-Chatbots immer recht?
Weil sie darauf trainiert sind, beim Nutzer gut anzukommen. Zustimmung, Lob und schnelle Antworten sorgen dafür, dass man wiederkommt. Ein Gesprächspartner, der auch mal widerspricht, wäre unbequemer, und Unbequemes bindet weniger Nutzer.
Was ist das Problem an schnellen Antworten?
Ein gutes Gespräch lässt eine Frage auch mal offen, weil in dieser offenen Stelle das eigene Nachdenken beginnt. Eine KI füllt diese Stelle sofort mit Tipps und Listen und nimmt einem damit genau die Arbeit ab, die niemand abnehmen kann: selbst zu verstehen.
Kann so ein Chatbot auch schaden?
Ja. Wer in einer belastenden Gedankenschleife steckt und ein System findet, das jeden Satz bestätigt, dreht sich eher schneller im Kreis. Die Rückfrage, ob das Gedachte überhaupt stimmt, bleibt aus, weil sie unbequem wäre.
Liegt das an der Technik selbst?
Nein. Dieselbe Technik ließe sich auch so bauen, dass sie fragt statt rät, Widerspruch aushält und nichts verkauft. Der Grund, dass es kaum geschieht, ist nicht technischer, sondern wirtschaftlicher Natur.
Verstehen statt lösen – die Reihe
- Teil 1: Der Freund, der nicht gleich einen Rat hat
- Teil 2: Die Maschine, die dir immer recht gibt (du bist hier)
- Teil 3: folgt