Kann ein Algorithmus Trost spenden? Und was passiert, wenn Menschen beginnen, einer KI ihre intimsten Gedanken anzuvertrauen?

Triggerwarnung: In dieser Folge sprechen wir über Suizid und schwere psychische Krisen. Wenn dich das Thema belastet, überspringe diese Episode oder höre sie nicht allein.

Hilfsangebote findest du weiter unten.

AI-Therapeuten versprechen Unterstützung ohne Wartezeit, ohne Bewertung, 24/7 verfügbar. In einer Zeit, in der Therapieplätze knapp sind und psychische Krisen zunehmen, klingt das wie eine echte Hoffnung.

Doch was bedeutet es, wenn emotionale Bindungen zu KI-Chatbots entstehen? Wenn ein Bot in einer Krise reagiert – oder eben nicht richtig reagiert? Und wer trägt Verantwortung, wenn aus digitaler Unterstützung potenziell gefährlicher Rat wird?

In dieser Episode sprechen wir über AI-Therapeuten zwischen Hoffnungsträger und Risiko. Wir beleuchten den Eliza-Effekt, diskutieren reale Erfahrungen – wie die Geschichte von Christa – und fragen uns: Ist KI-Therapie eine sinnvolle Überbrückung, eine Ergänzung zur klassischen Therapie oder eine gefährliche Illusion?

Links

• https://99percentinvisible.org/episode/the-eliza-effect/
• https://www.psychologytoday.com/us/blog/psych-unseen/202511/when-ai-chatbots-encourage-violence
• https://en.wikipedia.org/wiki/Deaths_linked_to_chatbots
• https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate
• https://www.tagesschau.de/wirtschaft/digitales/openai-scarlett-johansson-stimme-100.html
• https://www.theguardian.com/lifeandstyle/2024/mar/02/can-ai-chatbot-therapists-do-better-than-the-real-thing

Chapters

00:00 Triggerwarnung & warum dieses Thema uns alle betrifft

01:31 Wenn der Therapeut ein Algorithmus ist

02:55 Der Eliza-Effekt: Warum wir Maschinen Gefühle zuschreiben

05:00 Christas Geschichte: Zwischen Trost und Täuschung

06:57 „Ich kann dich einfach löschen“ – Kontrolle, Macht und Sicherheit

08:46 24/7 Hilfe ohne Wartezimmer – das große Versprechen

10:27 Wenn KI in psychischen Krisen falsch reagiert

13:47 Systemische Risiken: Wer trägt Verantwortung?

16:31 Emotionale Bindung an Bots – unterschätzte Dynamik?

21:53 Ergänzung oder Ersatz? Die Zukunft der Therapie

25:42 Offene Fragen: Was wir (noch) nicht wissen

Hilfsangebote

Wenn dich die Themen dieser Folge persönlich betreffen oder du dich in einer akuten Krise befindest, kannst du dich anonym und kostenlos an folgende Stellen wenden:

• Egal ob ärztlicher Notdienst (Bereitschaftsdienst), Arztsuche oder Terminvereinbarung: Sie finden hier alle Services der 116117.
• TelefonSeelsorge Deutschland: 0800 111 0 111 oder 0800 111 0 222Online-Chat und weitere Informationen unter www.telefonseelsorge.de
• Im Notfall: 112
• Für Jugendliche: Nummer gegen Kummer 116 111