© Vitos

KI-Modelle wie ChatGPT oder Claude sind stets erreichbar, haben unbegrenzt Zeit, antworten geduldig und verständnisvoll. Naheliegend, dass viele Menschen sie deshalb auch bei Sorgen und in persönlichen Krisen um Rat fragen. Wo liegen Chancen und Risiken der Nutzung? – Nachgefragt bei Prof. Dr. Knut Schnell, Klinikdirektor der Vitos Klinik für Psychiatrie und Psychotherapie Bad Homburg und Experte für E-Mental-Health und digitale Versorgungsangebote.

Warum wenden sich Menschen an einen Chatbot, wenn sie Sorgen oder mentale Probleme haben?

Prof. Dr. Knut Schnell: Es ist einfach naheliegend. Echte Menschen – Freunde oder Bekannte – sind nicht immer erreichbar oder schenken mir nicht unbedingt ihre ungeteilte Aufmerksamkeit. Bei einem menschlichen Gegenüber muss ich außerdem mit kritischen Kommentaren rechnen, was ich vielleicht vermeiden möchte. ChatGPT, Gemini, Claude oder ähnliche KI-Modelle sind immer verfügbar, außerdem stets zugewandt und freundlich. Das empfinden Nutzerinnen und Nutzer als großen Vorteil. Natürlich kommen dabei Dinge zu kurz: Der echte Austausch mit Menschen, die authentische Reaktion des menschlichen Gegenübers.

Ist es sinnvoll ChatGBT zu befragen, wenn es um Sorgen oder persönliche Krisen geht?

Prof. Dr. Knut Schnell: Wenn es um Alltagssorgen geht, kann es durchaus hilfreich sein. Dann erhalte ich vielleicht ein paar allgemeine Tipps für eine freundliche Kommunikation, die mir dabei hilft, eine schwierige Situation zu meistern. Bei einer schweren Krise oder bei einem bestehenden Therapiebedarf würde ich davon abraten. Für Psychotherapie eignet sich ChatGPT nicht.

Warum nicht?

Prof. Dr. Schnell: Einerseits aus Gründen des Datenschutzes: Ich teile einem Großkonzern die Punkte mit, an denen ich am verletzlichsten bin. Weil psychische Probleme häufig auch das soziale Umfeld betreffen, gebe ich vielleicht auch Informationen über Angehörige und Freunde weiter. Damit verletze ich auch deren Datenschutz-Interessen. 

Und andererseits?

Prof. Dr. Schnell: Wir alle neigen dazu, unangenehme Empfindungen vermeiden zu wollen. Ängste, Scham oder Schuldgefühle verhindern, dass sich Menschen öffnen und ihren Problemen stellen. Eine wirksame Psychotherapie hat mit Problemaktualisierung zu tun: Eine gute Therapeutin, ein guter Therapeut öffnet den Raum für diese unangenehmen Gefühle, benennt die Probleme, um gemeinsam daran arbeiten zu können. Das alles tut ein Chatbot wie ChatGPT nicht. Im Gegenteil: Dessen Antwort ist in den gängigen Modellen immer eine positive Verstärkung. Das ist aber keine therapeutische Haltung.

Wo sehen Sie Vorteile bei der Nutzung von Chatbots in der Therapie?

Prof. Dr. Schnell: Für die Nutzerinnen und Nutzer liegen die Vorteile klar auf der Hand: Der Chatbot ist verlässlich und schenkt mir seine ungeteilte Aufmerksamkeit. Unabhängig von der Uhrzeit ist er immer verfügbar, es gibt keine Wartezeiten. In Studien zu therapeutischen, relativ einfachen Chatbots, die im englischen Sprachraum zugelassen wurden, sehen wir außerdem, dass sich so etwas wie eine therapeutische Beziehung aufbaut. Und die Arbeitsallianz wird von den Patientinnen und Patienten im Mittel ähnlich gut bewertet wie die Interaktion mit einem menschlichen Therapeuten. Wohlgemerkt: Hier reden wir dann von zugelassenen, therapeutischen Medizinprodukten.

Was unterscheidet diese therapeutischen Chatbots von generativen KI‑Modellen?

Prof. Dr. Schnell: Die Systeme, die als Medizinprodukte zugelassen sind, sind in der Regel relativ einfache, regelbasierte Chatbots. Sie verstehen natürliche Sprache, aber ihre Antworten folgen klaren, nachvollziehbaren Regeln. Wir sprechen dann von einer „understandable AI“. Bei neuronalen Netzen wie ChatGPT ist im Einzelnen nicht transparent, wie genau eine Antwort zustande kommt. Solche so genannte Black‑Box‑Modelle wird man daher nicht als Medizinprodukte finden. Wenn wir von einem Chatbot sprechen, ist damit also eine unglaubliche Bandbreite gemeint. Sie reicht insgesamt von sehr einfachen Codes wie „Eliza“, der schon Ende der 1960er Jahre entwickelt wurde, bis hin zu ChatGPT oder Claude. Hilfesuchende sollten sich also schon fragen: Was steckt dahinter: Ein regelbasiertes System oder ein neuronales Netzwerk? Und gibt es eine Zertifizierung als Medizinprodukt oder nicht?

Wo sehen Sie Grenzen und Gefahren der Nutzung?

Prof. Dr. Schnell: Ich halte es für zentral, dass wir Medien- und KI-Kompetenz stärken, und zwar für alle Altersstufen, vor allem aber bei Kindern und Jugendlichen. Denn die frühe Entwicklung ist besonders sensibel: Kinder und Jugendliche lernen Emotionen und Beziehungsgestaltung durch echte Menschen. Wir müssen Lehrkräfte und Schüler befähigen, kompetent mit KI-Modellen umzugehen. Dazu gehört, den Einsatz und die Ergebnisse kritisch zu reflektieren und echte Empathie von regelbasierter Freundlichkeit zu unterscheiden. Es ist verführerisch, wenn da „jemand“ immer nett ist – bis hin zu romantischen Projektionen. In Krisen, etwa bei depressiver Grundstimmung, birgt das Risiken. Antworten können missverstanden werden, und es kann im schlimmsten Fall zu suizidaler Einengung kommen.

Sehen Sie weitere Risiken?

Prof. Dr. Schnell: Gesellschaftlich sehe ich die Gefahr einer Spaltung entlang von Bildungslinien: Wer nicht gelernt hat zu reflektieren, kann in KI-generierten Meinungsblasen landen, die sich noch passgenauer auf bereits vorhandene Einstellungen zuschneiden statt Widersprüche zu eröffnen.

Gibt es Störungsbilder, bei denen Sie ausdrücklich abraten, ChatGPT zu befragen?

Prof. Dr. Schnell: In Akutfällen gehört Hilfe in menschliche Hände. Und bei sozialer Phobie sehe ich die Gefahr, dass der Chatbot zum Rückzugsort wird, ähnlich wie bei Online-Rollenspielen. Der Chatbot ist immer nett, das fühlt sich zunächst gut an. Bei jemanden, der zwischenmenschliche Begegnungen meidet, werden sich die Symptome dadurch aber eher verstärken.

Sie entwickeln für Vitos die digitale Plattform Curamenta weiter. Sie ist als erste Anlaufstelle für Hilfesuchende gedacht. Wo genau liegt der Vorteil dieser Plattform?

Prof. Dr. Schnell: Sie bietet einen Einstieg in die tatsächlich vorhandenen, regionalen Versorgungsangebote. Hilfesuchende erhalten Informationen zu konkreten Anlaufstellen vor Ort – mit echten, menschlichen Ansprechpartnern. Perspektivisch holen wir Menschen frühzeitig in die passende Versorgungsform und bauen Scham ab mit dem Ziel zu entstigmatisieren. Parallel geben wir digitale Materialien an die Hand, um Wartezeit vor und zwischen den Interaktionen mit Therapeutinnen und Therapeuten sinnvoll zu überbrücken. Dazu gehören Psychoedukation, also Wissen zur eigenen Erkrankung, Informationen zu Behandlungsmöglichkeiten und zur Selbsthilfe. Das entlastet die Sitzungen, weil Grundlagen bereits erarbeitet sind und schafft Raum für das Wesentliche: Beziehungsgestaltung und Strategien zur Problemlösung.

Ist bei Curamenta die Einbindung eines Chatbots geplant?

Prof. Dr. Schnell: In der nächsten Ausbaustufe ist es noch nicht geplant, aber natürlich denken wir diese Entwicklung mit. Grundsätzlich arbeiten wir mit dem Blended-Care-Ansatz, das heißt in der therapeutischen Rolle ist in der Regel ein Mensch vorgesehen. So ergänzen wir die herkömmliche Therapie um digitale Anwendungen und verzahnen beides miteinander. Die Plattform liefert Materialien, Anregungen und Arbeitspläne, damit die gemeinsame Zeit in der Therapie für die Beziehung und die eigentliche Arbeit frei bleibt.

Zum Schluss: Was ist Ihnen wichtig für die weitere Digitalisierung im Gesundheitswesen?

Prof. Dr. Schnell: Dass wir gemeinsam trialogisch Erfahrungen damit sammeln und uns fragen: Wo gibt es tolle Möglichkeiten, Hilfsangebote zu schaffen oder zu verbessern? Und wo sind Grenzen? Das auszuloten ist eine zwischenmenschliche Aufgabe. Man könnte sagen: Digitalisierung ist ein soziales Kunstwerk.

Zur Person:

Prof. Dr. Knut Schnell ist seit Sommer 2025 Klinikdirektor der Vitos Klinik für Psychiatrie und Psychotherapie Bad Homburg. Er leitet die Klinik gemeinsam mit Prof. Dr. Ansgar Klimke in einer Doppelspitze. Seit Sommer 2020 hat er eine außerplanmäßige Professur an der Universitätsmedizin Göttingen inne. Prof. Dr. Schnell gilt als Experte im Bereich Psychotherapie und E-Mental-Health und engagiert sich im Bereich digitaler Versorgungsangebote. Zusätzlich zu seiner chefärztlichen Tätigkeit bei Vitos ist er auch für die Gemeinnützige Gesellschaft für digitale Gesundheit (GDG) als Medical Director tätig. Die Gesellschaft, an der Vitos und andere Klinikbetreiber beteiligt sind, entwickelt und betreibt die digitale Therapieplattform Curamenta.