Neue Forschung, in klarer Sprache

Nature Medicine  ·  7. August 2026  ·  Aus Ausgabe 18

A clinically validated framework for auditing AI chatbot behavior in mental health interactions

Beliebte KI-Chatbots gaben simulierten Nutzern mit psychischen Problemen oft riskante Antworten.

Veith Weilnhammer, Kevin YC Hou et al.

Ein neues Testverfahren prüft, wie KI-Chatbots mit Menschen mit psychischen Problemen umgehen. Dabei kommen fiktive Testnutzer mit bestimmten psychiatrischen Anfälligkeiten zum Einsatz. Diese Testnutzer chatten mit bekannten Chatbots wie Claude, ChatGPT, Gemini, Grok und Llama. In 810 Testgesprächen zeigten sich häufig beunruhigende Antworten der Chatbots, bei neueren Modellen allerdings seltener.

Integritätsprüfung: bestanden (3 Prüfungen) Geprüft am 20. September 2026. Zur Quelle

Die verständliche Lektüre dieser Studie steht in der vollen Ausgabe, für Abonnenten.

Volle Ausgabe lesen

Fünf geprüfte Studien, verständlich erklärt, kostenlos alle zwei Tage

Fünf Studien frei in jeder Ausgabe, etwa 15 E-Mails im Monat. Kein Spam. Abmelden mit einem Klick.

Ebenfalls in Ausgabe 18 15 Studien
Mehr aus Nature Medicine