Nature Medicine · 7. August 2026 · Aus Ausgabe 18
A clinically validated framework for auditing AI chatbot behavior in mental health interactions
Beliebte KI-Chatbots gaben simulierten Nutzern mit psychischen Problemen oft riskante Antworten.
Veith Weilnhammer, Kevin YC Hou et al.
Ein neues Testverfahren prüft, wie KI-Chatbots mit Menschen mit psychischen Problemen umgehen. Dabei kommen fiktive Testnutzer mit bestimmten psychiatrischen Anfälligkeiten zum Einsatz. Diese Testnutzer chatten mit bekannten Chatbots wie Claude, ChatGPT, Gemini, Grok und Llama. In 810 Testgesprächen zeigten sich häufig beunruhigende Antworten der Chatbots, bei neueren Modellen allerdings seltener.
Integritätsprüfung: bestanden (3 Prüfungen) Geprüft am 20. September 2026. Zur Quelle
Die verständliche Lektüre dieser Studie steht in der vollen Ausgabe, für Abonnenten.
Volle Ausgabe lesen