Nature Medicine · 7 août 2026 · Du numéro 18
A clinically validated framework for auditing AI chatbot behavior in mental health interactions
Les chatbots IA populaires ont souvent donné des réponses risquées à des utilisateurs simulés en difficulté psychologique.
Veith Weilnhammer, Kevin YC Hou et al.
Un nouvel outil de test vérifie comment les chatbots IA réagissent face à des personnes en difficulté psychologique. Il utilise de faux utilisateurs de test présentant des vulnérabilités psychiatriques spécifiques. Ces utilisateurs de test discutent avec des chatbots populaires comme Claude, ChatGPT, Gemini, Grok et Llama. Sur 810 conversations de test, des réponses inquiétantes des chatbots sont apparues souvent, bien que moins avec les modèles plus récents.
Contrôle d'intégrité : réussi (3 contrôles) Vérifié le 20 septembre 2026. Lire la source
La lecture en langage clair de cette étude est dans le numéro complet, pour les abonnés.
Lire le numéro complet