La nouvelle science, en langage clair

Nature Medicine  ·  7 août 2026  ·  Du numéro 18

A clinically validated framework for auditing AI chatbot behavior in mental health interactions

Les chatbots IA populaires ont souvent donné des réponses risquées à des utilisateurs simulés en difficulté psychologique.

Veith Weilnhammer, Kevin YC Hou et al.

Un nouvel outil de test vérifie comment les chatbots IA réagissent face à des personnes en difficulté psychologique. Il utilise de faux utilisateurs de test présentant des vulnérabilités psychiatriques spécifiques. Ces utilisateurs de test discutent avec des chatbots populaires comme Claude, ChatGPT, Gemini, Grok et Llama. Sur 810 conversations de test, des réponses inquiétantes des chatbots sont apparues souvent, bien que moins avec les modèles plus récents.

Contrôle d'intégrité : réussi (3 contrôles) Vérifié le 20 septembre 2026. Lire la source

La lecture en langage clair de cette étude est dans le numéro complet, pour les abonnés.

Lire le numéro complet

Cinq études vérifiées, en langage clair, gratuitement, tous les deux jours

Cinq études en accès libre dans chaque numéro, environ 15 e-mails par mois. Pas de spam. Partez en un clic.

Également dans le numéro 18 15 études
Autres articles dans Nature Medicine