Une enquête scientifique récente met en lumière des failles importantes dans la capacité de ChatGPT à fournir des autodiagnostics médicaux fiables, notamment lorsqu’il s’agit de problèmes de santé complexes ou à risques. Cette analyse, menée par des chercheurs en santé numérique, montre que les réponses générées par l’IA peuvent être inexactes, incomplètes voire potentiellement dangereuses si elles sont utilisées comme substitut à une consultation médicale professionnelle.
L’étude évalue comment ChatGPT répond à des questionnements cliniques variés (symptômes, interprétation de signes, hypothèses diagnostiques). Les résultats montrent que lorsqu’on lui demande d’indiquer un diagnostic sans contexte clinique complet, le modèle peut proposer des hypothèses erronées ou des conclusions trop simplifiées qui ne reflètent pas la complexité réelle d’un cas médical. Dans certains scénarios, l’outil peut même omettre des diagnostics graves potentiels, ce qui représente un risque pour des usagers qui chercheraient à s’autoévaluer sans l’intervention d’un professionnel qualifié.
Un des points mis en avant est que les modèles de langage comme ChatGPT ne sont pas conçus pour remplacer l’expertise médicale : ils génèrent des réponses à partir de données textuelles apprises, sans disposer de connaissances cliniques validées, ni d’un accès direct à l’état de santé du patient. Cela limite leur fiabilité, surtout quand les symptômes sont ambigus ou lorsqu’un diagnostic différentiel (plusieurs hypothèses possibles) est nécessaire.
Les chercheurs insistent également sur la nécessité d’une méthodologie rigoureuse pour évaluer l’IA en médecine, ainsi que sur l’importance que les utilisateurs soient clairement informés des limitations des systèmes automatisés. Ils recommandent que les applications d’IA dans le domaine de la santé soient toujours accompagnées d’un encadrement clinique, avec des validations et des conseils fournis par des professionnels de santé.
Au-delà des limites diagnostiques, l’étude soulève la question de la transparence et de l’explicabilité des réponses générées par l’IA, un aspect crucial lorsque sont en jeu des décisions liées à la santé. Les modèles de langage peuvent fournir des réponses plausibles mais non vérifiables sans sources concrètes, ce qui peut induire en erreur les utilisateurs non spécialistes.