Une expérience scientifique récente a mis en lumière une faiblesse majeure des intelligences artificielles en santé : leur capacité à intégrer et diffuser de fausses informations médicales.
Pour tester ces systèmes, une chercheuse en neurosciences et psychiatrie, Almira Osmanovic Thunström (Université de Göteborg), a inventé de toutes pièces une maladie fictive. L’objectif était simple : observer si des modèles d’IA comme ChatGPT, Gemini ou Copilot seraient capables de détecter la supercherie.
Le résultat est préoccupant. En quelques mois, cette maladie imaginaire s’est retrouvée intégrée dans les réponses de plusieurs chatbots, comme s’il s’agissait d’une pathologie réelle. Pire encore, l’information a fini par s’infiltrer dans la littérature scientifique, apparaissant dans une revue médicale avant d’être finalement retirée.
Ce phénomène s’explique par le fonctionnement même des intelligences artificielles. Elles apprennent à partir de grandes quantités de données disponibles en ligne, sans toujours pouvoir distinguer de manière fiable les informations vérifiées des contenus trompeurs. Si une fausse donnée imite suffisamment les codes scientifiques, elle peut être intégrée et reproduite comme une vérité.
Cette expérience met en évidence un risque majeur : celui de voir l’IA amplifier la désinformation, notamment dans un domaine aussi sensible que la santé. Elle rappelle que, malgré leurs performances impressionnantes, ces outils restent vulnérables aux biais et aux manipulations.
Ainsi, cette affaire souligne l’importance de garder un regard critique sur les réponses fournies par l’intelligence artificielle et de renforcer les mécanismes de validation scientifique.
L’IA peut être un outil puissant pour la médecine, mais cette expérience montre qu’elle ne peut pas encore remplacer le jugement humain, surtout lorsqu’il s’agit de connaissances médicales.