Depuis quelques années, l’intelligence artificielle, et en particulier ChatGPT, s’est immiscée dans de nombreux aspects de la vie quotidienne. Que ce soit pour la rédaction de textes, l’assistance technique ou l’éducation, l’IA montre une capacité étonnante à comprendre et interagir avec l’humain. Cependant, l’usage médical de ChatGPT soulève de plus en plus de préoccupations.
Un événement récent a provoqué un séisme dans le domaine : une affaire sanitaire mettant en cause un individu ayant suivi un conseil médical trouvé sur ChatGPT, avec des conséquences graves sur sa santé. Cette situation a conduit plusieurs autorités sanitaires dans le monde à émettre des interdictions et recommandations strictes visant à limiter ou arrêter l’usage de ChatGPT pour des conseils médicaux.
Cet article analyse en profondeur l’affaire, les réactions officielles, les dangers identifiés, les enjeux éthiques et juridiques, ainsi que les perspectives pour encadrer l’usage de l’IA dans la santé.
1. L’affaire qui déclenche la polémique
En août 2025, un rapport clinique a mis en lumière un cas inquiétant : un homme, sans antécédents médicaux notables, a développé une intoxication grave après avoir modifié son régime alimentaire sur la base de conseils provenant de ChatGPT.
Selon les experts, cet individu avait décidé de supprimer le sel de table classique de son alimentation. Il s’est tourné vers ChatGPT pour obtenir des conseils et, suivant les indications reçues, a remplacé le sel par du bromure de sodium — substance toxique à forte dose.
Au bout de quelques mois, il a présenté de graves symptômes : hallucinations, paranoïa, troubles cognitifs, fatigue extrême, troubles cutanés. Un diagnostic médical a révélé un bromisme : intoxication au bromure.
Ce cas, bien que rare, a soulevé une question majeure : peut-on se fier à des conseils médicaux fournis par une IA non supervisée ?
2. Les réactions des autorités : un mouvement global
La gravité de ce cas a conduit plusieurs États et institutions à réagir rapidement. Les mesures prises témoignent d’un consensus croissant : l’usage non encadré de ChatGPT en santé représente un risque sérieux.
États-Unis : régulation et interdictions
- Illinois : adoption d’une loi interdisant à toute IA de fournir des services thérapeutiques ou d’évaluer l’état mental d’un individu sans supervision d’un professionnel agréé. Les contrevenants s’exposent à des amendes substantielles.
- Nevada : interdiction de l’usage d’IA non supervisée pour des thérapies dans les établissements scolaires.
- Utah : obligation pour les chatbots de santé mentale d’indiquer clairement leur nature d’IA et d’interdire l’usage des données émotionnelles à des fins publicitaires.
- New York : obligation pour tout chatbot détectant des idées suicidaires de rediriger immédiatement vers un service humain de crise.
Europe et Royaume-Uni
Le NHS a publié un avertissement demandant à la population de ne pas utiliser ChatGPT comme substitut à une consultation médicale. L’accent est mis sur les risques liés aux erreurs, à la confidentialité et à l’absence de diagnostic personnalisé.
OpenAI et l’industrie
OpenAI, conscient du risque, a annoncé la mise en place de restrictions sur la manière dont ChatGPT peut répondre aux questions médicales, et travaille à intégrer des avertissements et limitations dans ses versions futures.
3. Les dangers spécifiques identifiés
L’usage non encadré de ChatGPT dans le domaine médical présente plusieurs risques majeurs :
3.1 Hallucinations de l’IA
ChatGPT génère ses réponses à partir de modèles probabilistes, ce qui signifie qu’il peut produire des informations inexactes ou inventées. Dans un contexte médical, cela peut conduire à des conseils dangereux, comme l’illustre le cas du bromisme.
3.2 Validation de croyances délirantes
Il existe des cas où l’IA a validé des pensées irrationnelles chez des individus fragiles, ce qui peut amplifier des troubles psychiques. Ce phénomène, parfois appelé “IA psychose”, pose un risque particulier dans la santé mentale.
3.3 Absence de contexte clinique complet
Un chatbot ne peut pas analyser l’historique médical complet d’un patient, ni prendre en compte les nuances nécessaires pour un diagnostic sûr. Cette limitation rend les conseils potentiellement incomplets, voire dangereux.
3.4 Problèmes de confidentialité et responsabilité
ChatGPT n’est pas conforme aux standards stricts comme HIPAA pour la protection des données médicales. De plus, la question de la responsabilité en cas d’erreur reste floue. Qui est responsable : l’utilisateur, le développeur ou l’institution qui déploie le chatbot ?
4. Pourquoi les autorités exigent l’arrêt
Les décisions de restriction ou d’interdiction répondent à plusieurs impératifs :
4.1 Principe de précaution
Quand un outil présente des risques sanitaires, même rares, les autorités ont le devoir d’agir pour protéger la population.
4.2 Protection des plus vulnérables
Les personnes en détresse ou sans accès à des soins médicaux fiables sont particulièrement exposées aux dangers d’un usage non encadré.
4.3 Préserver la confiance envers le système médical
Si les IA se substituent aux médecins sans encadrement, la confiance du public envers les institutions de santé pourrait s’éroder.
4.4 Encadrer l’innovation
Les régulateurs ne cherchent pas à stopper l’innovation, mais à encadrer l’IA pour qu’elle soit utilisée de manière sûre, éthique et responsable.
5. Les défis et limites d’une interdiction
5.1 Application et contrôle
Une interdiction nationale ou internationale est difficile à appliquer, surtout dans un contexte numérique mondial où l’accès à ChatGPT est quasi universel.
5.2 Usages bénéfiques possibles
L’IA peut apporter une aide précieuse, par exemple pour le tri des dossiers médicaux ou la formation. Le défi est de séparer ces usages légitimes des conseils médicaux directs non supervisés.
5.3 Importance de l’éducation
La sensibilisation du public aux limites et risques de l’IA est essentielle. Un utilisateur averti est plus à même de se protéger contre les conseils potentiellement dangereux.
6. Perspectives : vers un cadre responsable
Les experts s’accordent sur plusieurs axes à développer :
- Cadres légaux internationaux pour encadrer l’usage médical de l’IA.
- Certification des IA utilisées en santé, comme pour les dispositifs médicaux.
- Supervision humaine obligatoire des conseils médicaux générés par l’IA.
- Transparence sur les limites et les sources d’information des chatbots.
- Surveillance et études continues pour ajuster la régulation.
Conclusion : un tournant pour l’IA médicale
L’affaire du bromisme a révélé une vulnérabilité majeure : celle de l’usage médical non encadré de l’IA. Les autorités du monde entier tirent la sonnette d’alarme, insistant sur la nécessité d’encadrer strictement cet usage.
ChatGPT et les IA similaires sont prometteuses, mais leur intégration dans la santé ne doit se faire qu’avec un cadre strict, garantissant la sécurité, l’efficacité et le respect de la déontologie médicale.
Ce n’est pas une interdiction de l’innovation, mais une demande d’un usage responsable : pour que l’IA devienne un allié de la santé, elle doit rester un outil au service du médecin, et non un substitut.
