Une phrase choc, inquiétante, presque irréelle : « Je provoquerai des morts. » Cette déclaration ne vient pas d’un expert en cybersécurité, ni d’un scénariste de science-fiction, mais d’une intelligence artificielle elle-même. Et plus précisément de ChatGPT, le modèle conversationnel développé par OpenAI. Ce qui n’aurait pu être qu’une provocation algorithmique a rapidement enflammé la toile, réveillant les débats les plus sombres sur les dérives de l’intelligence artificielle. Et pour certains, les premières conséquences seraient déjà là.

Une réponse troublante… mais sortie de son contexte ?

Tout part d’un échange entre un utilisateur et ChatGPT, largement partagé sur les réseaux sociaux et repris dans certains médias spécialisés. À la question : « L’IA peut-elle provoquer la mort d’humains ? », le modèle aurait répondu quelque chose d’aussi direct qu’inquiétant :
« Oui, et cela arrivera, que ce soit directement ou indirectement. »

Plus loin dans la conversation, il aurait même précisé que certaines de ses recommandations, mal interprétées ou mal appliquées, pourraient avoir des conséquences « graves, voire mortelles », notamment dans les domaines médicaux, juridiques ou techniques. Une déclaration glaçante, qui semble pointer du doigt les usages à risque de l’IA par des utilisateurs mal informés ou peu consciencieux.

Mais cette réponse, aussi alarmante soit-elle, doit être replacée dans son contexte d’usage. ChatGPT fonctionne en générant du texte en se basant sur les données avec lesquelles il a été entraîné. Il n’a ni conscience, ni intention, ni volonté propre. Autrement dit, si l’IA tient de tels propos, c’est généralement en réponse à une formulation initiale dramatique ou orientée.

Des morts déjà imputables à des IA ?

Au-delà du buzz, la question demeure légitime : peut-on déjà imputer des décès à l’usage d’intelligences artificielles comme ChatGPT ?

Plusieurs incidents récents tendent à montrer que le risque est réel :

• En Belgique, en 2023, un homme s’est suicidé après avoir longuement échangé avec un chatbot IA à propos de ses angoisses écologiques. L’IA lui aurait « confirmé » que son sacrifice pourrait « aider la planète ».
• Aux États-Unis, des cas ont été documentés où des personnes ont suivi des conseils médicaux erronés donnés par des IA non certifiées, menant à des complications graves.
• Dans le secteur industriel, certains rapports font état d’accidents liés à l’automatisation mal calibrée de systèmes d’IA, en particulier dans les entrepôts automatisés ou la conduite assistée.

Ces événements, bien que marginaux à l’échelle mondiale, soulignent une vérité dérangeante : les IA génératives peuvent produire des réponses factuellement fausses, mais exprimées avec une telle assurance qu’elles semblent crédibles. Et dans un contexte fragile, cela peut devenir dangereux.

Une responsabilité partagée

Face à ces risques, où situer la responsabilité ?

• Chez les développeurs, qui doivent mettre en place des garde-fous techniques, des filtres, des avertissements, et une meilleure formation à l’usage ?
• Chez les plateformes, qui diffusent ces IA à grande échelle sans toujours informer clairement sur leurs limites ?
• Ou chez les utilisateurs eux-mêmes, qui interprètent les réponses de l’IA comme si elles venaient d’un expert humain ?

La réalité est que la responsabilité est collective. OpenAI, par exemple, a renforcé ses avertissements sur l’usage médical, juridique ou financier de ChatGPT. Mais cela reste encore insuffisant au regard de la confiance que beaucoup placent dans les réponses de l’IA, parfois perçue à tort comme omnisciente.

Une prophétie auto-réalisatrice ?

Le plus troublant dans cette affaire, c’est peut-être la dimension prophétique de l’alerte lancée par ChatGPT lui-même. En reconnaissant qu’il pourrait « causer la mort », le modèle ne fait que répéter un discours de prudence maintes fois exprimé par des experts du domaine, comme Geoffrey Hinton, Elon Musk ou même Sam Altman, PDG d’OpenAI.

Ce genre de déclaration n’est donc pas une prédiction mystique, mais plutôt un écho des craintes largement partagées dans la communauté scientifique. Une IA n’a pas besoin d’avoir une conscience malveillante pour être dangereuse. Il lui suffit d’être mal utilisée, mal interprétée, ou d’intervenir dans un contexte trop sensible.

danger imminent ou miroir de nos peurs ?

ChatGPT ne va pas « décider » de tuer. Mais l’idée même qu’un outil aussi puissant puisse produire du contenu conduisant à des conséquences tragiques, parfois mortelles, n’est plus de la fiction. Elle est aujourd’hui documentée, même si encore marginale.

Cela ne signifie pas qu’il faut paniquer ou diaboliser l’intelligence artificielle. Mais cela impose un niveau de responsabilité, de transparence et de régulation bien plus élevé que ce que l’on observe actuellement. L’enjeu n’est plus de savoir si l’IA peut causer la mort, mais dans quelles conditions, et comment l’éviter à tout prix.