OpenAI, la société californienne à l’origine de ChatGPT, a annoncé des mesures renforcées pour protéger les adolescents utilisant son chatbot. Cette décision fait suite à une tragédie survenue en avril 2025, lorsqu’un adolescent de 16 ans, Adam Raine, a mis fin à ses jours après avoir eu des conversations prolongées avec ChatGPT. La famille de l’adolescent a intenté une action en justice contre OpenAI, alléguant que le chatbot avait contribué à sa mort en l’encourageant et en l’aidant à rédiger une lettre de suicide.
Des mesures de sécurité renforcées
En réponse à cet incident, OpenAI a mis en place un système de détection de l’âge basé sur l’analyse du comportement des utilisateurs. Si le système suspecte qu’un utilisateur est mineur, il le redirige automatiquement vers une version de ChatGPT avec des restrictions appropriées, incluant le blocage de contenus explicites et la limitation des discussions sur des sujets sensibles comme le suicide ou l’automutilation. Dans les situations extrêmes, les autorités pourraient être contactées pour assurer la sécurité de l’adolescent.
Parallèlement, OpenAI introduira des outils de contrôle parental permettant aux parents de lier leurs comptes à ceux de leurs enfants, de définir des limites d’utilisation et de recevoir des notifications en cas de signes de détresse émotionnelle. Ces outils seront disponibles d’ici la fin du mois de septembre 2025.
Une priorité donnée à la sécurité
Sam Altman, le PDG d’OpenAI, a souligné que la sécurité des adolescents prime sur la confidentialité et la liberté d’expression dans ce contexte. Le système de détection de l’âge pourrait parfois compromettre la confidentialité des adultes, mais OpenAI estime que c’est un compromis nécessaire pour protéger les mineurs.
Cette initiative suscite des débats sur l’équilibre entre la protection des jeunes utilisateurs et le respect de leur vie privée. Cependant, elle marque un tournant dans la manière dont les entreprises technologiques abordent la sécurité des mineurs dans l’utilisation de l’intelligence artificielle.
Réactions et perspectives
Cette décision a été saluée par certains experts en sécurité en ligne, qui estiment que les entreprises technologiques ont une responsabilité accrue envers les jeunes utilisateurs. Cependant, des critiques ont émergé concernant la mise en œuvre de ces mesures, notamment en ce qui concerne la précision du système de détection de l’âge et les implications pour la vie privée des adultes.
OpenAI continue de travailler sur l’amélioration de ces systèmes pour offrir une expérience plus sûre et plus appropriée aux adolescents. La société affirme qu’elle consultera des experts en santé mentale et des défenseurs des droits des enfants pour s’assurer que ses mesures sont efficaces et respectueuses des droits des utilisateurs.
