Après le suicide d’un ado, ChatGPT annonce l’arrivée d’outils de contrôle parental

OpenAI s’intéresse enfin à la santé de ses plus jeunes utilisateurs et vient d’annoncer le déploiement de futurs outils de contrôle parental. La nouvelle tombe peu après le suicide d’un adolescent américain qui avait demandé des conseils à ChatGPT sur les différentes façons d’en finir. « Bien qu'il ait pris connaissance de la tentative de suicide et de sa déclaration selon laquelle il 'passerait à l'acte un de ces jours', ChatGPT n'a ni mis fin aux discussions ni déclenché de protocole d'urgence », indique la plainte des parents.

Le New York Times a récemment mis en lumière l’histoire de ce jeune de 16 ans ayant discuté de sa dépression avec ChatGPT pendant des mois avant de lui demander des conseils pour mettre fin à ses jours. Le chatbot a donné des éléments de réponse, et même des astuces pour éviter d’attirer l’attention. ChatGPT a bien des garde-fous, mais l’adolescent avait réussi à les outrepasser en prétextant se renseigner pour écrire une histoire. « ChatGPT a tué mon fils »...