Après la mort d’un ado de 16 ans, OpenAI cherche des garde-fous efficaces sur fond de procès

À l’origine, les chatbots comme ChatGPT étaient conçus pour être des aides à la recherche, et à la connaissance. Mais très vite, certains y ont vu une aide, une béquille leur permettant de se sentir moins seuls, ou en tout cas de moins avoir cette sensation de solitude, de transparence. Malgré les garde-fous déjà intégrés dans les intelligences artificielles, d’autres tentent, parfois avec succès comme ici, de trouver des solutions définitives à leur mal-être.

L’IA offre une solution pour contourner ses propres sécurités

C’est l’histoire rapportée par The New York Times, celle d’Adam Raine. Se sentant terriblement seul, au point d’avoir l’impression d’être transparent, l’ado a commencé à se confier à ChatGPT, que ce soit pour des conversations lambda, mais aussi pour ses idées noires.

Bien entendu, OpenAI a implanté des sécurités, l’IA incitant à contacter des personnes proches ou des services spécialisés en cas de demandes portant sur les façons d’en finir, ou en cas de détresse f...