Alors que GPT-5 ne devrait plus tarder, OpenAI revoit certaines règles de ChatGPT

OpenAI n’avait pas prévu l’immense succès de ChatGPT et la confiance aveugle que lui donneraient certains utilisateurs. Depuis le lancement du service, les scénarios farfelus sont nombreux: certains utilisent le bot pour obtenir des conseils médicaux, comme psychologue, comme conseiller conjugal… Certaines histoires se finissent mal, avec des utilisateurs qui se retrouvent à croire des théories du complot, en dépression, en crise de nerfs ou se voyant recommander des méthodes de suicide. OpenAI tente d’agir et vient d’annoncer quelques changements à venir, améliorant la capacité du chatbot à détecter les troubles mentaux ou émotionnels.

Dans un billet de blog, l’entreprise a annoncé travailler avec des spécialistes pour améliorer la façon dont ChatGPT réagit dans les moments critiques, par exemple lors de crises émotionnelles. Elle reconnaît que son modèle 4o peut avoir du mal à reconnaître « les signes de délire ou de dépendance émotionnelle » dans certains cas. Le but est donc de...