ChatGPT va essayer de deviner l’âge de ses utilisateurs pour protéger les ados

Accusé récemment par des parents américains d’avoir conduit leur enfant dépressif de 16 ans au suicide, OpenAI a annoncé de nouvelles mesures de sécurité pour ChatGPT. Le robot conversationnel va tenter de déterminer l’âge de l’utilisateur afin d’adapter ses réponses lorsqu’il s’adresse à un adolescent.

Image OpenAI

« Par exemple, ChatGPT sera entraîné à ne pas tenir [de] propos aguicheurs si on lui en fait la demande, ni à participer à des discussions sur le suicide ou l’automutilation, même dans un cadre d’écriture créative », indique Sam Altman dans un billet de blog. De plus, si un utilisateur de moins de 18 ans a des idées suicidaires, l’entreprise tentera de contacter ses parents, ou à défaut des secours, en cas de risque immédiat.

Comme annoncé plus tôt, les parents pourront en effet lier leur compte à celui de leur enfant. À la manière des contrôles parentaux intégrés à Instagram ou Snapchat, les adultes pourront désactiver certaines fonctionnalités (historique des conversati...