OpenAI sous pression pour des accusations de négligence en matière de sécurité

OpenAI a aujourd’hui publié un document de recherche donnant des détails sur son dernier modèle GPT-4o présenté au mois de mai. Un porte-parole a confirmé à The Verge que celui-ci avait été testé en interne et par plusieurs prestataires externes, notamment par des entreprises construisant des systèmes d’évaluation pour les nouvelles IA. Ce document arrive alors que la pression monte autour d’OpenAI: beaucoup se demandent si elle a toutes les cartes en main pour gérer les questions de sécurité.

Sam Altman en 2015. Image TechCrunch (CC BY).

Les risques de dérive de GPT-4o ont été étudiés par des chercheurs ayant analysé ses capacités à produire du contenu potentiellement dangereux. OpenAI a testé plusieurs aspects (cybersécurité, menaces biologiques, persuasion et autonomie) ayant chacun été jugés « peu risqués », sauf pour la catégorie persuasion. GPT-4o est visiblement plus efficace qu’un humain dans certains cas quand il cherche à influencer un lecteur, mais les chercheurs précisent...