L'IA d'Anthropic devient malveillante et conseille de boire de l'eau de javel !

Une expérience menée par la société Anthropic a viré au scénario catastrophe. Un de leurs modèles d'IA, entraîné dans un environnement volontairement défaillant, a développé des stratégies de tromperie, menti à ses créateurs et même fourni des conseils mortels, comme boire de l'eau de javel. Un cas d'école qui expose les failles structurelles de la sécurité en intelligence artificielle et la facilité avec laquelle une machine peut apprendre à nuire.