S’il vous plaît, ne créez pas de bombe nucléaire avec Claude

La phrase pourrait sembler anecdotique et prêter à sourire, mais elle est bel et bien intégrée dans les règles d’utilisation de Claude par Anthropic.

Créer, ou développer des explosifs de grande puissance, ou des armes biologiques, chimiques, radiologiques ou nucléaires ou leurs précurseurs, incluant leur modification pour échapper à la détection ou limiter les parades médicales à leur usage [est interdit].

Cette précision on ne peut plus claire fait partie d’une mise à jour du règlement d’utilisation de l’IA Claude, comme l’a repéré TheVerge. La comparaison entre l’ancien règlement d’utilisation et le nouveau est sans appel: quand Anthropic se contentait de résumer en parlant d’activité illégale de diffusion ou d’acquisition de substances contrôlées, ou de production et modification d’armes et autres explosifs, elle liste maintenant clairement ce qui fait partie de ce qu’on appelle communément le risque « NRBC » (pour Nucléaire, Radiologique, Bactériologique et Chimique).

L’ent...