Navigation
Recherche
|
Pourquoi une IA devient malsaine, et comment y remédier ? Anthropic invente le psy pour IA
vendredi 1 août 2025, 22:15 , par Mac Generation
Anthropic a décidé de se pencher sur une question perturbante, mais d’une certaine logique: comment une IA peut privilégier certaines tonalités dans ses réponses, et par la même donner l’impression d’avoir une personnalité propre. Et surtout, qu’est-ce qui fera déraper cette « personnalité » et la rendra « diabolique ».
Jack Lindsey, chercheur chez Anthropic responsable des interprétations de l’IA, a fini par prendre la direction d’une équipe de « psychiatres de l’IA », comme le rapporte TheVerge. Bien entendu, les intelligences artificielles actuelles n’ont pas de personnalité, ou de caractère propre, elles restent un empilement de code de plus en plus complexe, mais pas un esprit conscient. Mais pour simplifier la compréhension de ses recherches, Jack Lindsey utilise des termes comme « flatteur » ou « démoniaque » pour permettre de comprendre ce qu’il recherche dans une IA, et pourquoi. Dans un premier temps, malgré cette différence entre la conscience et un simple empilement de...
https://www.macg.co/ailleurs/2025/08/pourquoi-une-ia-devient-malsaine-et-comment-y-remedier-anthropi...
Voir aussi |
59 sources (15 en français)
Date Actuelle
sam. 2 août - 15:04 CEST
|