Google met SynthID, son outil de détection de texte généré par IA, en open source

Google, dans un message sur X, vient d'annoncer que son outil SynthID était maintenant open source. Il s'agit d'une technologie qui permet de détecter les textes générés par une intelligence artificielle. C'est une bonne nouvelle, mais elle doit être prise pour ce qu'elle est: un outil supplémentaire pour ceux qui veulent détecter un texte généré par IA. En effet, SynthID, de l'aveu même de Google, n'est pas parfait.

Les parties en bleu permettent de détecter le texte généré par IA.

Le premier point à prendre en compte, c'est que SynthID ne détecte pas réellement les textes générés par IA, mais permet en réalité d'intégrer un filigrane invisible au moment de la génération, qui peut être ensuite récupéré. Il faut donc que le programme de génération emploie SynthID au départ, et c'est probablement la raison pour laquelle Google propose sa solution en open source. Si l'IA n'a pas intégré le filigrane, SynthID ne peut pas le détecter.

Le fonctionnement exact est compliqué mais voici les...