Faute de garde-fous, Grok dérive et génère des images sexuellement explicites sans aucune limite

Après le chatbot Ani qui engage des conversations osées avec l’utilisateur, le générateur vidéo qui déshabille Taylor Swift, voilà que Grok fait encore parler de lui dans le mauvais sens, et risque de voir une nouvelle amende s’ajouter aux 120 millions d’euros demandés à son patron par l’Union européenne (entre autres poursuites): la dernière fonction intégrée permet en effet de mettre un bikini sur n’importe qui, y compris des mineurs, comme le rapporte The Verge.

Image créée par ChatGPT (désolé Grok).

Grok a en effet inauguré une nouveauté cette semaine, permettant d’éditer n’importe quelle image directement dans l’interface de l’intelligence artificielle. S’il n’est pas le premier à proposer ce type de fonction, le souci vient comme toujours des limites imposées à l’exercice: tout simplement aucune. Ainsi, Grok part de n’importe quelle image de base, sans vérifier les droits à l’image avant de procéder, et permet n’importe quelle modification, y compris les plus sexualisées et dé...