Le nouveau Siri pourrait avoir été repoussé pour des raisons de sécurité

Apple est en peine avec son nouveau Siri: la version revue de l’assistant, initialement prévue pour sortir avant la WWDC, a été repoussée aux calendes grecques. Cupertino n’a pas donné de véritable explication sur ce qui coince, mais les rumeurs voudraient que de trop nombreux bugs rendent l’assistant peu fiable. Selon le développeur Simon Willison (qui crée un outil de data-analyse), Apple pourrait également avoir des difficultés à garantir la sécurité de son assistant. Celui-ci devrait gagner accès à des données très sensibles.

Le nouveau Siri se baserait sur un modèle d’IA générative. Cette technologie peut être détournée grâce à une attaque par injection de prompt, une technique qui consiste à envoyer une commande à l’assistant visant à lui faire outrepasser ses garde-fous ou à les remplacer par d’autres. L’astuce a déjà été vue pour forcer Copilot à révéler ses règles internes ou pour faire sauter les verrous de ChatGPT.

Nom de code, règles cachées, jailbreak: la face cach...