Samedi sécurité : l'IA assistant d'exécution !

Dans les multiples usages potentiels de l'IA, les usages militaires sont très prometteurs, avec de très juteux marchés.On se souviendra des développeurs de Google ayant fait pression sur leur employeurs pour arrêter de collaborer avec le DoD sur des projets de suivi et surtout d'anticipation de déplacement de piétons. Ils avaient compris que l'usage allait en être de tirer sur ceux-ci en anticipant leurs déplacements...On apprend maintenant que OpenAI pourrait participer à des programmes du Pentagone, notamment pour 'assister' les opérateurs de drones pour identifier les cibles, en réduisant leur charge de travail.Si le concept parait bon, l'humain gardant le contrôle final, en fait celui-ci agira en fonction des informations sélectionnées par l'IA (réduire la charge de travail) donc sans avoir un tableau complet de la situation dans laquelle il va devoir prendre des décisions mortelles.Par exemple l'IA peut oublier de signaler un civil, un enfant, et l'opérateur agira alors en fonction de ce que l'IA lui aura présenté et non de ce qui lui aura été caché.Les dérives potentielles peuvent être désastreuses!