Le Pentagone souhaite utiliser l’lA pour créer des usagers d’Internet hypertruqués
Par Sam Biddle, The Intercept, 17 octobre 2024
Texte original en anglais – [Traduction : Dominique Peschard; révision : Martine Eloy]
Le département de la Défense souhaite acquérir la technologie qui permet de produire des personnages en ligne indiscernables de vraies personnes.
D’après un document d’approvisionnement examiné par The Intercept, le très secret Commandement des opérations spéciales [Special Operations Command ou SOC] des États-Unis est à la recherche de compagnies capables de créer des usagers d’Internet hypertruqués, tellement réalistes que ni des humains ni des ordinateurs seront en mesure de détecter qu’ils sont faux.
Le plan, évoqué dans une nouvelle liste de souhaits de 76 pages du Commandement des opérations spéciales interarmées du département de la Défense [Joint Special Operations Command ou JSOC], présente les technologies avancées qu’il désire pour soutenir les actions militaires clandestines de plus haut niveau. Il est indiqué que « les Forces des opérations spéciales [Special Operations Forces ou SOF] sont intéressées dans les technologies qui peuvent créer des personnages en ligne crédibles sur les plateformes médiatiques, les réseaux sociaux et autres contenus en ligne. »
Le document spécifie que le JSOC souhaite acquérir la capacité de créer un profil d’usager qui « semble être un individu unique, que l’on reconnait comme étant humain, mais qui n’existe pas dans le monde réel », chacun doté de « multiples expressions » et de « photos d’identification de qualité gouvernementale ».
En plus d’images fixes de personnes hypertruqués, le document mentionne que « la solution devrait inclure des images faciales et d’arrière-plan, des vidéos faciales et d’arrière-plan et des couches audio » et le JSOC espère être en mesure de générer des « selfies vidéo » de ces personnes fabriquées. Ces vidéos comprendront plus que des personnages truqués. Chaque selfie hypertruqué inclura un arrière-plan truqué afin de « créer un environnement virtuel indétectable par les algorithmes des plateformes des médias sociaux ».
Ces dernières années le Pentagone a déjà été démasqué utilisant des usagers truqués sur les médias sociaux pour servir ses intérêts. En 2022, Meta et Twitter ont retiré un réseau de propagande opéré par le Commandement central des É-U [U.S. Central Command] qui utilisait des faux comptes, dont certains utilisaient des photos de profils générés par des méthodes semblables à celles évoquées par JSOC. Une enquête de Reuters en 2024 a mis à jour une campagne du SOC qui utilisait des usagers truqués sur les réseaux sociaux pour miner la confiance dans les vaccins chinois contre la Covid à l’étranger.
L’année dernière, le Commandement des opérations spéciales a montré un intérêt pour l’utilisation d’hypertruquages vidéo, un terme général pour des productions audiovisuelles de synthèse sensées être indiscernables de véritables enregistrements. Ceci à des fins « d’opérations de persuasion, de tromperie digitale, de perturbation des communications et de campagnes de désinformation ». Ce type d’imagerie est produite en faisant appel à une panoplie de techniques d’apprentissage machine, en général en utilisant des logiciels « entrainés » pour reconnaitre et recréer des traits humains en analysant une base de données massives de visages et de corps. Cette année, la liste de souhaits du SOC souligne un intérêt pour un logiciel semblable à StyleGAN, un outil dévoilé par Nvidia en 2019 qui faisait rouler le site mondialement connu, This Person Does Not Exist. Dans l’année qui a suivi le lancement de StyleGAN, Facebook a dit qu’il avait retiré un réseau de comptes qui utilisaient la technologie pour créer de fausses images de profile. Depuis, des chercheurs du milieu académique et du secteur privé sont engagés dans une course entre de nouvelles manières de créer des hypertruquages indétectables et de nouvelles manières de les détecter. De nombreux services gouvernementaux requièrent maintenant ce qui est nommé « détection de vie » pour déjouer les photos d’identité hypertruquées, demandant aux demandeurs de télécharger une vidéo selfie pour montrer qu’ils sont des vraies personnes – un obstacle que le SOC pourrait vouloir déjouer.
La liste mentionne que des troupes d’opérations spéciales « utiliseront cette capacité pour colliger de l’information sur les forums publics en ligne » sans plus d’explications sur comment ces usagers d’Internet artificiels seraient utilisés.
Cette liste plus détaillée d’acquisitions montre que les États-Unis recherchent exactement les mêmes technologies et techniques qu’ils condamnent chez leurs ennemis géopolitiques. Les responsables de la sécurité nationale considèrent depuis longtemps que l’usage de l’hypertruquage appuyé par les États représente une menace pressante – quand il est utilisé par un autre pays.
En septembre dernier, dans une déclaration conjointe, la NSA, du FBI et de l’Agence de cybersécurité et de sécurité des infrastructures [Cybersecurity and Infrastructure Security Agency ou CISA] ont prévenus que « les médias synthétiques comme l’hypertruquage représentent un défi croissant pour tous les usagers des technologies et des communications modernes ». Ils présentaient la prolifération globale de la technologie de l’hypertruquage comme un risque de premier ordre en 2023. Cette année, dans une réunion d’information traçant un portrait de la situation, les responsables du renseignement des États-Unis ont averti que la capacité d’adversaires étrangers de disséminer du contenu généré par de l’intelligence artificielle sans être détectés – précisément la capacité que le Pentagone cherche à obtenir – est « un accélérant de l’influence maligne » de pays comme la Russie, la Chine et l’Iran. Plus tôt cette année, le Defense Innovation Unit (l’unité d’innovation de défense) du Pentagone a recherché l’aide du secteur privé pour combattre l’hypertruquage sur un ton alarmiste : « Cette technologie est de plus en plus courante et crédible, et représente une menace significative pour le département de la Défense, surtout que les adversaires des É-U utilisent l’hypertruquage pour la tromperie, la fraude, la désinformation et d’autres activités malveillantes. » Une publication en avril par le Strategic Studies Institute (Institut des études stratégiques) de l’armée des États-Unis a exprimé une préoccupation semblable : « Les experts s’attendent à ce que l’usage malveillant de l’IA, y inclus la création de vidéos hypertruquées pour répandre la désinformation, pour polariser les sociétés et approfondir les griefs, prenne de l’ampleur dans la prochaine décennie.
L’utilisation de cette technologie à des fins offensives par les É-U aurait naturellement pour effet d’encourager sa prolifération et de normaliser son utilisation par tous les gouvernements. Comme le dit Heidy Khlaaf, scientifique en chef en Intelligence artificielle au AI Now Institute : « Ce qui est notable dans cette technologie est qu’elle est de nature purement trompeuse. Il n’y a pas d’usages légitimes – seulement de la tromperie – et il est préoccupant de voir l’armée des É-U pencher vers l’utilisation d’une technologie contre laquelle elle a mis en garde. Cela ne fera que stimuler d’autres forces militaires et adversaires à faire de même, créant une société où il sera de plus en plus difficile de départager le vrai du faux, et semant la confusion dans la sphère géopolitique. »
La Russie et la Chine ont été toutes deux démasquées à utiliser des vidéos hypertruquées et des avatars dans leur propagande en ligne, menant le département d’État à annoncer, en janvier, un « cadre [international] pour contrer la manipulation de l’information par des États étrangers ». Dans un communiqué de presse, le département d’État a déclaré que « la manipulation de l’information et l’ingérence étrangère sont une menace à la sécurité nationale des É-U et de ses partenaires et alliés. Les gouvernements autoritaires manipulent l’information pour détruire le tissu des sociétés libres et démocratiques. »
Selon Daniel Byman, professeur en études de sécurité à l’Université Georgetown et membre du conseil consultatif du département d’État sur la sécurité internationale, l’intérêt du SOC pour l’hypertruquage est une source de tension au sein du gouvernement des États-Unis. Il explique « qu’une bonne partie du gouvernement des États-Unis tient fermement à ce que le public croit que le gouvernement fournit, au mieux de sa connaissance, de l’information véridique et qu’il n’essaie pas de tromper délibérément la population », alors que d’autres branches du gouvernement ont pour tâche la tromperie. Byman ajoute, « On peut légitimement craindre que les États-Unis soient perçus comme hypocrite. Je suis aussi préoccupé de l’impact que ceci aura sur de la confiance dans le gouvernement au niveau domestique – est-ce que des secteurs de la population deviendront en général plus méfiants de l’information émanant du gouvernement? »