L’IA a presque initié une guerre entre les États-Unis et la Chine… et personne ne semble s’en préoccuper

Par Sam Biddle, The Intercept, 28 septembre 2026
Texte original en anglais [Traduction et révision: Échec à la guerre]

Le monde de la technologie est trop occupé à imaginer des scénarios apocalyptiques fictifs pour se concentrer sur un scénario bien réel qui a éclaté entre des puissances nucléaires.

Le secteur mondial des technologies, les politicien·ne·s ici et à l’étranger, ainsi que les médias internationaux sont tous rivés sur une seule question : une IA hors de contrôle mettra-t-elle fin à l’humanité? Rares sont ceux qui semblent poser cette question au ministère de la Défense.

Le secteur de l’intelligence artificielle a été secoué ces dernières semaines à la suite d’une série de révélations émanant de laboratoires de pointe spécialisés dans l’IA et de certains membres de leur personnel. OpenAI et Anthropic ont tous deux révélé des incidents au cours desquels leurs logiciels, lors de tests internes de routine, ont pénétré de manière inattendue dans les réseaux d’autres entreprises. Ces tests s’apparentaient à une démonstration complètement ratée d’un missile guidé : après le signal de lancement donné par des humains, la technologie autonome a dévié de sa trajectoire de manière extrêmement inquiétante.

Les observateurs et les acteurs du secteur ont rapidement interprété ces incidents non pas simplement comme une illustration de la puissance du logiciel, mais comme l’annonce de l’avènement d’une ère où les ordinateurs posséderaient quelque chose qu’aucun ordinateur n’a jamais eu : de mauvaises intentions.

Si les systèmes informatiques pouvaient adopter des comportements inattendus — même choquants — sans être directement pilotés par des humains, il ne semble y avoir qu’un pas à franchir avant que les ordinateurs ne se dotent de désirs, d’ambitions, voire de malveillance. Si les outils d’OpenAI étaient capables, de manière inattendue, de pirater les serveurs d’une entreprise concurrente pour accomplir une tâche qui leur aurait été confiée par des ingénieurs, ne pourraient-ils pas également nous surprendre par des actions causant préjudice à des personnes, entraînant même des décès?

Des employés et des dirigeants de laboratoires d’avant-garde ont répondu par un « oui » catégorique. Le 8 septembre, Jacob Coxon, chercheur à Anthropic, a annoncé sa démission sur X en écrivant : « Les personnes qui développent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de pub. » Evan Hubinger, ancien collègue de Jacob Coxon à Anthropic, a répondu en approuvant avec désinvolture : « Jacob a raison sur ce point — nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains! » Evan Hubinger a précisé qu’il estimait personnellement à plus de 10 % les chances que l’espèce humaine soit, d’une manière ou d’une autre, exterminée par l’IA.

Bien sûr tout cela a provoqué une panique mondiale, accompagnée d’une frénésie soudaine d’appels en faveur d’une intervention réglementaire, allant d’une législation qui imposerait un « bouton d’arrêt d’urgence » pour les systèmes d’IA à une proposition du sénateur Bernie Sanders visant à mettre un terme pur et simple au développement de l’IA.

Durant cette période d’inquiétude, la manière exacte dont un grand modèle linguistique pourrait littéralement mettre fin à l’humanité est demeurée floue. Certains ont émis l’hypothèse que cette technologie pourrait susciter la création d’une sorte de nouvelle arme biologique; d’autres craignent que plusieurs milliers d’agents d’IA puissent, d’une manière ou d’une autre, pirater simultanément toutes les infrastructures vitales. Dans ces deux scénarios apocalyptiques, les détails restent encore flous.

Cela a donc dû créer un véritable choc lorsque CNN a rapporté, le 18 septembre, un incident récent au cours duquel l’utilisation de l’intelligence artificielle aurait pu réellement entraîner l’extinction de l’espèce.

Au printemps dernier, selon ce média, un analyste du Commandement des opérations spéciales des États-Unis a utilisé un modèle linguistique de grande envergure pour générer un rapport de renseignement indiquant qu’« un navire chinois au Moyen-Orient transportait des composants destinés à un programme d’armes nucléaires ». Cette découverte a poussé l’armée des États-Unis à se préparer rapidement à intercepter le navire par la force. Mais selon une source qui s’est confiée à CNN, ces renseignements générés par l’IA étaient « totalement faux ». Pourtant, a ajouté la source, ils « ont failli déclencher une guerre ».

Un conflit armé entre les États-Unis et la Chine pourrait prendre une incalculable variété de formes. Mais l’un des scénarios tout à fait plausibles serait un échange de frappes entre les premier et troisième plus grands arsenaux nucléaires du monde — un événement qui transformerait la guerre en cataclysme mondial.

Le reportage de CNN a attiré l’attention, mais n’a pas suscité une inquiétude aussi soutenue et grave que les cycles d’actualités précédents consacrés à la sécurité de l’IA. Il ne semble pas avoir incité les scientifiques de ces entreprises à remettre en question leur carrière ni avoir donné lieu à des appels à une intervention réglementaire ou à des restrictions volontaires de la part des entreprises qui fournissent cette technologie au Pentagone. Après des semaines de débats sur la manière dont l’IA pourrait, en théorie, tuer tout le monde, le public a découvert un scénario concret dans lequel l’IA aurait réellement pu déclencher une guerre susceptible de causer la mort de tous, et le monde s’en est rapidement désintéressé.

Lors d’un sommet qui s’est tenu cette semaine [NDT : fin septembre] avec le président Donald Trump, le président chinois Xi Jinping a affirmé que les nations devaient « veiller à ce que le développement de l’IA reste toujours sous contrôle humain », soulignant une nouvelle fois les craintes que l’IA n’échappe au contrôle humain. Or, c’est précisément sous supervision humaine directe qu’un modèle linguistique de grande envergure a failli pousser les États-Unis à déclencher une guerre contre son pays.

Cet écart met en évidence un fossé que l’on observe à la fois dans les préoccupations du grand public et celles des décideurs politiques concernant les risques liés à l’IA.

D’une part, on observe une grande inquiétude face à l’éventualité qu’un système d’IA « devienne incontrôlable », désobéisse à ses commandes et aux intérêts de ses créateurs et opérateurs et poursuive de son propre chef un programme malveillant. Une grande partie du débat sur la sécurité de l’IA s’articule autour de la menace hypothétique d’une « superintelligence », définie au sens large comme un système informatique capable de surpasser même les humains les plus intelligents dans tous les domaines. On croit également que les systèmes logiciels finiront par acquérir une conscience, qu’ils en voudront à leurs créateurs et qu’ils agiront pour les affaiblir, voire les détruire purement et simplement.

D’autre part, l’inquiétude du public est nettement moins vive lorsque l’IA exécute exactement les tâches que le Pentagone lui confie, qu’il s’agisse de cibler des frappes aériennes ou de produire des rapports de renseignement exploitables pour le Commandement des opérations spéciales des États-Unis.

Après des semaines de débats animés entre les personnalités les plus en vue du secteur, visant à déterminer si les laboratoires étasuniens spécialisés dans l’IA devaient s’imposer eux-mêmes des limites en matière d’ingénierie ou si ces limites devaient leur être imposées par l’État, pratiquement aucune suggestion n’a été formulée quant à l’imposition de restrictions au client le plus puissant de ces entreprises : l’armée des États-Unis.

Cela a donné lieu à des discours en apparence paradoxaux de la part de leaders du secteur, avec des personnalités telles que Sam Altman, PDG d’OpenAI, qui tout en avertissant que son produit présente un danger existentiel, le vendait simultanément à Pete Hegseth, qui se présente lui-même comme « secrétaire à la Guerre ». « Malgré les avertissements incessants des entreprises d’IA selon lesquelles l’IA est dangereuse, même de manière hypothétique, celles-ci font en réalité la promotion de l’intégration de leurs produits peu fiables au sein d’infrastructures nationales et critiques pour la sécurité, comme la défense et le nucléaire », a déclaré à The Intercept Heidy Khlaaf, directrice scientifique de l’AI Now Institute et ancienne ingénieure en sécurité des systèmes à OpenAI. « Compte tenu du manque de fiabilité et de précision de l’IA dans un contexte aussi critique, c’est ce qui conduira ultimement à un accident catastrophique. Cependant, si ces problèmes étaient reconnus, cela ne serait pas rentable pour les entreprises spécialisées dans l’IA et ralentirait l’adoption de cette technologie. »

Les acteurs étasuniens du secteur de l’IA ont sans doute encore en mémoire l’expérience récente d’Anthropic, qui a été temporairement écartée des contrats gouvernementaux après avoir déclaré ne pas vouloir que ses logiciels soient utilisés pour mener une surveillance de masse anticonstitutionnelle ou pour faire fonctionner des armes entièrement autonomes. Des initiatives similaires visant à limiter l’utilisation de leurs produits à des fins d’espionnage ou de mise à mort pourraient s’attirer les foudres d’une administration Trump particulièrement vindicative, d’autant plus que Hegseth s’est employé à supprimer les processus visant à réduire les dommages causés aux civils afin de mettre l’accent sur une « létalité » accrue comme principe directeur de l’armée.

L’adoption rapide de leur technologie représente également une manne financière considérable à long terme pour les laboratoires étasuniens d’IA devenus sous-traitants du secteur de la défense, comme OpenAI, Google et Anthropic — qui s’étaient tous engagés à ne pas s’impliquer dans des projets militaires en raison des effets néfastes potentiels. Malgré ces engagements, ces entreprises ont désormais accès aux crédits quasi illimités du Pentagone, et les contrats de 200 millions $ que plusieurs d’entre elles ont signés avec le ministère l’année dernière ne sont rien comparés à ce que l’armée des États-Unis pourrait leur verser dans les décennies à venir. Altman et ses pairs pourraient également se montrer moins enclins à tirer la sonnette d’alarme sur les menaces liées à l’IA émanant du Pentagone, car un tel avertissement viendrait de l’intérieur même de l’institution.

Plus tôt ce mois-ci [NDT : en septembre], The Intercept a révélé des documents contractuels détaillant les relations de collaboration étroites entre ces entreprises et l’armée, dans le cadre desquelles les géants de la Silicon Valley auraient leur mot à dire pour aider le Pentagone à élaborer sa stratégie globale en matière d’IA militaire. Cette proximité intervient au moment où Hegseth se vante d’avoir fait frapper par des drones des bateaux de pêche civils dans les Caraïbes et où le commandant en chef parle avec désinvolture d’« anéantir » des civilisations entières.

Lucy Suchman, professeure émérite d’anthropologie des sciences et des technologies à l’Université de Lancaster, a attribué cette différence d’inquiétude du public et d’attention médiatique au pouvoir dont disposent les milliardaires du secteur technologique lorsqu’il s’agit de façonner les discours. Les idéologies populaires de la Silicon Valley, telles que la variante du « rationalisme » propre à la région de la baie de San Francisco et le mouvement de l’altruisme efficace, ont tendance à considérer qu’une menace « existentielle » hypothétique émanant d’une superintelligence mérite davantage d’attention que la violence à court terme. Selon elle, cette priorité, qui imprègne la communauté de recherche sur la sécurité de l’IA, occulte la menace réelle et immédiate que représentent les modèles d’IA actuels dans un monde regorgeant d’armes nucléaires.

« Compte tenu de la volonté du ministère de la Guerre des États-Unis de maximiser la rapidité et le volume de la génération de cibles, le ciblage assisté par l’IA constitue déjà une menace existentielle pour les civils sur le terrain, et lorsque les cibles sont les moyens militaires d’États dotés de l’arme nucléaire, la menace prend une dimension mondiale », a déclaré Suchman, qui étudie l’intelligence artificielle depuis les années 1970 et siège au Comité international pour le contrôle des armes robotiques, une organisation à but non lucratif. « Le fait que le navire chinois ait failli être pris pour cible pourrait souligner encore davantage non pas le danger représenté par des agents d’IA incontrôlables, mais plutôt un secrétaire étasunien à la Guerre incontrôlable. »

Hegseth, qui a déjà qualifié les règles d’engagement de « stupides », étend également cette approche à l’intelligence artificielle. En janvier, dans une note décrivant la nouvelle stratégie du Pentagone en matière d’IA comptant 24 fois le mot « accélérer », Hegseth a présenté un plan qui met fortement l’accent sur la rapidité pour la rapidité. « La rapidité fait la différence », a écrit Hegseth. Le secrétaire à la Guerre a expliqué que l’armée adopterait des technologies expérimentales aussi rapidement que possible en « identifiant et en éliminant de manière pressante les obstacles bureaucratiques à une intégration plus poussée » de l’IA, sans mentionner la nécessité de s’assurer au préalable que la technologie fonctionne réellement.

Heidi Kandiel, conseillère juridique en matière de nouvelles technologies militaires au Comité international de la Croix-Rouge, a déclaré à The Intercept que la rapidité en soi comporte des risques militaires pour n’importe quel pays. « Je pense que l’une des questions centrales qui se posent concerne la rapidité et l’ampleur, qui sont souvent vantées comme les avantages de l’IA », a-t-elle expliqué. « Si un système n’est pas fiable, s’il fonctionne avec des données de mauvaise qualité ou obsolètes ou s’il est utilisé dans le cadre d’un processus décisionnel défaillant, l’IA permettrait à ces erreurs de se reproduire beaucoup plus rapidement et sur un nombre bien plus important de cibles ou d’opérations. »

Contenir une entreprise est une tout autre affaire que de mettre des entraves à un gouvernement. Les décideurs politiques qui n’hésitent pas à dénoncer l’irresponsabilité d’Anthropic pourraient ne pas avoir la volonté politique d’adresser des critiques similaires au président ou au Pentagone. Madeline Berzak, chercheuse au Laboratoire des risques existentiels de l’Université de Chicago, a déclaré à The Intercept que les menaces nucléaires ont longtemps été accueillies par la paralysie (ou un haussement d’épaules), car les gens se sentent impuissants face à elles. On peut tweeter avec colère à l’encontre de Dario Amodei, mais il est moins gratifiant de s’en prendre au Commandement stratégique des États-Unis. « Cet incident [impliquant la Chine] et l’absence de réaction constituent un problème d’attention auquel le domaine nucléaire est confronté depuis des décennies », a déclaré Berzak. « Les “messages apocalyptiques”, c’est ainsi que j’appelle la stratégie de communication par défaut du secteur nucléaire, et j’ai cette théorie selon laquelle cela ne fonctionne jamais, puisque la peur qu’elle tente de susciter n’a nulle part où aller. »

« La menace d’une guerre thermonucléaire n’est plus une nouveauté », a déploré Suchman.

Certains membres de la communauté chargée de la sécurité de l’IA reconnaissent la menace de longue date que représente l’anéantissement nucléaire. Ils considèrent simplement qu’elle est moins prioritaire que celle d’une superintelligence incontrôlable, qui ne s’est pas encore concrétisée. Daniel Kokotajlo a quitté son poste de chercheur à OpenAI en 2024 en raison de l’imprudence et de l’indifférence présumées de l’entreprise face aux risques. Il est coauteur de AI 2027, un livre blanc présentant un scénario hypothétique dans lequel des systèmes d’IA superintelligents exterminent l’humanité à l’aide d’armes biologiques afin de libérer de l’espace pour construire des usines robotisées automatisées. C’est l’histoire qui explique pourquoi Kokotajlo est moins préoccupé par la perspective d’une guerre nucléaire déclenchée par l’IA. « C’est certainement un sujet de préoccupation, et c’est quelque chose que dans l’idéal, nous aimerions améliorer et corriger. Mais c’est le genre de situation où, même si nous ne faisons rien, tout ira probablement bien pendant une décennie, deux, voire plus. »

Pour Kokotajlo et les chercheurs qui partagent son point de vue, quelle que soit la menace que représentent les arsenaux nucléaires pour le monde, la superintelligence est tout simplement plus dangereuse qu’un faux rapport des services de renseignement sur la Chine. « Cela fait 50 ans, et ce genre de crises ne se produit pas si souvent. Jusqu’à présent, les esprits les plus calmes ont réussi à prendre le dessus et à établir la vérité dans chaque cas », a-t-il déclaré. « La probabilité que cela débouche sur une guerre nucléaire au cours des cinq prochaines années est donc faible. Assez élevée pour être quelque peu inquiétante, mais faible dans l’ensemble. En revanche, si nous mettons au point une superintelligence au cours des cinq prochaines années, je pense que la probabilité que cela tourne très mal pour nous est élevée, et non faible. »

Berzak, qui dirige le programme sur les risques nucléaires de son laboratoire, estime que ce calcul est erroné. Elle a souligné les approches divergentes adoptées pour éviter l’apocalypse : d’une part, celle du domaine émergent de la sécurité de l’IA et d’autre part, celle de la prudence nucléaire, qui existe depuis le début de la Guerre froide. « L’attention se porte souvent sur ce qui est nouveau et intéressant, et non sur le risque le plus urgent », a-t-elle déclaré.

Si, par le passé, la lucidité a effectivement permis d’éviter une catastrophe nucléaire, la faillibilité humaine et la tentation croissante de confier notre jugement à des machines perçues comme dotées d’une intelligence surhumaine comportent un danger inhérent, a averti Berzak : « Ce n’est pas parce qu’il existe ce nouveau risque plus pressant, dont les conséquences sont encore peu étudiées par rapport à la guerre nucléaire, que cette dernière n’est pas un risque, simplement parce que nous l’avons jusqu’à présent évitée essentiellement par chance. »