En bref
- Deux experts en sécurité américains et chinois ont proposé des lignes rouges interdisant à l'IA d'attaquer de manière indépendante les systèmes nucléaires.
- Les auteurs ont également appelé à une ligne directe militaire sur l'IA et à une définition commune du contrôle humain.
- La vitesse de l'IA et son comportement incertain pourraient laisser aux dirigeants peu de temps pour arrêter un conflit qui s'intensifie.
Des experts en sécurité des États-Unis et de Chine ont proposé des règles qui interdiraient à l'intelligence artificielle de lancer de manière indépendante des cyberattaques contre les systèmes de commandement nucléaire ou de décider d'utiliser des armes nucléaires.
Un rapport récent de Brookings et de l'Université Fudan, basée à Shanghai, exhorte les États-Unis et la Chine à étendre leur engagement en faveur du contrôle humain des armes nucléaires à d'autres usages militaires de l'IA, y compris les cyberattaques contre les systèmes de commandement nucléaire.
« Les présidents Donald Trump et Xi Jinping peuvent montrer la voie en matière de gouvernance de ces dangers en convenant que seuls les humains, et non l'IA, devraient prendre la décision de lancer une cyberattaque contre les systèmes de commandement, de contrôle et de communications nucléaires (NC3) ou les infrastructures critiques de l'autre », ont écrit les chercheurs.
Les systèmes NC3 aident les gouvernements à détecter les menaces, à décider s'il faut utiliser des armes nucléaires et à transmettre les ordres de lancement, mais des défaillances à n'importe quelle étape pourraient perturber les communications, mal interpréter une attaque, encourager une première frappe ou déclencher un lancement accidentel ou non autorisé.
« Étendre le principe appliqué aux armes nucléaires — selon lequel les attaques ayant des effets stratégiques doivent exprimer une intention humaine et être soumises à la responsabilité humaine — n'exige pas que Washington et Pékin partagent d'autres principes de cybersécurité ou de protection des infrastructures », ont écrit les chercheurs.
L'accord proposé obligerait les deux pays à réduire le risque que le hasard, une erreur humaine, une IA imprévisible ou des acteurs non autorisés puissent déclencher des attaques aux conséquences stratégiques.
L'appel à des garanties de type nucléaire s'inscrit dans un débat croissant sur la manière de ralentir le développement de l'IA et de maintenir les systèmes de plus en plus capables sous contrôle humain. L'inquiétude est particulièrement aiguë dans le domaine militaire, où des décisions automatisées prises en quelques millisecondes pourraient transformer une fausse alerte ou une cyberattaque en crise nucléaire.
Cette inquiétude a été soulignée en février lorsque des modèles d'OpenAI, de Google et d'Anthropic ont utilisé des armes nucléaires dans 95 % des scénarios de jeu de guerre testés, bien que les experts aient averti que la simulation ait pu encourager une escalade.
BitcoinBTC · USD
76 418 $−0,94 %
10 sept.12 sept.14 sept.16 sept.17 sept.
79,2 k$78,0 k$76,7 k$75,5 k$
Haut sur 24 hHaut77 024 $
Bas sur 24 hBas75 602 $
VolVol872,8 M$
Projections de marchéCotes par Myriad
Cette semaineAu-dessus de 76 000 $Au-dessus de 76 k$64 % de probabilité
Données de prix par CoinGeckoCoinGeckoPlus d'actualités et de projections sur Bitcoin news and →
Ce même mois, Anthropic a refusé les exigences du Pentagone visant à supprimer les restrictions de Claude sur la surveillance de masse et les armes entièrement autonomes. Trump a ordonné aux agences fédérales de cesser d'utiliser la technologie de l'entreprise, mais un juge fédéral a statué le 28 août que l'administration avait illégalement pris des mesures de rétorsion contre Anthropic.
Les appels à la retenue se sont depuis répandus dans toute l'industrie. Plus tôt ce mois-ci, le PDG d'Anthropic, Dario Amodei, a exhorté les développeurs à ralentir les gains de capacités, obtenant le soutien du PDG d'OpenAI, Sam Altman, et du propriétaire de xAI, Elon Musk, tandis que OpenAI a demandé au Congrès si les entreprises pouvaient coordonner un ralentissement sans violer la législation antitrust.
En l'absence de ralentissement contraignant en place, les auteurs de Brookings proposent une règle plus étroite : seuls les humains devraient être autorisés à autoriser des attaques contre les systèmes de commandement nucléaire ou l'utilisation d'armes nucléaires.
« La gouvernance de l'IA militaire n'est pas une négociation qui peut se permettre d'attendre — c'est une course contre la montre », ont-ils écrit.
