En bref
- Anthropic, OpenAI, DeepSeek et Moonshot s'apprêtent tous à s'adresser mercredi au Conseil de sécurité de l'ONU sur les risques liés à l'IA.
- Cette séance d'information fait suite à l'appel du PDG d'Anthropic, Dario Amodei, à ralentir le développement de l'IA tout en exhortant à maintenir les restrictions américaines sur les exportations de puces vers la Chine.
- La réunion a lieu deux jours avant le sommet du président Trump avec Xi Jinping le 24 septembre.
Le Conseil de sécurité de l'ONU passera l'après-midi de mercredi à écouter les personnes qui construisent la technologie qui l'inquiète le plus.
Le PDG d'OpenAI, Sam Altman, le PDG d'Anthropic, Dario Amodei, le chercheur en sécurité de l'IA Yoshua Bengio et le PDG de Hugging Face, Clément Delangue sont tous programmés pour informer le conseil de 15 membres—l'organe de l'ONU doté du pouvoir d'autoriser des sanctions et des actions militaires—sur les risques posés par l'intelligence artificielle.
DeepSeek est également invité. La startup chinoise qui a effacé environ 600 milliards de dollars de la capitalisation boursière de Nvidia lorsqu'elle a lancé un modèle à prix réduit en janvier 2025 a été invitée à faire une déclaration, aux côtés d'une autre entreprise chinoise, Moonshot, développeurs des modèles Kimi..
La France a organisé la session de mercredi et détient ce mois-ci la présidence tournante du Conseil. Le ministre des Affaires étrangères Jean-Noël Barrot la présidera, et la note conceptuelle à l'origine de la réunion porterait sur les systèmes d'IA échappant au contrôle humain.
Le même briefing devrait aborder l'IA qui pourrait à terme mener des cyberattaques, influencer des élections ou concevoir des armes sans intervention humaine, ce qui explique pourquoi un Conseil conçu pour les guerres et les sanctions écoute cette semaine des PDG de la tech plutôt que des généraux.
Amodei participera à distance plutôt qu'en personne. Le 12 septembre, il a publié un essai intitulé « We Must Pace the Frontier », soutenant que l'industrie devrait délibérément ralentir la vitesse à laquelle elle construit des modèles de frontière plus performants — les systèmes d'IA les plus grands et les plus avancés jamais publiés par un laboratoire. Il a déclaré qu'Anthropic accorderait à des évaluateurs externes un accès permanent, au niveau du personnel, pour vérifier ses promesses de sécurité. Sam Altman et Elon Musk ont tous deux déclaré être d'accord en quelques heures.
Amodei a qualifié la Chine de « pays autocratique disposant de loin des capacités d'IA les plus avancées » et a soutenu que les États-Unis devraient continuer à restreindre les exportations de puces avancées vers Pékin, tout en demandant à Pékin de coopérer sur des règles de sécurité mondiales. Le ministère chinois des Affaires étrangères a qualifié l'essai de contre-productif, et les médias d'État l'ont présenté comme un « manuel de la guerre froide » visant à contenir la Chine.
Le président Donald Trump, quant à lui, ne veut rien avoir à faire avec cette poussée au ralentissement. Après la publication de l'essai d'Amodei, le président a qualifié les avertissements sur une prise de contrôle par l'IA de « canular » lié à la « gauche radicale » et a directement accusé Amodei de méfaits sans fournir de preuves.
Quelques jours plus tard, le roi Charles a accueilli des dirigeants d'Anthropic, OpenAI, Nvidia et Google DeepMind dans son domaine écossais pour un sommet sur la sécurité de l'IA qui a produit des discussions mais aucun accord publiquement connu.
La session de mercredi ne devrait pas non plus produire d'accord contraignant. Elle a lieu deux jours avant que Trump ne s'entretienne avec le président chinois Xi Jinping à Washington le 24 septembre, un sommet où la sécurité de l'IA figurerait à l'ordre du jour aux côtés du commerce.
