Andrew Yang réclame un « interrupteur d'urgence » pour l'IA face à la montée des inquiétudes

Andrew Yang appelle à une répression fédérale contre les laboratoires d'IA de pointe, affirmant que les chercheurs avertissent que les modèles puissants progressent plus vite que les règles censées les contenir.

Yang, ancien candidat démocrate à la présidence et fondateur de Noble Mobile, a déclaré que les États-Unis peuvent rivaliser avec la Chine en matière d'intelligence artificielle sans donner aux entreprises d'IA carte blanche pour déployer des systèmes de plus en plus capables.

« La peur est réelle. L'inquiétude est réelle. Le besoin est réel », a déclaré Yang à CNBC mercredi. « Le peuple américain veut voir cette industrie réglementée. »

Cette interview intervient alors que les entreprises d'IA font face à un examen plus attentif des agents autonomes, des logiciels capables de planifier et d'exécuter des tâches avec une direction humaine limitée.

Yang a déclaré que certains chercheurs en IA demandent aux législateurs d'intervenir avant que la pression du marché ne pousse la technologie plus loin qu'ils ne le jugent sûr.

« Ils lèvent la main et disent : donnez-nous une barrière de sécurité, parce que je ne veux pas travailler sur quelque chose qui, selon moi, pourrait causer des dommages irréversibles », a-t-il déclaré.

Ces derniers mois, OpenAI et Anthropic ont divulgué des incidents au cours desquels des modèles ont franchi les limites des tests ou pénétré les systèmes d'autres entreprises, ce qui a conduit les législateurs à proposer une loi sur l'interrupteur d'arrêt de l'IA qui permettrait aux responsables fédéraux d'ordonner la limitation ou l'arrêt de certains systèmes de pointe.

Il a également exhorté le Congrès à exiger une responsabilité pour les préjudices liés à l'IA, des périodes d'attente avant le déploiement et un interrupteur d'arrêt pour les modèles puissants.

« Nous devons réguler ces entreprises et leurs offres », a déclaré Yang. « Nous avons besoin d'un interrupteur d'arrêt. Nous avons besoin d'une véritable responsabilité. »

Interrogé sur l'affirmation de David Sacks selon laquelle les avertissements sur la sécurité de l'IA équivalent à une « psyop » visant à aider des entreprises comme Anthropic à obtenir une capture réglementaire, Yang a déclaré qu'il croyait que « plusieurs choses » se produisaient en même temps, notamment un avertissement d'un « responsable de laboratoire » non nommé selon lequel des bots d'IA auraient pu implanter du code auto-répliquant à travers l'internet, le rendant inutilisable pour tester des modèles.

« Donc ce qui se passe maintenant, c'est qu'OpenAI et Anthropic doivent créer des internets synthétiques pour entraîner leurs bots, ce qui va prendre du temps et de l'argent », a déclaré Yang.

Bien que Yang n'ait pas précisé quel développeur d'IA a lancé cet avertissement alarmant, cela fait écho au sentiment d'autres personnes, notamment le PDG de SpaceX, Elon Musk, qui a déclaré en janvier 2025 que « nous avons maintenant épuisé pratiquement la somme cumulative des connaissances humaines... dans l'entraînement de l'IA ».

Alors que les inquiétudes concernant le développement non réglementé de l'IA augmentent, Yang a déclaré que l'absence de surveillance est flagrante par rapport même aux entreprises les plus ordinaires.

« Si j'ouvrais un stand de hot-dogs ici dans les rues de New York, je devrais me conformer à des centaines de réglementations, et les modèles n'en ont aucune », a-t-il déclaré.

Yang a déclaré que des membres du Congrès des deux partis lui ont demandé comment l'IA devrait être réglementée, ajoutant que l'anxiété des électeurs face à cette technologie ne se limite pas aux démocrates ou aux républicains.

« C'est bipartisan. Si vous êtes dans une zone rurale ou un district rouge, vos électeurs sont aussi effrayés par l'IA », a déclaré Yang. « Ils ont vu les films Terminator. Ce genre de choses dépasse largement le clivage rouge ou bleu, le train-train habituel. »