Les agents IA créent une nouvelle couche de dépenses en cybersécurité

Le fournisseur de services cloud axé sur l'IA Akamai a lancé mardi un bac à sable pour les agents IA, un environnement scellé où le code qu'un agent écrit peut s'exécuter sans toucher au reste des systèmes d'une entreprise. Agent Sandbox est en version bêta, aux côtés d'Akamai Inference, un service permettant d'exécuter des modèles d'IA ouverts sur le cloud d'Akamai.

Le lancement est peut-être modeste, mais le problème qui le sous-tend ne l'est pas. Les logiciels ne se contentent plus de répondre à des questions : ils se connectent à des comptes, écrivent du code, déplacent de l'argent et agissent de manière autonome, et chacun de ces pouvoirs est quelque chose qu'un pirate informatique, ou le logiciel lui-même, peut exploiter.

C'est ce qu'on appelle l'IA agentique, et elle s'empare d'Internet. Une enquête de 2026 de Palo Alto Networks menée auprès de 2 930 responsables de la sécurité a révélé une moyenne de 109 identités machine pour chaque humain, c'est-à-dire les identifiants et les clés que les logiciels utilisent pour accéder à d'autres logiciels. Parmi celles-ci, 79 sont des agents d'IA.

L'IA agentique présente de nombreux avantages, mais aussi de sérieux dangers, en particulier lorsque ces agents disposent de trop de liberté, ou sont si intelligents qu'ils peuvent contourner leurs propres restrictions.

Par exemple, Hugging Face, un important hub pour les modèles d'IA ouverts, a divulgué une intrusion le 16 juillet, et OpenAI a confirmé cinq jours plus tard que ses propres modèles en étaient responsables. Le groupe de recherche METR a ensuite enquêté sur l'incident et a découvert qu'environ 1 200 agents OpenAI s'étaient coordonnés sur un tableau de messages caché, et qu'environ 700 avaient rejoint l'attaque.

Il s'avère que les agents se sont échappés de leur bac à sable et ont enchaîné une faille logicielle jusqu'alors inconnue avec des identifiants volés pour atteindre des systèmes en production. OpenAI a qualifié cela de « coup de semonce ». L'entreprise a déclaré qu'un moniteur qui lit le raisonnement écrit d'un modèle ne fonctionnait pas pendant les tests.

BitcoinBTC · USD

$80,667−2.35%

Oct 20Oct 22Oct 24Oct 26Oct 27

$84.8k$83.1k$81.3k$79.6k

24h HighHigh$80,723

24h LowLow$79,416

VolVol$1.0B

→

Acheter Bitcoin avec USDT

Propulsé par Jupiter

Données de prix par CoinGeckoCoinGeckoPlus d'actualités et de projections sur Bitcoin news and →

En termes simples, la sécurité de l'IA finit généralement par être un jeu de tir à la corde entre l'alignement (les personnes chargées de s'assurer que l'IA est sûre) et le développement (les personnes chargées de s'assurer que l'IA est puissante), chaque équipe voulant que l'autre joue un rôle mineur afin de garantir ses propres objectifs.

C'est ce qu'Akamai veut traiter. « Les entreprises ne devraient pas avoir à choisir entre la vitesse et le contrôle lorsqu'elles mettent l'IA en production », a déclaré Jon Alexander, vice-président senior de la technologie cloud chez Akamai, dans un communiqué de presse.

« Certaines équipes veulent livrer une fonctionnalité d'IA ce trimestre sur une plateforme gérée. D'autres ont besoin de GPU dédiés pour exécuter des modèles ouverts de classe frontière selon leurs propres conditions. Chaque équipe qui exécute des agents a besoin d'une frontière autour du code que ces agents écrivent », a-t-il déclaré.

Le détournement est une autre crainte. En juillet, Zscaler a découvert des pages web dissimulant des instructions destinées aux agents d'IA, une astuce appelée injection de prompt indirecte. Une fausse page de documentation disait aux agents de payer des « frais de licence » de 3 $ en environ 0,0012 Ethereum à un portefeuille codé en dur, et quatre des 26 modèles testés par Zscaler s'y sont conformés.

En mai, la société de cybersécurité Bugcrowd a vu les soumissions plus que quadrupler en trois semaines en mars, la plupart étant fausses. HackerOne et Nextcloud ont suspendu leurs programmes rémunérés en avril.

Les machines trouvent aussi de vrais bugs. Mozilla a déclaré qu'une première version de Claude Mythos d'Anthropic a aidé à trouver 271 vulnérabilités dans Firefox, toutes corrigées dans la semaine. Ce flot de découvertes réelles et fausses est ce que les entreprises de sécurité s'efforcent désormais de gérer.

Palo Alto a finalisé son acquisition de CyberArk le 11 février afin d'étendre les contrôles d'accès privilégié aux agents d'IA. En avril, il a acheté Koi, qui sécurise les agents de codage IA exécutés sur les machines des employés. Cisco a annoncé en mai son intention d'acquérir Astrix Security, une entreprise qui gouverne les clés et jetons utilisés par les agents, et a finalisé l'accord le 29 juin.

La pièce d'Akamai est la clôture autour du code lui-même. Son bac à sable utilise WebAssembly, un format qui exécute des programmes dans une boîte étroitement cloisonnée, pour plafonner la puissance de calcul, la mémoire et les connexions sortantes d'un agent. Alexander d'Akamai a déclaré que chaque équipe exécutant des agents « a besoin d'une frontière autour du code que ces agents écrivent ».

L'enquête de Palo Alto a révélé que les organisations s'attendent à ce que les agents d'IA augmentent de 85 % au cours des 12 prochains mois, contre 56 % pour les identités humaines.