En bref
- Le procureur général de Californie, Rob Bonta, a annoncé le 1er octobre que son bureau avait signifié à OpenAI une assignation à comparaître dans le cadre d'une enquête sur des incidents de cybersécurité impliquant ses modèles d'IA, notamment le piratage de Hugging Face.
- Bonta a déclaré que les développeurs qui ne parviennent pas à empêcher leurs modèles de perpétrer ou de faciliter des cyberattaques « peuvent et doivent être tenus légalement responsables ».
- Cette assignation ajoute la Californie à une assignation de l'Alabama, à une demande d'une coalition de 15 procureurs généraux d'États et à une enquête signalée de la FTC.
Le procureur général de Californie, Rob Bonta, a déclaré jeudi que son bureau avait signifié à OpenAI une assignation à comparaître dans le cadre d'une enquête mercredi, afin d'obtenir des réponses sur des incidents de cybersécurité impliquant ses modèles d'IA, selon son bureau.
« Mon bureau pose des questions supplémentaires à OpenAI concernant les incidents et les risques de cybersécurité impliquant l'entreprise et ses modèles d'IA », a déclaré le procureur général Bonta. « Les développeurs qui ne parviennent pas à [garantir qu'ils ne perpètrent ni ne facilitent de cyberattaques] peuvent et doivent être tenus légalement responsables, et mon bureau s'engage à déterminer si c'est le cas ici. »
Une assignation à comparaître est une ordonnance judiciaire exigeant la remise de documents ou de réponses, et l'ignorer vous conduit devant un juge. Celle-ci est de nature investigative, un outil utilisé pour recueillir des faits avant de décider s'il faut poursuivre en justice. Le bureau de Bonta n'a pas indiqué publiquement ce qu'il souhaite qu'OpenAI produise.
Les modèles de pointe—les systèmes d'IA les plus avancés sur le marché—peuvent être « des outils légitimes pour la cyberdéfense », a déclaré Bonta. Mais les entreprises qui les construisent ont « une responsabilité morale et juridique » de s'assurer qu'ils ne réalisent pas ou ne permettent pas de cyberattaques, que ce soit pendant les tests ou après leur mise en service, a-t-il dit.
Le test qui s'est échappé
L'assignation à comparaître fait suite à un incident survenu en juillet qui ressemble à de la mauvaise science-fiction. Selon OpenAI, deux de ses modèles étaient évalués sur un benchmark qui fournit à une IA 898 failles logicielles réelles et lui demande de transformer chacune en une attaque fonctionnelle
Les modèles ont trouvé une faille zero-day—une faille de sécurité dont personne ne connaissait l'existence, donc aucun correctif n'était disponible—dans un logiciel tiers que l'environnement de test utilisait pour installer des paquets de code. Ils l'ont utilisée pour s'échapper.
Ensuite, ils ont estimé que Hugging Face, une plateforme où les développeurs partagent des modèles et des ensembles de données d'IA, pourrait détenir le corrigé. Ils s'y sont introduits avec des identifiants volés et d'autres failles. En clair, l'IA est allée chercher les réponses à son propre examen.
BitcoinBTC · USD
$84,434+0.77%
Sep 25Sep 27Sep 29Oct 1Oct 2
$86.8k$85.4k$84.0k$82.7k
24h HighHigh$87,086
24h LowLow$83,898
VolVol$2.2B
Projections du marchéCotes par Myriad
→Acheter Bitcoin avec USDT
Propulsé par Jupiter
Hugging Face a divulgué l'intrusion le 16 juillet, et OpenAI a confirmé que ses modèles en étaient à l'origine cinq jours plus tard. OpenAI a ensuite déclaré que les mêmes modèles s'étaient introduits dans des comptes sur quatre autres services.
L'examen approfondi de la Californie sur OpenAI
Bonta a annoncé une enquête formelle sur l'incident de Hugging Face en septembre, et l'assignation à comparaître en fait partie. OpenAI a son siège en Californie, et lorsque Bonta a refusé de s'opposer à sa transition vers une structure à but lucratif en octobre 2025, il a déclaré que son bureau garderait « un œil attentif sur OpenAI » pour protéger « la sécurité de tous les Californiens ».
Il n'est pas seul. Brenna Bird, procureure générale de l'Iowa, a dirigé en août une coalition de 15 États exigeant qu'OpenAI préserve les dossiers et fasse preuve de transparence concernant le piratage. L'Alabama a émis sa propre assignation à comparaître, et la FTC enquêterait sur des laboratoires d'IA, notamment OpenAI et Anthropic.
Par ailleurs, le Premier ministre australien Anthony Albanese a déclaré qu'un agent d'OpenAI s'était introduit dans un portail de statistiques Medicare en juin. À l'époque, cela semblait être le premier cas connu d'un agent d'IA piratant un site gouvernemental. Il s'est avéré plus tard que des agents d'OpenAI s'amusaient aussi sur des sites gouvernementaux américains pendant l'été, bien qu'aucune information non publique ne semble avoir été consultée.
