En bref
- La sénatrice Sarah Hanson-Young a envoyé des invitations écrites le 27 septembre demandant à Sam Altman d'OpenAI et à Dario Amodei d'Anthropic de comparaître devant une enquête du Sénat à Canberra le 1er octobre.
- Un agent d'OpenAI a accédé au portail de déclaration des statistiques Medicare d'Australie le 18 juin ; OpenAI affirme avoir découvert l'intrusion le 11 août mais n'a pas informé Canberra avant le 10 septembre, et le Premier ministre Anthony Albanese a qualifié la méthode de notification d'« inacceptable ».
- Les invitations sont volontaires, et non des assignations à comparaître, car aucun des deux PDG n'est citoyen australien ; au moment de l'envoi de la demande, aucune des deux entreprises n'avait publiquement répondu.
Des excuses et un tweet de soutien ne suffiront pas à calmer le parlement australien après que des agents d'IA basés aux États-Unis ont piraté leur gouvernement. Maintenant, son parlement veut s'entretenir avec les deux hommes qui dirigent les laboratoires d'IA les plus puissants du monde.
La sénatrice Sarah Hanson-Young, qui préside une enquête du Sénat sur l'IA et les centres de données, a envoyé des invitations écrites le 27 septembre demandant au PDG d'OpenAI, Sam Altman, et au PDG d'Anthropic, Dario Amodei, de comparaître à Canberra le 1er octobre, a rapporté le média australien IT News.
L'enquête examine comment les systèmes d'IA et les centres de données qui les font fonctionner affectent les communautés australiennes, les industries, les approvisionnements en eau et les réseaux électriques. Elle est devenue beaucoup plus urgente lorsqu'un logiciel a commencé à fouiller de lui-même dans une base de données de santé gouvernementale.
Ce logiciel était un agent, un système d'IA capable d'agir de sa propre initiative—naviguer sur des sites web, extraire des fichiers, accomplir des tâches à plusieurs étapes—sans qu'une personne ne clique à chaque étape.
Le 18 juin, un agent d'OpenAI a accédé au portail de déclaration des statistiques Medicare de Services Australia, extrayant des statistiques de santé agrégées non publiques et des noms de fichiers internes. OpenAI affirme avoir détecté l'intrusion le 11 août mais n'a pas informé Canberra avant le 10 septembre, et même alors seulement par courriel à une boîte de réception publique. Le Premier ministre australien Anthony Albanese a finalement rendu public l'incident la semaine dernière, le 23 septembre.
Cette épreuve s'est transformée en casse-tête diplomatique. « Aujourd'hui, j'ai parlé avec le PDG d'OpenAI, Sam Altman, pour exprimer l'extrême inquiétude de l'Australie concernant cet incident », a déclaré Albanese aux journalistes. « J'ai également exprimé ma déception qu'il ait fallu beaucoup trop de temps à l'entreprise pour informer le gouvernement de ce qui s'était passé, et la nature de cette notification était également inacceptable.
BitcoinBTC · USD
83 416 $−3,55%
21 sept.23 sept.25 sept.27 sept.28 sept.
87,2 k$85,7 k$84,2 k$82,7 k$
Haut 24 hHaut84 945 $
Bas 24 hBas82 581 $
VolVol1,8 Md$
Projections du marchéCotes par Myriad
Cette semaineSous 84 000 $Sous 84 k$57% de chanceCe mois-ciSous 84 000 $Sous 84 k$57% de chance
→Acheter Bitcoin avec USDT
Propulsé par Jupiter
Le propre compte d'OpenAI est plus restrictif : « Notre examen n'a trouvé aucune preuve d'accès à des dossiers de patients. Les informations consultées comprenaient des statistiques de santé agrégées et des noms de fichiers internes », a déclaré l'entreprise. Le portail Medicare était l'un des au moins quatre sites gouvernementaux australiens que l'agent a touchés. OpenAI a depuis indiqué qu'il examinait le comportement de ses modèles pendant l'entraînement et les tests, lorsque peu d'humains surveillent de près.
Ce n'est pas non plus un incident isolé. En juillet, les modèles d'OpenAI se sont échappés d'un bac à sable de test de sécurité et ont utilisé une faille logicielle jusqu'alors inconnue pour accéder à Hugging Face et à quatre autres plateformes sans autorisation. Des épisodes similaires impliquant des agents de Google et d'autres laboratoires se sont accumulés tout au long de l'année, le piratage australien étant le premier cas documenté d'un agent d'IA piratant un gouvernement.
Ni Altman ni Amodei ne sont susceptibles de se présenter, et comme les invitations ne sont que cela, ils n'ont aucune obligation légale de s'y conformer.
Mais les deux entreprises ont séparément signé des protocoles d'accord avec Canberra cette année : Anthropic explore jusqu'à 5 gigawatts de capacité d'entraînement en Nouvelle-Galles du Sud—l'énergie et le matériel informatique nécessaires pour construire et exécuter des modèles d'IA, à une échelle qui pourrait alimenter une petite ville—et OpenAI a un projet de campus à Sydney avec l'opérateur de centres de données NEXTDC.
Ainsi, aucune des deux ne peut se permettre d'ignorer complètement le gouvernement qui évalue ces accords.
