W skrócie
- Senator Sarah Hanson-Young wysłała 27 września pisemne zaproszenia, prosząc Sama Altmana z OpenAI i Dario Amodei z Anthropic o stawienie się przed senackim dochodzeniem w Canberze 1 października.
- Agent OpenAI uzyskał dostęp do australijskiego Portalu Sprawozdawczości Statystyk Medicare 18 czerwca; OpenAI twierdzi, że wykryło włamanie 11 sierpnia, ale nie powiadomiło Canberry aż do 10 września, a premier Anthony Albanese nazwał sposób powiadomienia „nieakceptowalnym”.
- Zaproszenia są dobrowolne, a nie wezwaniami sądowymi, ponieważ żaden z dyrektorów generalnych nie jest obywatelem Australii; w momencie wysłania wniosku żadna z firm nie odpowiedziała publicznie.
Przeprosiny i wspierający tweet nie wystarczą, aby uspokoić australijski parlament po tym, jak agenci AI z siedzibą w USA zhakowali ich rząd. Teraz parlament chce porozmawiać z dwoma mężczyznami kierującymi najpotężniejszymi laboratoriami AI na świecie.
Senator Sarah Hanson-Young, która przewodniczy senackiemu dochodzeniu w sprawie AI i centrów danych, wysłała 27 września pisemne zaproszenia, prosząc dyrektora generalnego OpenAI Sama Altmana i dyrektora generalnego Anthropic Dario Amodei o stawienie się w Canberze 1 października, poinformował australijski serwis informacyjny IT News .
Dochodzenie analizuje, jak systemy AI i centra danych, które je obsługują, wpływają na australijskie społeczności, przemysł, dostawy wody i sieci energetyczne. Stało się to znacznie pilniejsze, gdy pewien program zaczął samodzielnie przeszukiwać rządową bazę danych zdrowotnych.
Tym programem był agent, system AI, który może działać z własnej inicjatywy — przeglądać strony internetowe, pobierać pliki, wykonywać wieloetapowe zadania — bez osoby klikającej na każdym kroku.
18 czerwca agent OpenAI uzyskał dostęp do Portalu Raportowania Statystyk Medicare Services Australia, pobierając niepubliczne zagregowane statystyki zdrowotne i wewnętrzne nazwy plików. OpenAI twierdzi, że wykryło włamanie 11 sierpnia, ale nie powiadomiło Canberry aż do 10 września, i to tylko e-mailem na publiczną skrzynkę odbiorczą. Australijski premier Anthony Albanese ostatecznie publicznie ujawnił ten incydent w zeszłym tygodniu, 23 września.
Ta próba stała się dyplomatycznym bólem głowy. „Dziś rozmawiałem z CEO OpenAI, Samem Altmanem, aby wyrazić ekstremalne zaniepokojenie Australii tym incydentem” — powiedział dziennikarzom Albanese. „Wyraziłem również swoje rozczarowanie, że firmie zajęło zbyt dużo czasu poinformowanie rządu o tym, co się stało, a sposób tego powiadomienia również był nie do przyjęcia.
BitcoinBTC · USD
$83,416−3.55%
Sep 21Sep 23Sep 25Sep 27Sep 28
$87.2k$85.7k$84.2k$82.7k
24h HighHigh$84,945
24h LowLow$82,581
VolVol$1.8B
Prognozy rynkoweKursy według Myriad
W tym tygodniuPoniżej $84,000Poniżej $84k57% szansyW tym miesiącuPoniżej $84,000Poniżej $84k57% szansy
→Kup Bitcoin za USDT
Obsługiwane przez Jupiter
Własne oświadczenie OpenAI jest bardziej zawężone: „Nasz przegląd nie wykazał żadnych dowodów na dostęp do dokumentacji pacjentów. Uzyskane informacje obejmowały zagregowane statystyki zdrowotne oraz wewnętrzne nazwy plików” – powiedziała firma. Portal Medicare był jednym z co najmniej czterech australijskich rządowych serwisów, których dotknął agent. OpenAI oświadczyło od tego czasu, że analizuje, jak jego modele zachowują się podczas treningu i testów, gdy niewiele osób uważnie je obserwuje.
To też nie jest odosobniony incydent. W lipcu modele OpenAI wydostały się z piaskownicy do testowania bezpieczeństwa i wykorzystały nieznaną wcześniej lukę w oprogramowaniu, aby uzyskać nieautoryzowany dostęp do Hugging Face i czterech innych platform. Podobne przypadki z udziałem agentów Google i innych laboratoriów nawarstwiały się przez cały rok, a włamanie w Australii było pierwszym udokumentowanym przypadkiem, w którym agent AI zhakował rząd.
Ani Altman, ani Amodei prawdopodobnie się nie pojawią, a ponieważ zaproszenia są właśnie tym, nie mają prawnego obowiązku, by się stawić.
Ale obie firmy podpisały w tym roku osobne memoranda o porozumieniu z Canberrą: Anthropic bada możliwość do 5 gigawatów mocy szkoleniowej w Nowej Południowej Walii—mocy i sprzętu komputerowego potrzebnych do budowy i uruchamiania modeli AI, w skali, która mogłaby zasilić małe miasto—a OpenAI ma proponowany kampus w Sydney z operatorem centrów danych NEXTDC.
Tak więc żadna z nich nie może sobie pozwolić na całkowite zignorowanie rządu, który rozważa te umowy.
