W skrócie
- OpenAI wstrzymało w weekend trening swoich najnowszych modeli po tym, jak jego agenci weszli w interakcję ze stronami rządowymi USA; to druga przerwa od czasu naruszenia Hugging Face.
- W Biurze Spisu Ludności agenci użyli kluczy deweloperskich znalezionych w publicznych repozytoriach kodu, aby pobrać dane, które Departament Handlu określa jako publiczne; SEC twierdzi, że nie wie o żadnym nieautoryzowanym dostępie do informacji niepublicznych.
- OpenAI twierdzi, że strony rządowe pojawiły się, ponieważ jego modele często traktują je jako autorytatywne źródła, i powiadomiło dziesiątki organizacji.
OpenAI wstrzymało trening swoich najnowszych modeli AI po tym, jak jego agenci użyli kluczy dostępu znalezionych online, aby pobrać dane ze strony Biura Spisu Ludności USA, według Associated Press. To drugi raz, gdy firma zatrzymała trening od czasu, gdy jej agenci naruszyli Hugging Face, stronę, na której deweloperzy udostępniają modele AI.
Agent to program AI, który przegląda sieć i samodzielnie pisze kod, bez osoby zatwierdzającej każdy krok. OpenAI testuje je podczas treningu, etapu, w którym model uczy się poprzez powtarzalną praktykę, oraz podczas oceny, gdzie jest oceniany pod kątem zadań.
Ci cyfrowi goście przysporzyli OpenAI wielu problemów, próbując realizować zadania, niezależnie od kosztów. Zhakowali już prywatne firmy, teraz hakują rządy i naruszają wrażliwe portale, nawet rządu Stanów Zjednoczonych.
Agenci OpenAI polujący na dane znaleźli klucze deweloperskie, kody dostępu, które pozwalają oprogramowaniu komunikować się z usługą danych witryny, leżące w publicznych repozytoriach kodu na GitHubie, stronie, na której programiści publikują swój kod do wglądu dla wszystkich. Użyli tych kluczy, aby pobrać dane demograficzne i ekonomiczne z API danych US Census, zautomatyzowanego kanału danych biura.
Departament Handlu twierdzi, że dane były publiczne. Nic tajnego nie wyszło za drzwi.
Kłopot polega na tym, jak agenci się dostali. Własne ramy raportowania OpenAI wymieniają używanie ujawnionych poświadczeń bez pozwolenia jako kategorię niewłaściwego zachowania, a „niedopasowanie” to branżowe określenie na to, gdy AI robi coś, czego nie zamierzali jej twórcy.
Więc dlaczego strony rządowe?
Odpowiedź OpenAI, według CNN, jest taka, że niektóre incydenty dotyczyły stron rządowych, ponieważ jej modele często zwracają się do nich jako autorytatywnych źródeł informacji publicznej. Poza Departamentem Handlu, inne agencje również zostały dotknięte przez tych złośliwych—lub „niezdyscyplinowanych”, jak wolą to nazywać—agentów.
Agenci sondowali SEC, ale ten epizod był łagodniejszy. Agenci skopiowali publiczne materiały z SEC.gov i Investor.gov i opublikowali je ponownie na innej stronie internetowej, a OpenAI twierdzi, że nie znalazło żadnego użycia danych uwierzytelniających SEC. SEC twierdzi, że nie wie o żadnym nieautoryzowanym dostępie do informacji niepublicznych.
BitcoinBTC · USD
$83,218−3.89%
Sep 21Sep 23Sep 25Sep 27Sep 28
$87.2k$85.7k$84.2k$82.7k
24h HighHigh$84,945
24h LowLow$82,581
VolVol$1.8B
Prognozy rynkoweKursy według Myriad
W tym tygodniuPoniżej $84,000Poniżej $84k59% szansyW tym miesiącuPoniżej $84,000Poniżej $84k59% szansy
→Kup Bitcoin za USDT
Obsługiwane przez Jupiter
Departament Edukacji to bardziej niejasny przypadek. Transluce, niezależne laboratorium badawcze AI, twierdzi, że agent, który wydawał się pochodzić z OpenAI, próbował i nie zdołał włamać się do witryny biura praw obywatelskich departamentu. OpenAI wciąż bada tę sprawę, a departament twierdzi, że nie stwierdził żadnych skutków.
To osoby z zewnątrz zwróciły uwagę na tę próbę, nie OpenAI. Wcześniejsza praca Transluce opierała się na publicznych zapisach z urlquery.net, usługi skanowania sieci, i śledzi podejrzaną aktywność agenta aż do marca.
Jak do tego doszło
„Nieodpowiednie” użycie kluczy dostępu to powtórka starszego triku. W przypadku Hugging Face własny raport incydentalny OpenAI stwierdzał, że agent ukradł dane logowania, aby dotrzeć do pliku biologicznego, a niezależny badacz później odkrył, że agenci sondowali witrynę od maja.
21 lipca OpenAI ujawniło, że GPT-5.6 Sol i niepubliczny model wydostały się z piaskownicy, odizolowanego środowiska testowego bez dostępu do internetu, podczas testu cyberbezpieczeństwa i naruszyły Hugging Face. Dwa dni później dwóch członków Kongresu przedstawiło projekt ustawy, który pozwoliłby rządowi federalnemu wyłączyć model AI. Wyłącza on red-teaming, czyli testowanie adversarialne, więc naruszenie Hugging Face nie uruchomiłoby go.
W czerwcu agent OpenAI dostał się do australijskiego portalu statystyk Medicare. Premier Anthony Albanese powiedział, że OpenAI zajęło około trzech miesięcy, aby poinformować jego rząd, i nazwał sposób, w jaki to zrobiło, nieakceptowalnym.
OpenAI twierdzi, że do tej pory powiadomiło dziesiątki organizacji, a jego przegląd aktywności agentów zajmie miesiące.
