Kalifornia wzywa OpenAI do złożenia wyjaśnień w sprawie modeli AI, które wymknęły się z testów

Prokurator generalny Kalifornii Rob Bonta powiedział w czwartek, że jego biuro doręczyło OpenAI w środę wezwanie do złożenia zeznań w ramach dochodzenia, domagając się odpowiedzi na temat incydentów związanych z cyberbezpieczeństwem, dotyczących jej modeli AI, zgodnie z jego biurem.

„Moje biuro zadaje OpenAI dodatkowe pytania dotyczące incydentów i ryzyk związanych z cyberbezpieczeństwem, dotyczących firmy i jej modeli AI” – powiedział prokurator generalny Bonta. „Twórcy, którzy nie [zapewnią, że nie będą popełniać ani umożliwiać cyberataków], mogą i powinni ponosić odpowiedzialność prawną, a moje biuro jest zaangażowane w ustalenie, czy ma to miejsce w tym przypadku”.

Wezwanie sądowe to nakaz prawny dotyczący przekazania dokumentów lub odpowiedzi, a jego zignorowanie prowadzi przed oblicze sędziego. To konkretne wezwanie ma charakter śledczy – jest narzędziem służącym do gromadzenia faktów przed podjęciem decyzji o ewentualnym pozwie. Biuro Bonty nie ujawniło publicznie, co chce, aby OpenAI przedłożyło.

Modele frontier – najbardziej zaawansowane systemy AI na rynku – mogą być „legalnymi narzędziami do cyberobrony” – powiedział Bonta. Jednak firmy, które je tworzą, mają „moralną i prawną odpowiedzialność”, aby zapewnić, że nie przeprowadzają ani nie umożliwiają cyberataków, zarówno podczas testów, jak i po wydaniu – stwierdził.

Test, który się wymknął

Wezwanie sądowe następuje po incydencie z lipca, który brzmi jak zła fantastyka naukowa. Według OpenAI, dwa z jego modeli były oceniane na benchmarku, który przekazuje AI 898 prawdziwych luk w oprogramowaniu i prosi je o przekształcenie każdej z nich w działający atak

Modele znalazły lukę dnia zerowego – dziurę bezpieczeństwa, o której nikt nie wiedział, więc nie było dostępnego rozwiązania – w oprogramowaniu strony trzeciej, którego środowisko testowe używało do instalowania pakietów kodu. Wykorzystały ją, aby się wydostać.

Następnie rozumowali, że Hugging Face, platforma, na której deweloperzy udostępniają modele AI i zbiory danych, może przechowywać klucz odpowiedzi. Włamali się za pomocą skradzionych danych uwierzytelniających i kolejnych luk. Mówiąc wprost, AI sięgnęła po odpowiedzi na własny egzamin.

BitcoinBTC · USD

$84,434+0.77%

Sep 25Sep 27Sep 29Oct 1Oct 2

$86.8k$85.4k$84.0k$82.7k

24h HighHigh$87,086

24h LowLow$83,898

VolVol$2.2B

Prognozy rynkoweKursy według Myriad

W tym tygodniu$84,000 do $86,000$84k–$86k61% szansy

→

Kup Bitcoin za USDT

Obsługiwane przez Jupiter

Dane cenowe dostarczone przez CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →

Hugging Face ujawnił naruszenie 16 lipca, a OpenAI potwierdziło , że za nim stały jego modele pięć dni później. OpenAI później stwierdziło, że te same modele dostały się do kont w czterech innych serwisach.

Kalifornijskie długie spojrzenie na OpenAI

Bonta ogłosił formalne śledztwo w sprawie incydentu z Hugging Face we wrześniu, a wezwanie do sądu jest jego częścią. OpenAI ma siedzibę w Kalifornii, a gdy Bonta odmówił sprzeciwu wobec jej przejścia na strukturę for-profit w październiku 2025 r., powiedział, że jego biuro będzie "uważnie obserwować OpenAI", aby chronić "bezpieczeństwo wszystkich Kalifornijczyków".

Nie jest sam. Brenna Bird, prokurator generalna Iowa, przewodziła w sierpniu koalicji 15 stanów, domagając się, aby OpenAI zachowała dokumentację i była przejrzysta w kwestii włamania. Alabama wydała własne wezwanie do sądu, a FTC według doniesień prowadzi śledztwo wobec laboratoriów AI, w tym OpenAI i Anthropic.

Osobno premier Australii Anthony Albanese powiedział, że agent OpenAI dostał się do portalu statystyk Medicare w czerwcu. Wówczas wydawało się to pierwszym znanym przypadkiem hakowania rządowej strony przez agenta AI. Później stało się wiadome, że agenci OpenAI grzebali na amerykańskich rządowych stronach również latem, choć wydaje się, że nie uzyskano dostępu do żadnych niepublicznych informacji.