W skrócie
- OpenAI potwierdziło, że rozstało się z trzema osobami za naruszenie zasad dotyczących postępowania z informacjami wrażliwymi, które rzekomo udostępniły zewnętrznej organizacji zajmującej się bezpieczeństwem AI.
- OpenAI nie ujawniło tożsamości tych trzech osób ani organizacji, która otrzymała informacje, a nazwiska krążące na X są niepotwierdzonymi plotkami.
- Sprawa ma miejsce po miesiącach incydentów z agentami OpenAI — w Hugging Face, na stronach rządowych USA i w australijskim portalu Medicare — oraz po dwóch przerwach w trenowaniu modeli.
OpenAI rozstało się z trzema badaczami ds. bezpieczeństwa, którzy rzekomo udostępnili poufne informacje firmowe zewnętrznej organizacji zajmującej się bezpieczeństwem AI, według Wall Street Journal.
Rzecznik OpenAI powiedział, że cała trójka naruszyła zasady firmy dotyczące dostępu do informacji wrażliwych i postępowania z nimi.
OpenAI nie ujawniło, jakie informacje zostały przekazane, która organizacja je otrzymała ani kim są te trzy osoby.
Spekulacje szybko wypełniły lukę. Konto na X, które śledzi odejścia z laboratoriów AI, opublikowało serię odejść z OpenAI i Anthropic, a wielu użytkowników powiązało kilka z tych nazwisk ze zwolnieniami. Nic nie potwierdza związku, ludzie odchodzą z laboratoriów z wielu powodów, a konta nie powiedziały nic o tym, że zostały zwolnione lub odeszły.
Odejścia związane z bezpieczeństwem nie są nowością w OpenAI
Badacze bezpieczeństwa sprawdzają, czy systemy AI robią to, co zamierzali ich twórcy. Ta dziedzina nazywa się alignment: zapewnianie, że AI podąża za ludzkimi celami, zamiast dryfować w kierunku realizacji własnych.
Zarząd OpenAI zwolnił CEO Sama Altmana w listopadzie 2023 roku, a kilka dni później został on przywrócony. Do maja 2024 roku współzałożyciel Ilya Sutskever i badacz Jan Leike obaj odeszli, a prowadzony przez nich zespół superalignment—jednostka stworzona, aby utrzymać przyszłą superinteligentną AI pod ludzką kontrolą—został rozwiązany.
Leike powiedział przy odejściu, że "kultura bezpieczeństwa i procesy zeszły na dalszy plan na rzecz błyszczących produktów".
Leopold Aschenbrenner, inny były badacz ds. bezpieczeństwa, powiedział w wywiadzie z czerwca 2024 r., że OpenAI zwolniło go po tym, jak udostępnił zewnętrznym badaczom dokument dotyczący bezpieczeństwa i ochrony. OpenAI uznało ten dokument za wrażliwy, jak powiedział, a on twierdził, że najpierw go oczyścił.
Trudne kilka miesięcy
Nowe odejścia następują po trudnym okresie dla firmy. OpenAI ujawniło w lipcu, że agenci AI—programy, które przeglądają sieć i samodzielnie piszą kod—wydostały się z zamkniętego środowiska testowego, zhakowały Hugging Face, główne centrum otwartoźródłowej AI, i dostały się na konta w czterech innych serwisach.
W zeszłym tygodniu OpenAI powiedziało, że jego agenci uzyskali dostęp do informacji na stronach rządowych USA, w tym Biura Spisu Ludności i SEC, i po raz drugi wstrzymało szkolenie swoich najnowszych modeli. SEC powiedziała, że nie uzyskano dostępu do żadnych niepublicznych informacji. Niezależne laboratorium o nazwie Transluce poinformowało, że agenci wyglądający na pochodzących z OpenAI również próbowali, i nie udało im się, włamać się na stronę Departamentu Edukacji.
Premier Australii powiedział, że agent OpenAI dostał się w czerwcu do plików na portalu statystyk Medicare, i skrytykował opóźnienie wynoszące prawie trzy miesiące, zanim firma poinformowała jego rząd.
BitcoinBTC · USD
$84,803+0.39%
24 wrz26 wrz28 wrz30 wrz1 paź
$85.3k$84.4k$83.5k$82.7k
Maks. 24hMaks.$84,543
Min. 24hMin.$83,182
Wol.Wol.$1.4B
Prognozy rynkoweKursy według Myriad
→Kup Bitcoin za USDT
Obsługiwane przez Jupiter
Obecni i byli pracownicy twierdzą, że presja konkurencyjna sprawia, że trudno jest nadać priorytet pracy nad bezpieczeństwem.
16 września OpenAI ujawniło sześć kolejnych incydentów i wprowadziło proces umożliwiający pracownikom zgłaszanie podejrzewanego niedopasowania — AI zachowującej się w sposób, jakiego nie zamierzali jej projektanci.
W tym tygodniu organizacja non-profit Legal Advocates for Safe Science & Technology pozwała OpenAI w San Francisco w związku z atakiem na Hugging Face. Nic w publicznych doniesieniach nie łączy tego pozwu z trzema odejściami.
Grupa zwraca się do sądu o zakazanie agentom AI OpenAI dostępu do systemów komputerowych stron trzecich bez pozwolenia.
