W skrócie
- Dwóch amerykańskich i chińskich ekspertów ds. bezpieczeństwa zaproponowało czerwone linie zakazujące AI samodzielnego atakowania systemów nuklearnych.
- Autorzy wezwali również do utworzenia wojskowej gorącej linii ds. AI oraz wspólnej definicji kontroli człowieka.
- Szybkość AI i jej nieprzewidywalne zachowanie mogą pozostawić przywódcom niewiele czasu na powstrzymanie eskalującego konfliktu.
Eksperci ds. bezpieczeństwa ze Stanów Zjednoczonych i Chin zaproponowali zasady, które zakazywałyby sztucznej inteligencji samodzielnego przeprowadzania cyberataków na systemy dowodzenia nuklearnego lub decydowania o użyciu broni jądrowej.
Niedawny raport Brookings i uniwersytetu Fudan z Szanghaju wzywa USA i Chiny do rozszerzenia swojego zobowiązania do utrzymania kontroli człowieka nad bronią jądrową na inne wojskowe zastosowania AI, w tym cyberataki na systemy dowodzenia nuklearnego.
„Prezydenci Donald Trump i Xi Jinping mogą przewodzić w zarządzaniu tymi zagrożeniami, zgadzając się, że tylko ludzie, a nie AI, powinni podejmować decyzję o zainicjowaniu cyberataku na systemy dowodzenia, kontroli i łączności nuklearnej (NC3) drugiej strony lub na infrastrukturę krytyczną” – napisali badacze.
Systemy NC3 pomagają rządom wykrywać zagrożenia, decydować o użyciu broni jądrowej i przekazywać rozkazy startu, ale awarie na każdym etapie mogą zakłócić komunikację, błędnie odczytać atak, zachęcić do pierwszego uderzenia lub wywołać przypadkowy bądź nieautoryzowany start.
„Rozszerzenie zasady stosowanej do broni jądrowej — że ataki o skutkach strategicznych powinny wyrażać ludzką intencję i podlegać ludzkiej odpowiedzialności — nie wymaga, aby Waszyngton i Pekin podzielały inne zasady cyberbezpieczeństwa lub ochrony infrastruktury” — napisali badacze.
Proponowane porozumienie wymagałoby od obu krajów zmniejszenia ryzyka, że przypadek, błąd ludzki, nieprzewidywalna sztuczna inteligencja lub nieuprawnieni aktorzy mogliby wywołać ataki o strategicznych konsekwencjach.
Wezwanie do zabezpieczeń w stylu jądrowym jest częścią rosnącej debaty na temat tego, jak spowolnić rozwój sztucznej inteligencji i utrzymać coraz bardziej zaawansowane systemy pod ludzką kontrolą. Obawa jest szczególnie dotkliwa w wojsku, gdzie zautomatyzowane decyzje podejmowane w milisekundach mogłyby zamienić fałszywe ostrzeżenie lub cyberatak w kryzys nuklearny.
Obawa ta została podkreślona w lutym, gdy modele OpenAI, Google i Anthropic użyły broni jądrowej w 95% testowanych scenariuszy gier wojennych, choć eksperci ostrzegali, że symulacja mogła zachęcać do eskalacji.
BitcoinBTC · USD
$76,418−0.94%
10 wrz12 wrz14 wrz16 wrz17 wrz
$79.2k$78.0k$76.7k$75.5k
Maks. 24hMaks.$77,024
Min. 24hMin.$75,602
Wol.Wol.$872.8M
Prognozy rynkoweKursy według Myriad
Dane cenowe dostarcza CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →
W tym samym miesiącu Anthropic odmówił żądaniom Pentagonu dotyczącym zniesienia ograniczeń Claude'a w zakresie masowej inwigilacji i w pełni autonomicznej broni. Trump nakazał agencjom federalnym zaprzestanie korzystania z technologii tej firmy, ale sędzia federalny orzekł 28 sierpnia, że administracja nielegalnie zemściła się na Anthropic.
Od tego czasu wezwania do powściągliwości rozprzestrzeniły się w całej branży. Na początku tego miesiąca dyrektor generalny Anthropic, Dario Amodei, wezwał deweloperów do spowolnienia wzrostu możliwości, zdobywając poparcie dyrektora generalnego OpenAI, Sama Altmana, i właściciela xAI, Elona Muska, podczas gdy OpenAI zapytało Kongres, czy firmy mogłyby koordynować spowolnienie bez naruszania prawa antymonopolowego.
Wobec braku wiążącego spowolnienia, autorzy z Brookings proponują węższą zasadę: Tylko ludzie powinni mieć prawo autoryzować ataki na systemy dowodzenia nuklearnego lub użycie broni jądrowej.
„Zarządzanie wojskową sztuczną inteligencją nie jest negocjacją, która może czekać—to wyścig z czasem” – napisali.
