W skrócie

  • Anthropic, OpenAI, DeepSeek i Moonshot mają w środę wystąpić przed Radą Bezpieczeństwa ONZ w sprawie ryzyka związanego ze sztuczną inteligencją.
  • Odprawa następuje po wezwaniu dyrektora generalnego Anthropic, Dario Amodei, do spowolnienia rozwoju sztucznej inteligencji, przy jednoczesnym naleganiu na kontynuowanie amerykańskich ograniczeń eksportu chipów do Chin.
  • Spotkanie odbywa się dwa dni przed szczytem prezydenta Trumpa z Xi Jinpingiem 24 września.

Rada Bezpieczeństwa ONZ spędzi środowe popołudnie, słuchając ludzi, którzy tworzą technologię, o którą najbardziej się martwi.

Dyrektor generalny OpenAI Sam Altman, dyrektor generalny Anthropic Dario Amodei, badacz bezpieczeństwa sztucznej inteligencji Yoshua Bengio i dyrektor generalny Hugging Face Clément Delangue są zaplanowani, aby przedstawić 15-osobowej radzie—organowi ONZ z uprawnieniami do zatwierdzania sankcji i działań wojskowych—ryzyko związane ze sztuczną inteligencją.

Myriad: How low will Nvidia stock go? Click to make your prediction.
Myriad: Jak nisko spadną akcje Nvidii? Kliknij, aby dokonać prognozy.

DeepSeek jest zaproszony, również. Chiński startup, który zmiótł około 600 miliardów dolarów z kapitalizacji rynkowej Nvidii, gdy w styczniu 2025 roku wprowadził model w obniżonej cenie, został poproszony o złożenie oświadczenia, wraz z inną chińską firmą, Moonshot, twórcami modeli Kimi..

Francja zorganizowała środową sesję i w tym miesiącu sprawuje rotacyjne przewodnictwo w Radzie. Przewodniczyć jej będzie minister spraw zagranicznych Jean-Noël Barrot, a nota koncepcyjna stojąca za spotkaniem ma, jak donoszono, koncentrować się na systemach AI wymykających się spod kontroli człowieka.

To samo briefowanie ma dotyczyć AI, która mogłaby ostatecznie przeprowadzać cyberataki, wpływać na wybory lub projektować broń bez udziału człowieka w tym procesie – dlatego w tym tygodniu Rada stworzona do spraw wojen i sankcji słucha nie generałów, lecz dyrektorów firm technologicznych.

Amodei dołączy zdalnie, a nie osobiście. 12 września opublikował esej zatytułowany „We Must Pace the Frontier”, w którym argumentował, że branża powinna celowo spowolnić tempo budowania coraz bardziej zaawansowanych modeli frontier – największych i najbardziej zaawansowanych systemów AI, jakie jakiekolwiek laboratorium wypuściło. Powiedział, że Anthropic przyzna zewnętrznym ewaluatorom stały dostęp na poziomie pracowniczym, aby weryfikować jej obietnice dotyczące bezpieczeństwa. Sam Altman i Elon Musk obaj powiedzieli, że się zgadzają, w ciągu kilku godzin.

Amodei nazwał Chiny „autokratycznym krajem o zdecydowanie najbardziej zaawansowanych zdolnościach w zakresie AI” i argumentował, że USA powinny nadal ograniczać eksport zaawansowanych chipów do Pekinu, nawet jednocześnie prosząc Pekin o współpracę przy globalnych zasadach bezpieczeństwa. Chińskie Ministerstwo Spraw Zagranicznych nazwało esej kontrproduktywnym, a media państwowe określiły go mianem „podręcznika zimnej wojny” wymierzonego w powstrzymywanie Chin.

Prezydent Donald Trump tymczasem nie chce mieć nic wspólnego z naciskiem na spowolnienie. Po publikacji eseju Amodei prezydent nazwał ostrzeżenia przed przejęciem przez AI „hoaxem” powiązanym z „Radykalną Lewicą” i oskarżył Amodei bezpośrednio o nieprawidłowości, nie przedstawiając dowodów.

Kilka dni później król Karol gościł przedstawicieli Anthropic, OpenAI, Nvidii i Google DeepMind w swojej szkockiej posiadłości na szczycie dotyczącym bezpieczeństwa AI, który przyniósł rozmowy, ale żadnych publicznie znanych porozumień.

Środowa sesja prawdopodobnie również nie przyniesie wiążącego porozumienia. Odbywa się dwa dni przed spotkaniem Trumpa z chińskim prezydentem Xi Jinpingiem w Waszyngtonie 24 września – szczytem, na którego agendzie, jak donoszono, obok handlu znajduje się bezpieczeństwo AI.