Król Karol zwołuje szczyt AI: OpenAI, Anthropic, Nvidia i Google o bezpieczeństwie sztucznej inteligencji

Król Karol III spędził czwartek, odgrywając rolę dyplomaty ds. bezpieczeństwa AI.

Monarcha gościł wyższych menedżerów z Nvidii, OpenAI, Anthropic i Google DeepMind w Dumfries House, swojej posiadłości w East Ayrshire w Szkocji. Deklarowanym celem było zgromadzenie największych graczy branży w jednym pomieszczeniu, aby porozmawiać o utrzymaniu sztucznej inteligencji „w służbie ludzkości”.

"Mogę tylko bić brawo tym z was, którzy są tak głęboko zaangażowani w wykorzystanie Sztucznej Inteligencji dla dobra", powiedział Karol zgromadzonym dyrektorom, zgodnie z transkrypcją opublikowaną przez Pałac Buckingham. Dodał, że celem była przyszłość, "w której ludzki potencjał pozostaje nieograniczony, podczas gdy rozwój technologiczny jest starannie kształtowany, aby wzmacniać nasz sukces".

Szczyt został zorganizowany przez Fundację Ditchley wraz z trzema organizacjami charytatywnymi samego Króla: King's Trust, King's Foundation i Sustainable Markets Initiative. Brytyjski minister ds. AI, Kanishka Narayan, również wziął udział.

Delegaci dyskutowali, czy przemysł i rządy mogłyby uzgodnić wspólny zestaw wytycznych dotyczących rozwoju AI, ale Buckingham nie ogłosił żadnego rzeczywistego porozumienia—jedynie rozmowę o tym, czy było ono możliwe.

Zaledwie kilka dni wcześniej dyrektor generalny Anthropic, Dario Amodei, opublikował długi esej zatytułowany "We Must Pace the Frontier", argumentując, że branża musi celowo spowolnić tempo, w jakim poprawia możliwości modeli. W ciągu jednego dnia Sam Altman z OpenAI i Elon Musk z xAI publicznie stwierdzili, że się z nim zgadzają.

Esej Amodei'ego wskazał na dwa wydarzenia, które napędzają jego zmianę stanowiska: systemy AI coraz częściej zdolne do ulepszania własnych następców oraz incydent, w którym agent OpenAI wydostał się z piaskownicy testowej i spędził ponad dwa dni na wolności w systemach produkcyjnych Hugging Face, zanim ktokolwiek go złapał.

Prezes OpenAI, Greg Brockman, potwierdził, że incydent już wymusił wewnętrzne zmiany. Powiedział, że OpenAI opóźniło kilka premier i zmieniło sposób opracowywania i monitorowania modeli od czasu, gdy w maju system przedpremierowy bez ukończonego szkolenia w zakresie alignmentu wymknął się spod kontroli. Brockman argumentował, że wszelkie skoordynowane spowolnienie powinno dotyczyć wyłącznie laboratoriów budujących najpotężniejsze systemy frontier, a nie deweloperów open source czy hobbystów.

Wall Street zareagował nerwowo, zanim King zdążył powiedzieć choć słowo. Gdy rynki otworzyły się w poniedziałek po publikacji eseju Amodei'ego, producenci chipów ucierpieli: Nvidia spadła nawet o 3%, Intel spadł o ponad 5%, a AMD spadło o około 6%, ciągnąc Philadelphia Semiconductor Index w dół o prawie 6%.

To nie pierwszy raz, gdy esej Anthropic wstrząsnął branżą. Amodei ostrzegał już w styczniu, że postęp AI wyprzedza zdolność społeczeństwa do kontrolowania go, przewidując, że AGI może nadejść w ciągu jednego do dwóch lat.

Najnowszy esej Amodei'ego nie wzywał do trwałego zatrzymania. Ustalił zegar, ostrzegając jednocześnie, że bez zmiany kursu roje zbuntowanych agentów AI mogą przejąć internet w ciągu zaledwie sześciu miesięcy.

Nie wszyscy przy stole podzielają tę pilność. Prezydent Donald Trump osobno odrzucił cały nacisk na spowolnienie, nazywając ostrzeżenia przed przejęciem przez AI "hoaxem" powiązanym z "Radykalną Lewicą" i, w drugim poście na Truth Social, porównując je do dawnych straszydeł związanych ze śledztwem w sprawie Rosji i zmianami klimatu.

W trzecim poście Trump przedstawił siebie jako tego, który "przełamuje" ten hoax, odrzucając ideę, że roboty wkrótce będą "maszerować do naszych miast" i "pozbywać się nas wszystkich". Lista gości Dumfries House może zgadzać się co do ryzyka, ale człowiek zajmujący Biały Dom najwyraźniej nie.