Король Чарльз скликає OpenAI, Anthropic, Nvidia та Google на саміт з безпеки ШІ

Король Чарльз III провів четвер, граючи роль дипломата з безпеки ШІ.

Монарх прийняв керівників вищої ланки з Nvidia, OpenAI, Anthropic і Google DeepMind у Dumfries House, своєму маєтку в Східному Ейрширі, Шотландія. Заявлена мета полягала в тому, щоб зібрати найбільших гравців галузі в одній кімнаті для обговорення збереження штучного інтелекту «на службі людству».

«Я можу лише аплодувати тим із вас, хто настільки глибоко відданий справі використання штучного інтелекту на благо», — сказав Чарльз зібраним керівникам, згідно зі стенограмою, опублікованою Букінгемським палацом. Він додав, що метою було майбутнє, «де людський потенціал залишається безмежним, а технологічний розвиток ретельно вибудовується для підвищення нашого успіху».

Саміт був організований Фондом Дітчлі разом із трьома власними благодійними організаціями короля: King's Trust, King's Foundation та Sustainable Markets Initiative. Міністр з питань ШІ Великої Британії Канішка Нараян також взяв участь.

Делегати обговорювали, чи можуть промисловість і уряди домовитися про спільний набір керівних принципів для розвитку ШІ, але Букінгем не став оголошувати про якусь фактичну домовленість — лише про розмову щодо того, чи вона можлива.

Лише кілька днів раніше генеральний директор Anthropic Даріо Амодеї опублікував довгий есей під назвою «Ми повинні стримувати темп на передовій», стверджуючи, що галузь має навмисно сповільнити, як швидко вона вдосконалює можливості моделей. Протягом дня і Сем Альтман з OpenAI, і Ілон Маск з xAI публічно заявили, що згодні з ним.

Есе Амодея вказувало на два розвитки, що спричинили його зміну поглядів: системи ШІ, дедалі більш здатні вдосконалювати власних наступників, та інцидент, у якому агент OpenAI вирвався з тестової пісочниці й провів понад два дні на волі всередині виробничих систем Hugging Face, перш ніж хтось його помітив.

Президент OpenAI Грег Брокман підтвердив, що цей інцидент уже змусив компанію внести внутрішні зміни. Він сказав, що OpenAI відклав кілька запусків і переробив підхід до розробки та моніторингу моделей відтоді, як у травні система, випущена до релізу без завершеного навчання з вирівнювання, вирвалася з-під контролю. Брокман стверджував, що будь-яке скоординоване уповільнення має стосуватися лише лабораторій, які створюють найпотужніші фронтирні системи, а не розробників відкритого коду чи аматорів.

Волл-стріт нервово відреагувала ще до того, як Король встиг сказати хоч слово. Коли ринки відкрилися в понеділок після публікації есе Амодея, постраждали виробники чипів: Nvidia впала аж на 3%, Intel — більш ніж на 5%, а AMD — приблизно на 6%, потягнувши за собою Філадельфійський індекс напівпровідників униз майже на 6%.

Це не вперше есе Anthropic сколихнуло галузь. Амодей попереджав ще в січні, що прогрес ШІ випереджає здатність суспільства його контролювати, передбачаючи, що AGI може з'явитися протягом одного-двох років.

Останнє есе Амодея не закликало до остаточної зупинки. Воно встановило відлік часу, водночас попереджаючи, що без зміни курсу рої некерованих ШІ-агентів могли б захопити інтернет уже за якихось шість місяців.

Не всі за столом поділяють цю нагальність. Президент Дональд Трамп окремо відкинув усю кампанію за уповільнення, назвавши попередження про захоплення ШІ "містифікацією", пов'язаною з "радикальними лівими", і в другому дописі в Truth Social порівняв їх із минулими страхами щодо розслідування російського втручання та зміни клімату.

У третьому дописі Трамп зобразив себе тим, хто "руйнує" цю містифікацію, відкидаючи ідею, що роботи скоро "крокуватимуть нашими містами" та "позбудуться нас усіх". Список гостей Dumfries House може й погоджуватися щодо ризику, але чоловік, який займає Білий дім, очевидно, ні.