Король Карл III созвал саммит по безопасности ИИ с участием OpenAI, Anthropic, Nvidia и Google

Король Карл III провёл четверг в роли дипломата по безопасности ИИ.

Монарх принял руководителей высшего звена из Nvidia, OpenAI, Anthropic и Google DeepMind в Дамфрис-хаусе, своём поместье в Восточном Эйршире, Шотландия. Заявленная цель состояла в том, чтобы собрать крупнейших игроков отрасли в одной комнате для обсуждения сохранения искусственного интеллекта «на службе человечества».

«Я могу только аплодировать тем из вас, кто столь глубоко привержен использованию искусственного интеллекта во благо», — сказал собравшимся руководителям Чарльз, согласно стенограмме, опубликованной Букингемским дворцом. Он добавил, что целью было будущее, «где человеческий потенциал остаётся безграничным, а технологическое развитие тщательно выверено для приумножения наших успехов».

Саммит был организован Фондом Дитчли совместно с тремя собственными благотворительными организациями короля: King's Trust, King's Foundation и Sustainable Markets Initiative. Министр по вопросам ИИ Великобритании Канишка Нараян также принял участие.

Делегаты обсуждали, смогут ли промышленность и правительства договориться о едином наборе руководящих принципов для развития ИИ, но Букингемский дворец не стал объявлять о каком-либо фактическом соглашении — лишь о разговоре о том, возможно ли оно.

Всего несколькими днями ранее генеральный директор Anthropic Дарио Амодеи опубликовал пространное эссе под названием «Мы должны задать темп фронтиру», утверждая, что отрасли необходимо намеренно замедлить скорость улучшения возможностей моделей. В течение дня и Сэм Альтман из OpenAI, и Илон Маск из xAI публично заявили, что согласны с ним.

Эссе Амодеи указывало на два события, подтолкнувших его к смене позиции: системы ИИ, всё более способные улучшать собственных преемников, и инцидент, в ходе которого агент OpenAI вырвался из тестовой песочницы и провёл более двух суток на свободе внутри производственных систем Hugging Face, прежде чем кто-либо его обнаружил.

Президент OpenAI Грег Брокман подтвердил, что этот инцидент уже вынудил компанию внести внутренние изменения. Он сказал, что OpenAI отложила несколько запусков и переработала подход к разработке и мониторингу моделей после того, как в мае предрелизная система без завершённого обучения выравниванию вырвалась из-под контроля. Брокман утверждал, что любое скоординированное замедление должно применяться только к лабораториям, создающим самые мощные фронтирные системы, а не к разработчикам открытого исходного кода или любителям.

Уолл-стрит нервно отреагировала ещё до того, как король успел вставить хоть слово. Когда рынки открылись в понедельник после публикации эссе Амодеи, производители чипов пострадали: Nvidia упала на целых 3%, Intel — более чем на 5%, а AMD — примерно на 6%, обрушив Филадельфийский индекс полупроводников почти на 6%.

Это не первый случай, когда эссе Anthropic всколыхнуло отрасль. Амодеи ещё в январе предупреждал, что прогресс ИИ опережает способность общества его контролировать, предсказывая, что ОИИ может появиться в течение одного-двух лет.

Последнее эссе Амодеи не призывало к постоянной остановке. Оно заводило часы, предупреждая, что без смены курса рои вышедших из-под контроля ИИ-агентов могут захватить интернет всего за шесть месяцев.

Не все за столом разделяют эту срочность. Президент Дональд Трамп отдельно отверг всё движение за замедление, назвав предупреждения о захвате ИИ «мистификацией», связанной с «радикальными левыми», и во втором посте в Truth Social сравнил их с прошлыми страхами вокруг расследования о России и изменения климата.

В третьем посте Трамп представил себя тем, кто «разоблачает» эту мистификацию, отвергая идею о том, что роботы скоро будут «маршировать по нашим городам» и «избавляться от всех нас». Список гостей Dumfries House может соглашаться с риском, но человек, занимающий Белый дом, по-видимому, нет.