Совбез ООН заслушает советы по рискам ИИ от самих технологических гигантов

Совет Безопасности ООН проведёт вторую половину дня в среду, слушая людей, которые создают технологию, вызывающую у него наибольшее беспокойство.

Генеральный директор OpenAI Сэм Альтман, генеральный директор Anthropic Дарио Амодеи, исследователь в области безопасности ИИ Йошуа Бенжио и генеральный директор Hugging Face Клеман Деланг все запланированы для брифинга Совета из 15 членов — органа ООН, обладающего полномочиями санкционировать санкции и военные действия — о рисках, связанных с искусственным интеллектом.

DeepSeek также приглашён. Китайский стартап, который стёр около 600 миллиардов долларов с рыночной капитализации Nvidia, когда запустил модель по сниженной цене в январе 2025 года, был приглашён выступить с заявлением, наряду с другой китайской фирмой, Moonshot, разработчиками моделей Kimi..

Франция организовала сессию в среду и в этом месяце председательствует в Совете на ротационной основе. Председательствовать будет министр иностранных дел Жан-Ноэль Барро, а концептуальная записка, лежащая в основе встречи, по сообщениям, сосредоточена на системах ИИ, выходящих из-под контроля человека.

Ожидается, что в том же брифинге будет затронут ИИ, который в конечном итоге может осуществлять кибератаки, влиять на выборы или разрабатывать оружие без участия человека, и именно поэтому Совет, созданный для войн и санкций, на этой неделе слушает не генералов, а руководителей технологических компаний.

Амодеи присоединится удаленно, а не приедет лично. 12 сентября он опубликовал эссе под названием «Мы должны задать темп фронтиру», в котором утверждал, что отрасль должна намеренно замедлить темпы создания более способных фронтирных моделей — самых крупных и передовых систем ИИ, выпущенных какой-либо лабораторией. Он сказал, что Anthropic предоставит внешним оценщикам постоянный доступ на уровне сотрудников для проверки своих обещаний по безопасности. Сэм Альтман и Илон Маск оба заявили, что согласны, в течение нескольких часов.

Амодеи назвал Китай «автократической страной с, безусловно, самыми передовыми возможностями в области ИИ» и заявил, что США должны продолжать ограничивать экспорт передовых чипов в Пекин, даже при этом прося Пекин сотрудничать по глобальным правилам безопасности. Министерство иностранных дел Китая назвало эссе контрпродуктивным, а государственные СМИ окрестили его «пособием холодной войны», направленным на сдерживание Китая.

Президент Дональд Трамп, тем временем, не хочет иметь ничего общего с этим замедлением. После выхода эссе Амодеи президент назвал предупреждения о захвате ИИ «мистификацией», связанной с «радикальными левыми», и напрямую обвинил Амодеи в правонарушении, не предоставив доказательств.

Несколько дней спустя король Карл принял руководителей Anthropic, OpenAI, Nvidia и Google DeepMind в своем шотландском поместье на саммите по безопасности ИИ, который породил разговоры, но не привел к публично известным соглашениям.

Сессия в среду также вряд ли приведет к обязательному соглашению. Она состоится за два дня до того, как Трамп встретится с председателем Китая Си Цзиньпином в Вашингтоне 24 сентября, саммите , где, по сообщениям, безопасность ИИ стоит в повестке наряду с торговлей.