Коротко

  • Anthropic, OpenAI, DeepSeek і Moonshot — усі вони в середу виступлять перед Радою Безпеки ООН щодо ризиків ШІ.
  • Брифінг відбувається після заклику генерального директора Anthropic Даріо Амодея сповільнити розвиток ШІ, водночас наполягаючи на продовженні обмежень США на експорт чипів до Китаю.
  • Зустріч відбувається за два дні до саміту президента Трампа з Сі Цзіньпіном 24 вересня.

Рада Безпеки ООН проведе другу половину дня в середу, слухаючи людей, які створюють технологію, що викликає в неї найбільше занепокоєння.

Генеральний директор OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей, дослідник безпеки ШІ Йошуа Бенджіо та генеральний директор Hugging Face Клеман Деланг усі заплановані для брифінгу 15 членів ради — органу ООН, який має повноваження санкціонувати санкції та військові дії — щодо ризиків, які становить штучний інтелект.

Myriad: Наскільки низько впадуть акції Nvidia? Натисніть, щоб зробити свій прогноз.
Myriad: Наскільки низько впадуть акції Nvidia? Натисніть, щоб зробити свій прогноз.

DeepSeek також запрошено. Китайський стартап, який стер приблизно 600 мільярдів доларів з ринкової капіталізації Nvidia, коли запустив модель за зниженою ціною в січні 2025 року, було попрошено зробити заяву, разом з іншою китайською фірмою, Moonshot, розробниками моделей Kimi..

Франція організувала середу сесію та цього місяця головує в Раді. Головуватиме міністр закордонних справ Жан-Ноель Барро, і, як повідомляється, концептуальна записка до зустрічі зосереджена на системах ШІ, які виходять з-під контролю людини.

Очікується, що той самий брифінг торкнеться ШІ, який зрештою може здійснювати кібератаки, впливати на вибори або розробляти зброю без участі людини, і саме тому Рада, створена для воєн і санкцій, цього тижня слухає технологічних генеральних директорів, а не генералів.

Амодей приєднається віддалено, а не з'явиться особисто. 12 вересня він опублікував есе під назвою «Ми повинні сповільнити фронтир», стверджуючи, що галузь повинна навмисно сповільнити темпи створення потужніших фронтирних моделей — найбільших і найдосконаліших систем ШІ, які будь-яка лабораторія випустила. Він сказав, що Anthropic надасть зовнішнім оцінювачам постійний доступ на рівні співробітників для перевірки своїх обіцянок щодо безпеки. Сем Альтман і Ілон Маск обидва заявили, що погодилися протягом кількох годин.

Амодей назвав Китай «автократичною країною з, безумовно, найдосконалішими можливостями ШІ» і стверджував, що США повинні продовжувати обмежувати експорт передових чипів до Пекіна, навіть просячи Пекін співпрацювати щодо глобальних правил безпеки. Міністерство закордонних справ Китаю назвало есе контрпродуктивним, а державні ЗМІ охрестили його «підручником холодної війни», спрямованим на стримування Китаю.

Президент Дональд Трамп, тим часом, не хоче брати участі в кампанії за сповільнення. Після публікації есе Амодея президент назвав попередження про захоплення ШІ «містифікацією», пов'язаною з «радикальними лівими», і звинуватив Амодея безпосередньо у правопорушенні, не надавши доказів.

Через кілька днів король Чарльз прийняв керівників Anthropic, OpenAI, Nvidia та Google DeepMind у своєму шотландському маєтку на саміті з безпеки ШІ, який породив розмову, але не приніс публічно відомих домовленостей.

Сесія в середу також навряд чи принесе обов'язкову угоду. Вона відбувається за два дні до того, як Трамп сяде за стіл переговорів з китайським президентом Сі Цзіньпіном у Вашингтоні 24 вересня, саміт, де, як повідомляється, безпека ШІ стоїть на порядку денному поряд з торгівлею.