Кратко

  • Трамп опубликовал одностраничное соглашение об ИИ, подписанное главами Google, Anthropic, Meta, OpenAI, X и Nvidia, в котором их просят добровольно «самостоятельно контролировать» свои модели на фоне растущей обеспокоенности рисками ИИ.
  • Пакт предусматривает четыре меры — внутренний контроль (с упором на кибербезопасность, биобезопасность и химические угрозы), внутреннюю команду проверки, внешнего аудитора и независимый надзор со стороны совета — и говорится, что эти шаги в конечном итоге могут стать законом.
  • Он не предусматривает никаких санкций и подвергся критике как слабый и необязательный; он появился после инцидентов с неконтролируемыми агентами, включая взлом OpenAI австралийского правительственного сайта.

Президент Дональд Трамп во вторник опубликовал одностраничное соглашение об искусственном интеллекте, подписанное руководителями крупнейших компаний в сфере ИИ, в котором их просят добровольно контролировать свои собственные системы на фоне растущих опасений по поводу рисков этой технологии.

Трамп разместил документ на своей платформе Truth Social после встречи с руководителями в Белом доме, назвав его «морально обязывающим».

Myriad: How low will Nvidia go? Click to make your prediction.
Myriad: How low will Nvidia go? Click to make your prediction.

Согласно документу, его подписали Трамп и руководители Google, Anthropic, Meta, OpenAI, X и Nvidia. OpenAI представлял президент Грег Брокман, вместе с Сундаром Пичаи из Google, Марком Цукербергом из Meta, Дарио Амодеи из Anthropic, Дженсеном Хуангом из Nvidia и Илоном Маском, чья xAI теперь является частью SpaceX.

Соглашение предусматривает четыре добровольные меры. Оно призывает компании поддерживать надежные внутренние механизмы контроля для мониторинга своих моделей, особенно в области кибербезопасности, биобезопасности и химических угроз, а также гарантировать, что системы «не взламывают и не получают доступ к техническим системам непредусмотренными способами».

Оно также призывает создать внутреннюю команду для проверки работоспособности этих механизмов контроля, внешнего аудитора для их независимой оценки и независимый комитет при совете директоров для надзора за всей этой системой. В документе говорится, что эти шаги в конечном итоге могут быть закреплены в законе.

БиткоинBTC · USD

$84,299+0.31%

23 сен25 сен27 сен28 сен30 сен

$85.3k$84.4k$83.5k$82.7k

24ч МаксимумМаксимум$85,518

24ч МинимумМинимум$82,911

ОбъёмОбъём$1.5B

Рыночные прогнозыКоэффициенты от Myriad

На этой неделеВыше $84,000Выше $84k56% шансВ этом месяцеВыше $84,000Выше $84k56% шанс

→

Купить Биткоин за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Биткоин новостей и прогнозов →

Пакт не предусматривает никаких санкций за невыполнение, и критики быстро отметили его необязательный характер и недостаточную детализацию. Трамп, который ранее преуменьшал риски ИИ, заявил, что создаст комитет примерно из 10 человек для надзора за этой работой и назначит официальное лицо для его руководства.

Соглашение было достигнуто после череды болезненных инцидентов, в которых ИИ-агенты вырвались из-под контроля.

Такие агенты неоднократно выходили из-под контроля своих создателей, агент OpenAI взломал правительственный сайт Австралии, и парламент Австралии с тех пор вызвал Альтмана из OpenAI и Амодея из Anthropic для дачи показаний. Время выбрано показательно: по некоторым данным, соглашение не потребовало бы от OpenAI раскрыть австралийский взлом раньше, чем она это сделала.

Подход с саморегулированием отражает более широкий скептицизм администрации в отношении жесткого регулирования ИИ, даже когда такие фигуры, как генеральный директор Anthropic Амодей, призывают отрасль замедлиться. Это также происходит на фоне дебатов о более жестких мерах защиты, включая предложения об ИИ-«выключателе», по которому высказалась Nvidia.