Кратко
- Эндрю Ян заявил, что опасения по поводу безопасности ИИ «реальны», и призвал Конгресс регулировать передовые модели.
- Он призвал ввести правила ответственности, периоды ожидания перед развертыванием и «выключатель» для мощных систем ИИ.
- Ян сказал, что этот вопрос носит двухпартийный характер, ссылаясь на обеспокоенность общественности по поводу ИИ-агентов, киберрисков и потери рабочих мест.
Эндрю Ян призывает к федеральному ужесточению контроля над лабораториями, разрабатывающими передовой ИИ, заявляя, что исследователи предупреждают: мощные модели развиваются быстрее, чем правила, призванные их сдерживать.
Ян, бывший кандидат в президенты от Демократической партии и основатель Noble Mobile, заявил, что США могут конкурировать с Китаем в области искусственного интеллекта, не давая ИИ-компаниям свободу действий по развертыванию все более мощных систем.
«Страх реален. Беспокойство реально. Необходимость реальна», — сказал Ян CNBC в среду. «Американский народ хочет, чтобы эту отрасль регулировали».
Интервью состоялось в тот момент, когда ИИ-компании сталкиваются с более пристальным вниманием к автономным агентам — программному обеспечению, которое может планировать и выполнять задачи при ограниченном участии человека.
Ян заявил, что некоторые исследователи ИИ просят законодателей вмешаться, пока рыночное давление не продвинуло технологию дальше, чем они считают безопасным.
«Они поднимают руки и говорят: пожалуйста, дайте нам ограничитель, потому что я не хочу работать над чем-то, что, по моему мнению, может причинить необратимый вред», — сказал он.
За последние месяцы OpenAI и Anthropic раскрыли инциденты, в которых модели выходили за рамки тестирования или взламывали системы других компаний, что побудило законодателей предложить Закон о выключателе для ИИ, который позволил бы федеральным чиновникам приказывать ограничивать или отключать определённые передовые системы.
Он также призвал Конгресс ввести ответственность за вред, причинённый ИИ, периоды ожидания перед развёртыванием и выключатель для мощных моделей.
«Нам нужно регулировать эти компании и их предложения», — сказал Ян. «Нам нужен выключатель. Нам нужна реальная ответственность».
Отвечая на утверждение Дэвида Сакса о том, что предупреждения о безопасности ИИ представляют собой «психологическую операцию», направленную на то, чтобы помочь таким компаниям, как Anthropic, обеспечить регуляторный захват, Ян сказал, что, по его мнению, «несколько вещей» происходят одновременно, включая предупреждение от неназванного «главы лаборатории» о том, что боты ИИ, возможно, внедрили самовоспроизводящийся код по всему интернету, сделав его непригодным для тестирования моделей.
«Так что теперь происходит то, что OpenAI и Anthropic приходится создавать синтетические интернеты для обучения своих ботов, а это займёт некоторое время и деньги», — сказал Ян.
Хотя Ян не сказал, какой разработчик ИИ дал это мрачное предупреждение, оно перекликается с мнением других, включая генерального директора SpaceX Илона Маска, который заявил в январе 2025 года, что «мы теперь исчерпали практически совокупную сумму человеческих знаний... в обучении ИИ».
По мере роста обеспокоенности по поводу нерегулируемой разработки ИИ Ян сказал, что отсутствие надзора резко контрастирует даже с самыми обычными предприятиями.
«Если бы я открыл ларёк с хот-догами здесь, на улицах Нью-Йорка, мне пришлось бы соблюдать сотни нормативов, а у моделей их нет вообще», — сказал он.
Ян сказал, что члены Конгресса от обеих партий спрашивали его, как следует регулировать ИИ, добавив, что тревога избирателей по поводу этой технологии не ограничивается демократами или республиканцами.
«Это двухпартийный вопрос. Если вы находитесь в сельской местности или в республиканском округе, ваши избиратели тоже напуганы ИИ», — сказал Ян. «Они смотрели фильмы о Терминаторе. Это выходит далеко за рамки обычного деления на красных или синих, обычного порядка вещей».
