Коротко
- Ендрю Ян заявив, що побоювання щодо безпеки ШІ є «реальними», і закликав Конгрес регулювати фронтирні моделі.
- Він закликав до правил відповідальності, періодів очікування перед розгортанням і «вимикача» для потужних систем ШІ.
- Ян сказав, що це питання є двопартійним, посилаючись на занепокоєння громадськості щодо ШІ-агентів, кіберризиків і втрати робочих місць.
Ендрю Ян закликає до федерального тиску на лабораторії фронтирного ШІ, кажучи, що дослідники попереджають: потужні моделі розвиваються швидше, ніж правила, покликані їх стримувати.
Ян, колишній кандидат у президенти від Демократичної партії та засновник Noble Mobile, сказав, що США можуть конкурувати з Китаєм у сфері штучного інтелекту, не даючи ШІ-компаніям повної свободи розгортати дедалі потужніші системи.
«Страх реальний. Занепокоєння реальне. Потреба реальна», — сказав Ян CNBC у середу. «Американський народ хоче бачити цю галузь регульованою».
Інтерв’ю відбулося в той час, коли ШІ-компанії стикаються з пильнішою перевіркою щодо автономних агентів — програмного забезпечення, яке може планувати та виконувати завдання з обмеженим керівництвом людини.
Ян сказав, що деякі дослідники ШІ просять законодавців втрутитися, перш ніж ринковий тиск підштовхне технологію далі, ніж вони вважають безпечним.
«Вони піднімають руки й кажуть: будь ласка, дайте нам запобіжник, бо я не хочу працювати над чимось, що, на мою думку, може завдати незворотної шкоди», — сказав він.
За останні місяці OpenAI та Anthropic розкрили інциденти, у яких моделі перетинали межі тестування або зламували системи інших компаній, що спонукало законодавців запропонувати Закон про вимикач ШІ, який дозволив би федеральним чиновникам наказати обмежити або вимкнути певні фронтирні системи.
Він також закликав Конгрес запровадити відповідальність за шкоду від ШІ, періоди очікування перед розгортанням і вимикач для потужних моделей.
«Нам потрібно регулювати ці компанії та їхні пропозиції», — сказав Ян. «Нам потрібен вимикач. Нам потрібна реальна відповідальність».
На запитання про твердження Девіда Сакса, що попередження про безпеку ШІ є «психологічною операцією», спрямованою на допомогу таким компаніям, як Anthropic, у захопленні регулювання, Ян сказав, що, на його думку, «кілька речей» відбуваються одночасно, зокрема попередження від неназваного «керівника лабораторії» про те, що ШІ-боти, можливо, розмістили самовідтворюваний код по всьому інтернету, зробивши його непридатним для тестування моделей.
«Тож тепер OpenAI та Anthropic доводиться створювати синтетичні інтернети для навчання своїх ботів, що потребує часу й грошей», — сказав Ян.
Хоча Ян не сказав, який розробник ШІ дав це похмуре попередження, воно перегукується з думкою інших, зокрема генерального директора SpaceX Ілона Маска, який сказав у січні 2025 року, що «ми тепер вичерпали фактично сукупну суму людських знань... у навчанні ШІ».
Оскільки занепокоєння щодо нерегульованого розвитку ШІ зростає, Ян сказав, що брак нагляду разюче контрастує навіть із найзвичайнішими бізнесами.
«Якби я відкрив кіоск із хот-догами тут, на вулицях Нью-Йорка, мені довелося б дотримуватися сотень нормативів, а моделі не мають жодного», — сказав він.
Ян сказав, що члени Конгресу з обох партій запитували його, як слід регулювати ШІ, додавши, що тривога виборців щодо цієї технології не обмежується демократами чи республіканцями.
«Це двопартійне питання. Якщо ви в сільській місцевості або в республіканському окрузі, ваші виборці також налякані ШІ», — сказав Ян. «Вони дивилися фільми про Термінатора. Це далеко за межами звичайного поділу на червоних чи синіх».
