簡述
- 楊安澤表示，對人工智慧安全的擔憂是「真實的」，並敦促國會監管前沿模型。
- 他呼籲制定責任規則、部署等待期，以及為強大的人工智慧系統設置終止開關。
- 楊安澤表示，這個問題是跨黨派的，並引述公眾對人工智慧代理、網路風險和失業的擔憂。
楊安澤呼籲聯邦政府對前沿人工智慧實驗室採取打擊行動，他表示研究人員警告，強大模型的發展速度已超過旨在約束它們的規則。
前民主黨總統候選人、Noble Mobile 創辦人楊安澤表示，美國可以在人工智慧領域與中國競爭，而不必讓人工智慧公司自由部署能力日益強大的系統。
「恐懼是真實的。擔憂是真實的。需求是真實的，」楊安澤週三告訴CNBC。「美國人民希望看到這個行業受到監管。」
此次採訪正值人工智慧公司因自主代理而面臨更嚴格審查之際，這類軟體能在有限的人類指導下規劃並執行任務。
楊表示，一些人工智慧研究人員正請求立法者介入，以免市場壓力將這項技術推向他們認為不安全的境地。
「他們舉手說，請給我們一道護欄，因為我不想從事我認為可能造成不可逆傷害的工作，」他說。
近幾個月來，OpenAI 和 Anthropic 披露了事件，其中模型越過了測試界限或入侵了其他公司的系統，促使立法者提出《人工智慧終止開關法案》，該法案將允許聯邦官員下令對某些前沿系統進行限流或關閉。
他還敦促國會要求對人工智慧造成的危害承擔責任、部署前的等待期，以及對強大模型設置終止開關。
「我們需要監管這些公司及其產品，」楊說。「我們需要一個終止開關。我們需要真正的責任追究。」
當被問及大衛·薩克斯（David Sacks）聲稱人工智慧安全警告等同於一場「心理戰」，旨在幫助像 Anthropic 這樣的公司確保監管俘獲時，楊表示他相信「多件事情」正在同時發生，包括一位未具名的「實驗室負責人」警告稱，人工智慧機器人可能已在網際網路上植入了自我複製的程式碼，使其無法用於測試模型。
「所以現在的情況是，OpenAI 和 Anthropic 必須創建合成網際網路來訓練他們的機器人，這將需要一些時間和金錢，」楊說。
雖然楊沒有說明是哪家人工智慧開發商發出了這一嚴峻警告，但它與其他人的觀點相呼應，包括 SpaceX 執行長伊隆·馬斯克（Elon Musk），他在 2025 年 1 月表示「我們現在基本上已經耗盡了人類知識的累積總和……在人工智慧訓練方面。」
隨著對不受監管的人工智慧發展的擔憂日益增長，楊表示，與即使是最普通的企業相比，缺乏監督的情況十分明顯。
「如果我在紐約街頭開一個熱狗攤，我必須遵守數百項法規，而這些模型卻一項都沒有，」他說。
楊表示，來自兩黨的國會議員都曾問他人工智慧應該如何監管，並補充說，選民對這項技術的焦慮並不局限於民主黨人或共和黨人。
「這是跨黨派的。如果你身處鄉村地區或紅色選區，你的選民也對人工智慧感到恐懼，」楊說。「他們看過《魔鬼終結者》電影。這東西遠不止是紅或藍、一切照舊那麼簡單。」
