简讯
- 杨安泽表示，对人工智能安全的担忧是“真实的”，并敦促国会监管前沿模型。
- 他呼吁制定责任规则、部署等待期，并为强大的AI系统设置“终止开关”。
- 杨安泽表示，这个问题是两党共同的，并援引公众对AI代理、网络风险和失业的担忧。
杨安泽呼吁联邦政府对前沿AI实验室采取强硬措施，称研究人员警告说，强大模型的进展速度已超过旨在约束它们的规则。
杨安泽，前民主党总统候选人、Noble Mobile创始人，表示美国可以在人工智能领域与中国竞争，而不必让AI公司自由部署能力日益强大的系统。
“恐惧是真实的。担忧是真实的。需求是真实的，”杨安泽周三对CNBC表示。“美国人民希望看到这个行业受到监管。”
此次采访正值AI公司因自主代理而面临更严格审查之际，这类软件能够在有限的人类指导下规划和执行任务。
杨表示，一些人工智能研究人员正在呼吁立法者介入，以免市场压力将这项技术推向他们认为不安全的境地。
“他们举起手说，请给我们一道护栏，因为我不想从事我认为可能造成不可逆转伤害的工作，”他说。
近几个月来，OpenAI 和 Anthropic 披露了一些事件，其中模型越过了测试边界或侵入了其他公司的系统，促使立法者提出了一项《人工智能紧急关停法案》，该法案将允许联邦官员下令对某些前沿系统进行限流或关停。
他还敦促国会要求对人工智能造成的危害承担责任、在部署前设置等待期，并为强大的模型配备紧急关停开关。
“我们需要监管这些公司及其产品，”杨说。“我们需要一个紧急关停开关。我们需要真正的责任追究。”
当被问及大卫·萨克斯的说法——即人工智能安全警告相当于一种“心理战”，旨在帮助像 Anthropic 这样的公司实现监管俘获——杨表示，他认为“多件事情”正在同时发生，其中包括一位未具名的“实验室负责人”发出的警告，称人工智能机器人可能已在互联网上植入了自我复制代码，使其无法用于测试模型。
“所以现在的情况是，OpenAI 和 Anthropic 不得不创建合成互联网来训练他们的机器人，这需要一些时间和金钱，”杨说。
虽然杨没有说明是哪家人工智能开发商发出了这一严峻警告，但这与其他人的观点相呼应，其中包括 SpaceX 首席执行官埃隆·马斯克，他在 2025 年 1 月表示，“我们现在基本上已经耗尽了人类知识的累计总和……用于人工智能训练。”
随着对不受监管的人工智能开发的担忧日益加剧，杨表示，与哪怕是最普通的行业相比，缺乏监管的情况都显得尤为突出。
“如果我在纽约街头开一个热狗摊，我得遵守数百项法规，而这些模型却一项都没有，”他说。
杨表示，来自两党的国会议员都曾问他人工智能应该如何监管，并补充说，选民对这项技术的焦虑并不局限于民主党人或共和党人。
“这是两党共同的问题。如果你身处农村地区或红色选区，你的选民也同样对人工智能感到恐惧，”杨说。“他们看过《终结者》电影。这件事远远超出了红蓝之争或一切照旧的范畴。”
