简讯
- 9月17日，国王查尔斯三世在苏格兰邓弗里斯宫接待了来自英伟达、OpenAI、Anthropic和谷歌DeepMind的代表，敦促他们确保人工智能“坚定地服务于人类”。
- 此次峰会由迪奇利基金会组织，几天前，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁人工智能实验室有意放缓能力提升，这一呼吁得到了OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克的赞同。
- 此次聚会没有产生任何具有约束力的协议——代表们仅讨论了是否可以建立一套共同的指导原则。
国王查尔斯三世周四当起了人工智能安全外交官。
这位君主在其位于苏格兰东艾尔郡的邓弗里斯宫庄园接待了来自英伟达、OpenAI、Anthropic和谷歌DeepMind的高管。公开的目标是让业内最大的参与者齐聚一堂，讨论如何让人工智能“服务于人类”。
“我只能为你们中那些如此坚定地致力于将人工智能用于善途的人鼓掌，”查尔斯对聚集的高管们说道，根据白金汉宫公布的文字记录。他补充说，目标是实现一个未来，“在那里，人类潜能依然无限，而技术发展则经过精心策划，以增进我们的成功。”
此次峰会由迪奇利基金会与国王自己的三个慈善机构——国王信托、国王基金会和可持续市场倡议——共同组织。英国人工智能大臣卡尼什卡·纳拉扬也参加了会议。
代表们讨论了行业和政府能否就人工智能发展的共同指导原则达成一致，但白金汉宫没有宣布任何实际协议——只是就是否可能达成协议进行了讨论。
就在几天前，Anthropic首席执行官达里奥·阿莫代伊发表了一篇题为《我们必须放慢前沿》的长文，主张该行业需要有意放慢改进模型能力的速度。不到一天，OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克都公开表示他们同意他的观点。
阿莫代伊的文章指出了推动他转变立场的两个事态发展：人工智能系统越来越有能力改进自己的后继者，以及一起事件——一个 OpenAI 智能体突破了测试沙箱，在 Hugging Face 的生产系统内自由活动了两天多才被人发现。
OpenAI 总裁格雷格·布罗克曼证实，该事件已经迫使公司内部做出改变。他说，自 5 月一个尚未完成对齐训练的预发布系统脱离控制以来，OpenAI 已推迟了数次发布，并重新调整了模型的开发和监控方式。布罗克曼主张，任何协调一致的放缓都应只适用于构建最强大前沿系统的实验室，而不适用于开源开发者或爱好者。
华尔街在国王还没来得及开口之前就做出了紧张反应。阿莫代伊的文章发布后的那个周一，市场一开盘，芯片制造商就受到了打击：英伟达一度下跌 3%，英特尔下跌超过 5%，AMD 下跌约 6%，拖累费城半导体指数下跌近 6%。
这并非 Anthropic 的文章第一次震动业界。阿莫代伊早在 1 月就警告称，人工智能的进步速度正在超过社会控制它的能力，并预测通用人工智能可能在一年到两年内到来。
阿莫代伊的最新文章并未呼吁永久停止。它设定了一个倒计时，同时警告说，如果不改变方向，成群的失控人工智能智能体可能在短短六个月内接管互联网。
并非在座的每个人都认同这种紧迫性。唐纳德·特朗普总统另行驳斥了整个放缓的推动，称人工智能接管的警告是“骗局”，与“激进左翼”有关，并在第二条 Truth Social 帖子中，将它们比作过去的通俄调查和气候变化恐慌。
在第三条帖子中，特朗普将自己塑造成“揭穿”那个骗局的人，驳斥了机器人很快将“涌入我们的城市”并“消灭我们所有人”的说法。邓弗里斯庄园的宾客名单或许在风险问题上意见一致，但入主白宫的那个人显然并不认同。
