简讯
- Anthropic、OpenAI、DeepSeek 和 Moonshot 都将于周三在联合国安理会就人工智能风险发表讲话。
- 此次简报会之前，Anthropic 首席执行官达里奥·阿莫代伊呼吁放缓人工智能发展，同时敦促美国继续对中国实施芯片出口限制。
- 此次会议召开的两天后，特朗普总统将于9月24日与习近平举行峰会。
联合国安理会将于周三下午听取那些构建其最担忧技术的人的意见。
OpenAI 首席执行官萨姆·奥尔特曼、Anthropic 首席执行官达里奥·阿莫代伊、人工智能安全研究员约书亚·本吉奥以及 Hugging Face 首席执行官克莱芒·德朗格均已安排向这个由15个成员组成的安理会——这个有权授权制裁和军事行动的联合国机构——通报人工智能所带来的风险。
DeepSeek 也受邀。这家中国初创公司于2025年1月推出一款低价模型时，曾使英伟达市值蒸发约6000亿美元，如今它已被要求发表声明，另一家中国公司Moonshot（Kimi模型的开发者）也在受邀之列。
法国组织了周三的会议，并于本月担任安理会轮值主席国。外交部长让-诺埃尔·巴罗将主持会议，据报道，会议背后的概念说明聚焦于人工智能系统脱离人类控制的问题。
同一份简报预计还将涉及可能最终发动网络攻击、操纵选举或在无人在环的情况下设计武器的人工智能，这正是为什么一个为战争和制裁而设立的安理会本周听取的是科技公司首席执行官而非将军们的意见。
阿莫代伊将远程参会，而非亲自到场。9月12日，他发表了一篇题为《我们必须放慢前沿步伐》的文章，主张业界应刻意放缓构建更强大前沿模型的速度——即任何实验室已发布的最大、最先进的人工智能系统。他表示，Anthropic将给予外部评估者永久性的、员工级别的访问权限，以核查其安全承诺。萨姆·奥尔特曼和埃隆·马斯克都在数小时内表示同意。
阿莫代伊称中国是“迄今为止人工智能能力最先进的威权国家”，并主张美国应继续限制向北京出口先进芯片，即便同时要求北京在全球安全规则上合作。中国外交部称这篇文章适得其反，官方媒体将其定性为旨在遏制中国的“冷战剧本”。
与此同时，唐纳德·特朗普总统不想参与这场放缓的推动。阿莫代伊的文章发表后，总统称人工智能接管的警告是与“激进左翼”有关的“骗局”，并直接指责阿莫代伊有不当行为，却未提供证据。
几天后，查尔斯国王在其苏格兰庄园接待了来自Anthropic、OpenAI、英伟达和谷歌DeepMind的高管，举行了一场人工智能安全峰会，峰会产生了对话，但没有公开已知的协议。
周三的会议也不太可能产生具有约束力的协议。它是在特朗普于9月24日在华盛顿与中国国家主席习近平会晤的两天前举行的，据报道，在这场峰会上，人工智能安全与贸易一同被列入议程。
