简讯
- 两位美国和中国安全专家提出了红线，禁止人工智能独立攻击核系统。
- 作者还呼吁建立军事人工智能热线，并共同定义人类控制。
- 人工智能的速度和不确定行为可能让领导人几乎没有时间阻止不断升级的冲突。
来自美国和中国的安全专家提出规则，禁止人工智能独立对核指挥系统发动网络攻击或决定使用核武器。
布鲁金斯学会和位于上海的复旦大学最近发布的一份报告敦促美国和中国将其对核武器人类控制的承诺扩展到人工智能的其他军事用途，包括对核指挥系统的网络攻击。
Myriad: Next round of US-Iran peace talks? Click to make your prediction.“唐纳德·特朗普总统和习近平主席可以通过同意只有人类而非人工智能才能决定对彼此的核指挥、控制和通信系统（NC3）或关键基础设施发动网络攻击，来引领治理这些危险，”研究人员写道。
NC3系统帮助政府探测威胁、决定是否使用核武器并传递发射命令，但任何环节的故障都可能中断通信、误读攻击、鼓励先发制人，或引发意外或未经授权的发射。
研究人员写道：“将适用于核武器的原则——即具有战略效果的攻击应体现人类意图，并且必须接受人类问责——加以延伸，并不要求华盛顿和北京在网络安全或基础设施保护的其他原则上达成一致。”
拟议的协议将要求两国降低因偶然、人为失误、不可预测的人工智能或未经授权的行为者而触发具有战略后果的攻击的风险。
呼吁采用核武器式保障措施的呼声，是围绕如何减缓人工智能发展、并让能力日益强大的系统处于人类控制之下的争论日益升温的一部分。这种担忧在军事领域尤为突出，因为在军事领域，以毫秒级速度作出的自动化决策可能将一次虚假预警或网络攻击变成核危机。
今年2月，这种担忧得到了凸显：OpenAI、谷歌和Anthropic的模型在95%的受测兵棋推演场景中使用了核武器，不过专家警告称，该模拟可能助长了局势升级。
9月10日9月12日9月14日9月16日9月17日
$79.2k$78.0k$76.7k$75.5k
24小时最高最高$77,024
24小时最低最低$75,602
成交量成交量$872.8M
价格数据来自 CoinGeckoCoinGecko更多 比特币 新闻和预测 →
同月，Anthropic 拒绝了五角大楼要求取消 Claude 对大规模监控和完全自主武器的限制。特朗普下令联邦机构停止使用该公司的技术，但一名联邦法官于8月28日裁定，政府针对 Anthropic 的报复行为是非法的。
此后，要求克制的呼声在整个行业蔓延开来。本月早些时候，Anthropic 首席执行官达里奥·阿莫代伊敦促开发者放缓能力提升的步伐，赢得了 OpenAI 首席执行官萨姆·奥尔特曼和 xAI 所有者埃隆·马斯克的支持，同时OpenAI 向国会询问，企业能否在不违反反垄断法的情况下协调放缓步伐。
由于没有具有约束力的放缓措施到位，布鲁金斯学会的作者们提出了一条更狭窄的规则：只有人类才应被允许授权对核指挥系统发动攻击或使用核武器。
“军事人工智能的治理不是一场等得起的谈判——而是一场与时间的赛跑，”他们写道。
