簡述
- 兩位美國與中國的安全專家提出紅線，禁止人工智慧獨立攻擊核子系統。
- 作者們也呼籲建立軍事人工智慧熱線，以及對人類控制的共同定義。
- 人工智慧的速度與不確定行為，可能讓領導人幾乎沒有時間阻止衝突升級。
來自美國與中國的安全專家提出規則，將禁止人工智慧獨立對核子指揮系統發動網路攻擊，或決定使用核子武器。
布魯金斯學會與位於上海的中國復旦大學最近發布的一份報告，敦促美國與中國將其對核子武器由人類控制的承諾，擴展到人工智慧的其他軍事用途，包括對核子指揮系統的網路攻擊。
Myriad：下一輪美國與伊朗和平談判？點擊做出你的預測。「唐納·川普總統與習近平主席可以引領治理這些危險，同意只有人類，而非人工智慧，應該做出對彼此核子指揮、控制與通訊系統（NC3）或關鍵基礎設施發動網路攻擊的決定，」研究人員寫道。
NC3系統協助政府偵測威脅、決定是否使用核武器，並傳遞發射命令，但任何階段的失靈都可能中斷通訊、誤判攻擊、鼓勵先發制人，或觸發意外或未經授權的發射。
「將適用於核武器的原則——即具有戰略效果的攻擊應表達人類意圖，且必須受到人類問責——延伸應用，並不需要華盛頓與北京在其他網路安全或基礎設施保護原則上達成共識，」研究人員寫道。
這項擬議協議將要求兩國降低因偶然、人為失誤、不可預測的AI或未經授權的行為者而觸發具有戰略後果之攻擊的風險。
這項呼籲採用核武式保障措施的訴求，是關於如何減緩AI發展並讓日益強大的系統處於人類控制之下的日益激烈辯論的一部分。這種擔憂在軍事領域尤其嚴重，因為在毫秒內做出的自動化決策可能將虛假警告或網路攻擊變成核危機。
這種擔憂在二月得到了凸顯，當時OpenAI、Google和Anthropic的模型在95%的受測戰爭模擬情境中使用了核武器，儘管專家警告該模擬可能鼓勵了局勢升級。
比特幣BTC · USD
$76,418−0.94%
9月10日9月12日9月14日9月16日9月17日
$79.2k$78.0k$76.7k$75.5k
24小時最高最高$77,024
24小時最低最低$75,602
成交量成交量$872.8M
價格數據由 CoinGecko 提供CoinGecko更多 比特幣 新聞與預測 →
同月，Anthropic 拒絕了五角大廈要求解除 Claude 對大規模監控與完全自主武器的限制。川普下令聯邦機構停止使用該公司的技術，但一名聯邦法官於8月28日裁定，該政府對 Anthropic 的報復行為違法。
自此之後，要求克制的呼聲已在整個業界蔓延開來。本月稍早，Anthropic 執行長 Dario Amodei 呼籲開發者放慢能力提升的速度，獲得了 OpenAI 執行長 Sam Altman 和 xAI 老闆 Elon Musk 的支持，同時 OpenAI 向國會詢問，企業能否在不違反反壟斷法的情況下協調放慢腳步。
在沒有具約束力的放慢措施的情況下，布魯金斯學會的作者們提出了一項更狹隘的規則：只有人類才應被允許授權對核指揮系統發動攻擊或使用核武器。
「軍事 AI 的治理不是一場等得起的談判——這是一場與時間的賽跑，」他們寫道。
