簡述

  • Anthropic、OpenAI、DeepSeek 和 Moonshot 都將於週三在聯合國安全理事會上就 AI 風險發表演說。
  • 此次簡報會是在 Anthropic 執行長 Dario Amodei 呼籲放慢 AI 發展，同時敦促美國繼續對中國實施晶片出口限制之後舉行的。
  • 此次會議在川普總統 9 月 24 日與習近平舉行峰會的兩天前召開。

聯合國安全理事會將於週三下午聽取那些建造其最擔心技術的人們的意見。

OpenAI 執行長 Sam Altman、Anthropic 執行長 Dario Amodei、AI 安全研究員 Yoshua Bengio 以及 Hugging Face 執行長 Clément Delangue 都已排定向這個由 15 個成員國組成、有權授權制裁和軍事行動的聯合國機構，就人工智慧所構成的風險進行簡報。

Myriad: How low will Nvidia stock go? Click to make your prediction.
Myriad：Nvidia 股價會跌到多低？點擊做出你的預測。

DeepSeek 也受邀。這家中國新創公司在 2025 年 1 月推出一款低價模型時，讓 Nvidia 市值蒸發約 6,000 億美元，如今已被要求發表聲明，另一家中國公司 Moonshot 也同樣受邀，後者是 Kimi 模型的開發商。

法國籌辦了週三的會議，並於本月擔任安理會輪值主席。外交部長尚-諾埃爾·巴羅將主持會議，據報導，會議背後的概念文件聚焦於人工智慧系統脫離人類控制。

同一份簡報預計將觸及最終可能發動網路攻擊、影響選舉或設計武器而無需人類介入的人工智慧，這就是為什麼一個為戰爭和制裁而設的安理會，本週聽取的是科技執行長而非將軍們的意見。

阿莫德伊將遠端與會，而非親自出席。9月12日，他發表了一篇名為〈我們必須放緩前沿〉的文章，主張業界應刻意放慢建造更強大前沿模型的速度——即任何實驗室所發布最大、最先進的人工智慧系統。他表示，Anthropic將給予外部評估者永久、員工層級的存取權，以查核其安全承諾。山姆·奧特曼和伊隆·馬斯克都在數小時內表示同意。

阿莫德伊稱中國是「迄今為止人工智慧能力最先進的專制國家」，並主張美國應繼續限制向北京出口先進晶片，即使同時要求北京在全球安全規則上合作。中國外交部稱該文章適得其反，官方媒體則將其標籤為旨在遏制中國的「冷戰劇本」。

與此同時，總統唐納德·川普不想參與放緩的推動。在阿莫德伊的文章發布後，總統稱人工智慧接管的警告是與「激進左派」有關的「騙局」，並直接指控阿莫德伊有不當行為，但未提供證據。

幾天後，查爾斯國王在其蘇格蘭莊園接待了來自Anthropic、OpenAI、Nvidia和Google DeepMind的高層，舉行了一場人工智慧安全峰會，峰會產生了對話，但沒有公開已知的協議。

週三的會議也不太可能產生具有約束力的協議。它在川普於9月24日在華盛頓與中國國家主席習近平會晤的兩天前舉行，據報導，這場峰會的議程上，人工智慧安全與貿易並列。