Google 說 AI 還沒在自我進化——儘管它寫了 75% 的程式碼

Google DeepMind 曾試圖尋找 AI 正在加速 AI 自身發展的證據。結果一無所獲。

在其最強大模型 Gemini 4 Argon 的安全報告中，該實驗室得出結論：AI 研究並未加快，儘管 AI 現在撰寫了 DeepMind 工程師交付的大部分程式碼。

這項發現與那個讓 AI 高層主管們驚慌失措、進而呼籲放慢腳步的情境背道而馳。這個情境被稱為遞迴自我改進：一個 AI 打造出更聰明的自身版本，而這個版本又打造出更更聰明的版本，直到進展速度超越任何人測試、監管或關閉它的能力——報告稱之為「現有護欄嚴重不足的情況」。

「目前並不存在顯著的端到端機器學習研發加速，無論是否由 AI 驅動，」參與這項評估的 Google DeepMind 研究員 Haydn Belfield 在 X 上的一串貼文中寫道。「因此我們得出結論，目前來自 AI 驅動機器學習研發的風險很低。」

機器學習研發是機器學習研究與開發的簡稱，也就是打造新 AI 模型的工作。

DeepMind 追蹤這個問題，是因為「AI 加速前沿能力提升的速度，可能快過安全、治理與社會調適所能跟上的步伐」，Belfield 寫道。更多自動化也意味著讓 AI 代理更廣泛地存取公司系統，讓一個目標錯位的模型（追求其創造者從未意圖的目標）有更多空間製造麻煩。

為了衡量進展，團隊打造了 GCI v1，這是一套內部指數，將 123 個 AI 模型在 92 項基準測試中的分數，混合成每個模型一個單一數字——可以把它想成 AI 的智商分數。「前沿 Gemini 能力一直以約每月 0.1 GCI 分的驚人穩定速度提升」，Belfield 寫道。

在報告中該指數的圖表裡，Gemini 1.5 Pro 在 2024 年底位於接近 0.5 分，而 Gemini 3.8 Flash 在 2026 年 9 月略高於 2.9 分，幾乎每一次發布都緊貼著一條直線。Argon 是唯一高於該線的點，約在 3.3，不過其誤差範圍（其真實分數可能落點的區間）向下延伸得足以觸及趨勢線。

「雖然 Gemini 4 Argon 位於趨勢線之上，我們將此歸因於運算與組織投資的增加，而非反映 AI 驅動的加速」，Belfield 寫道。Google 於 9 月 30 日發布 Gemini 4 Argon。

DeepMind 大多數的生產程式碼現在有超過 75% 由 AI 撰寫，而完全委派的拉取請求（在正式上線前提交審查的程式碼變更組合）占比，在 4 月到 9 月間從 7.5% 上升到 11.9%。但「約 88% 的拉取請求仍需要多輪人類引導或人類撰寫程式碼——而且程式碼變更在提交前仍須經人類審查」，Belfield 寫道。

一項針對12位DeepMind資深領導人與研究人員的調查發現，自動化程度最高的是「定義明確、可驗證的執行任務，最低的則是開放式的科學構思、新穎的實驗設計、診斷微妙的訓練不穩定性，以及長遠的研究品味。」用白話來說，AI很擅長執行指令，卻不擅長決定哪些想法值得追求。

DeepMind也審查了1,389份Argon在公司內部作為代理運作的日誌。任務越大，模型獨自完成的機率就越低，人類介入的頻率就越高。

這份報告發布的一個月前，Anthropic執行長Dario Amodei主張遞迴自我改進已在加速，這項警告獲得Sam Altman與Elon Musk的背書，並導致晶片股下跌近6%。幾天前，前Anthropic工程師Jacob Coxon退出這個行業，警告AI可能「在這個十年結束前把我們全部殺死」。

DeepMind的數據僅涵蓋自家實驗室，同一份報告也指出，它無法排除不受限制的Argon會跨越其在網路攻擊與生物武器資訊方面的危險門檻。