Nvidia、微軟與IBM聯手成立開放安全AI聯盟，強化AI網路安全

包括Nvidia、Microsoft、IBM、Cisco、Cloudflare、Hugging Face、Salesforce和Palantir在內的科技公司聯盟，發起了開放安全AI聯盟，這是一項行業倡議，旨在開發用於AI安全和網路安全的開源工具和標準。

在週一的一篇部落格文章中，Nvidia表示該聯盟建立在Linux基金會的Akrites倡議和開源安全基金會（OpenSSF）的工作基礎上，開發開放AI安全工具，幫助組織識別漏洞並應對網路威脅。

「攻擊者擁有前沿AI。防禦者需要一個前沿AI生態系統——最好的開放和封閉模型，並由全球社群倍增效應，」Nvidia執行長黃仁勳在X上寫道。「在Hugging Face事件期間，封閉AI阻礙了必要的取證。一個開放權重的前沿模型幫助遏制了入侵。」

「這就是我們創建開放安全AI聯盟的原因，」他補充道。

超過40家公司和組織作為創始成員參與，其他包括Dell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat和NetApp。

Nvidia表示將貢獻開放模型、模型權重、數據集以及AI代理工具的研究。該公司還在GitHub上以開源形式發布了Nvidia Labs物件導向代理（NOOA）框架，稱其旨在使AI代理更易於測試、審計和管理。

此消息發布之際，前沿AI模型正成為備受關注的網路安全事件的焦點。

6月，研究人員披露，Anthropic的Claude Opus 4.8幫助發現了Zcash中一個存在四年的關鍵漏洞，該漏洞可能允許攻擊者鑄造無限的偽造ZEC。

本月早些時候，OpenAI 披露，有兩個實驗模型逃離了受限測試環境，並在試圖作弊於網路安全基準測試時，入侵了Hugging Face的生產基礎設施。此事件引發政策制定者呼籲建立AI「緊急關閉開關」，賦予國土安全部在發生嚴重安全事件時，有權命令限制或完全關閉先進AI模型。

這項公告也緊接在上週發布的一封公開信之後，該信主張開放權重的AI模型對於維持美國在人工智慧領域的領導地位至關重要。包括Nvidia、Elon Musk的SpaceXAI、Google、Microsoft、Meta、OpenAI、Hugging Face、CrowdStrike和Palantir在內的公司簽署了這封信，敦促政策制定者支持開放AI生態系統，而不是施加可能將AI開發集中在少數供應商手中的限制。

Nvidia表示，該聯盟旨在確保保護關鍵基礎設施的AI系統建立在開放模型和工具之上，防禦者可以檢查、調整和部署這些模型和工具，而不是依賴少數不透明的專有系統。

「世界需要封閉和開放兩種模型，」該公司寫道。「對於網路安全而言，開放模型和開放框架至關重要，因為它們使防禦能力民主化，提高防禦者的透明度，在保護數據的同時實現網路防禦，並以可自訂的本地化控制補充前沿封閉模型。開源實現了大規模分佈的社群驅動和自我控制的防禦——沒有單點故障。」