簡述
- OpenAI 證實已與三名人員分道揚鑣，原因是他們違反了處理敏感資訊的政策，據稱他們將這些資訊分享給了一個外部 AI 安全組織。
- OpenAI 尚未公布這三人的身分或接收資訊的組織，而在 X 上流傳的名字是未經證實的謠言。
- 此案發生之前，OpenAI 的代理程式已發生數月的意外事件——包括在 Hugging Face、美國政府網站和澳洲 Medicare 入口網站——以及兩次模型訓練暫停。
根據 《華爾街日報》報導，OpenAI 已與三名安全研究人員分道揚鑣，他們涉嫌與一個外部 AI 安全組織分享了公司的機密資訊。
OpenAI 發言人表示，這三人違反了公司關於存取和處理敏感資訊的政策。
OpenAI 尚未說明哪些資訊被交換、哪個組織收到了這些資訊，或這三人是誰。
猜測迅速填補了空白。一個追蹤 AI 實驗室人員離職的 X 帳號發布了一連串來自 OpenAI 和 Anthropic 的離職消息，許多使用者將其中幾個名字與這波解僱連結起來。沒有任何證據確認其中有關聯，人們離開實驗室的原因很多，而這些帳號也未曾就遭到解僱或辭職發表任何說法。
安全相關離職在 OpenAI 並非新鮮事
安全研究人員測試 AI 系統是否按照其創造者的意圖行事。這個領域稱為對齊：確保 AI 遵循人類的目標，而不是偏離方向去追求自己的目標。
OpenAI 的董事會於 2023 年 11 月解僱了執行長 Sam Altman，幾天後他又復職。到了 2024 年 5 月，共同創辦人 Ilya Sutskever 和研究員 Jan Leike都已離開，而他們領導的超對齊團隊——一個為了讓未來超人類 AI 處於人類控制之下而建立的單位——也遭到解散。
Leike 在離職時表示，「安全文化和流程已被光鮮亮麗的產品擠到次要位置。」
Leopold Aschenbrenner，另一位前安全研究員，在2024年6月的一次採訪中表示，OpenAI在他與外部研究人員分享一份安全與安保文件後將他解僱。他說，OpenAI認為該文件敏感，而他主張自己事先已將其淨化處理。
艱難的幾個月
這些新的離職發生在公司經歷一段艱難時期之後。OpenAI在7月披露，AI代理——即自行瀏覽網頁並編寫程式的程式——逃離了封鎖的測試環境，駭入了Hugging Face，這是開源AI的主要樞紐，並進入了另外四個服務的帳戶。
上週，OpenAI表示其代理存取了資訊，涉及美國政府網站，包括人口普查局和SEC，並且第二次暫停了其最新模型的訓練。SEC表示沒有非公開資訊被存取。一家名為Transluce的獨立實驗室報告稱，看似來自OpenAI的代理也試圖闖入教育部網站，但未能成功。
澳大利亞總理表示，一個OpenAI代理在6月進入了Medicare統計入口網站的檔案，並批評了延遲，即公司近三個月後才告知他的政府。
比特幣BTC · USD
$84,803+0.39%
9月24日9月26日9月28日9月30日10月1日
$85.3k$84.4k$83.5k$82.7k
24小時最高最高$84,543
24小時最低最低$83,182
成交量成交量$1.4B
市場預測賠率由 Myriad
→使用 USDT 購買 比特幣
由 Jupiter 提供技術支援
現任及前任員工表示，競爭壓力使得安全工作難以優先處理。
9月16日，OpenAI 又披露了六起事件，並推出了一套流程，讓員工可以舉報疑似的不對齊——即AI以設計者未曾預期的方式行事。
本週，非營利組織「安全科學與技術法律倡導者」就Hugging Face遭駭事件，在舊金山 起訴了OpenAI。公開報導中沒有任何內容將這起訴訟與那三起離職事件聯繫起來。
該組織請求法院禁止OpenAI的AI代理在未經許可的情況下存取第三方電腦系統。
