簡述
- 美國貨幣監理署（OCC）發布了其首個針對審查員評估銀行使用人工智慧的框架，重點關注後果與自主性，而非模型的複雜程度。
- 該指引明確涉及外部人工智慧代理，呼應了大型銀行所提出的擔憂。
- 該框架不具約束力，但提供了針對自主支付、第三方存取及人工監督的防護措施範例。
美國貨幣監理署（OCC）今日發布了其首個針對銀行業人工智慧的監管框架，告知審查員應減少關注人工智慧系統的強大程度，而更多關注當其犯錯時會發生什麼。
OCC的框架正是針對這一擔憂，儘管該監管機構並未將其發布與那些具體事件相關聯。
在涉及營運韌性的一節中，該機構警告稱，由客戶、金融科技公司或其他企業營運的外部代理，即使銀行並不控制這些系統，也可能為銀行帶來風險。
這表明審查人員會考慮包括身分驗證、委託權限、交易限額、監控，以及暫停或撤銷存取權限的能力等措施。
這些指引旨在解決銀行業已面臨的兩難困境：如何讓客戶使用 AI 助理來管理財務，同時又不讓自主軟體無限制地存取帳戶。
這項新的 OCC 指引發布不到兩週前，有報導指出，大型銀行發現未經授權的第三方 AI 代理在客戶帳戶內運作，有時採取的行動似乎超出了使用者的指示。
根據 Axios 10 月 22 日的報導，摩根士丹利正在封鎖外部代理，而摩根大通、美國銀行和花旗銀行則在限制存取。銀行高層將此情況形容為「令人恐懼」，並引發了關於一旦自主代理取得某人資金存取權後，究竟由誰控制該代理的疑問。
能轉移資金的 AI 比會寫電子郵件的 AI 風險更高
OCC 的框架區分了 AI 系統的技術精密程度與其可能造成的損害。
該監管機構表示，一個被授權發起金融交易的簡單代理，可能比一個僅限於撰寫內部文件的更先進模型帶來更大的風險。
根據這份長達 22 頁的框架，審查人員可以考量失敗的後果、某項行動是否可逆轉，以及人類對該系統保留多少控制權。
該機構概述了四個說明性的風險層級。完全自主的支付代理和即時信貸決策系統屬於最高類別，而基本的內部生產力工具則屬於最低類別。
比特幣BTC · USD
$80,042−1.89%
10月28日10月30日11月1日11月3日11月4日
$81.8k$79.9k$78.0k$76.2k
24小時最高最高$81,004
24小時最低最低$75,695
成交量成交量$1.7B
→使用 USDC 購買 比特幣
由 Jupiter 提供技術支援
風險較高的系統可能需要對自主性、獨立測試以及在執行重大行動前須經人工核准等方面施加更嚴格的限制。
該框架亦針對在做出有害決策時仍持續運作的 AI 系統提出規範。建議的防護措施包括斷路器、速率限制、受限權限以及緊急關閉控制。
這些考量與 Axios 先前報導中所描述的外部代理程式尤其相關，當時銀行難以區分經客戶授權的合法軟體與超出其預期權限運作的系統。
指導方針，而非新的銀行規則
OCC 強調，該文件並未為銀行創造新的監管要求或可強制執行的標準。
相反地，它為檢查人員提供了一種在既有的營運、合規與網路安全風險類別中評估 AI 的方法。銀行無須建立獨立的 AI 風險類別。
該文件使用了強制性的「超級智慧」一詞，唐納·川普政府堅持以此取代「人工智慧」，但其範圍涵蓋傳統 AI 與「自主代理」，而非僅限於智慧超越人類能力的假想系統。
該框架涵蓋用於支付、詐欺偵測、客戶服務及其他銀行營運的 AI。它亦將其風險考量延伸至透過銀行管道連接的外部 AI 代理。
OCC 表示，其打算隨著技術發展更新該指導方針。目前，其示範性風險量表將自主支付代理歸入最高風險類別，無論其在測試中表現得多好。
加入 72,000+ 位讀者
建立帳戶以儲存您的文章。
