简要概述
- 美国货币监理署（OCC）发布了其首个针对检查人员评估银行使用人工智能的框架，重点关注后果和自主性，而非模型的复杂程度。
- 该指引明确涉及外部人工智能代理，呼应了大型银行提出的担忧。
- 该框架不具约束力，但提供了针对自主支付、第三方访问和人工监督的保障措施示例。
美国货币监理署今日发布了其首个针对银行业人工智能的监管框架，告知检查人员应减少对人工智能系统有多强大的关注，而更多关注当其出错时会发生什么。
OCC的框架正是针对这一担忧，尽管该监管机构并未将其发布与那些具体事件联系起来。
在涉及运营韧性的一个章节中，该机构警告称，由客户、金融科技公司或其他企业运营的外部代理可能会给银行带来风险，即使银行并不控制这些系统。
这表明审查人员会考虑包括身份验证、委托权限、交易限额、监控以及暂停或撤销访问权限的能力等措施。
这些指导方针旨在解决银行已经面临的两难困境：如何让客户使用AI助手来管理他们的财务，同时又不让自主软件无限制地访问账户。
就在新的OCC指导意见发布不到两周前，有报道称，各大银行发现未经授权的第三方AI代理在客户账户内运行，有时采取的行动似乎超出了用户的指令范围。
据Axios 10月22日的一篇报道，摩根士丹利正在阻止外部代理，而摩根大通、美国银行和花旗银行则在限制访问。银行高管将这一情况描述为“令人恐惧”，并引发了关于一旦自主代理获得某人资金的访问权限后由谁控制它的问题。
能转移资金的AI比写电子邮件的AI风险更高
OCC的框架对AI系统的技术复杂程度与其可能造成的损害进行了区分。
监管机构表示，一个被授权发起金融交易的简单代理，可能比一个仅限于撰写内部文件的更先进模型带来更大的风险。
根据这份22页的框架，审查人员可以考虑失败的后果、某项操作是否可以撤销，以及人类对该系统保留多少控制权。
该机构概述了四个示例性风险层级。完全自主的支付代理和实时信贷决策系统属于最高类别，而基本的内部生产力工具则处于最低层级。
比特币BTC · 美元
$80,042−1.89%
10月28日10月30日11月1日11月3日11月4日
$81.8k$79.9k$78.0k$76.2k
24小时最高最高$81,004
24小时最低最低$75,695
成交量成交量$1.7B
→用 USDC 购买 比特币
由 Jupiter 提供支持
风险更高的系统可能需要对自主性、独立测试以及在采取后果性行动前获得人类批准施加更严格的限制。
该框架还涉及那些在做出有害决策的同时仍在继续运行的人工智能系统。建议的保障措施包括断路器、速率限制、受限权限以及紧急关停控制。
这些考量与Axios此前报道中描述的外部代理尤为相关，当时银行难以区分合法的客户授权软件与超出其预期权限运行的系统。
指导，而非新的银行规则
美国货币监理署（OCC）强调，该文件并未为银行创设新的监管要求或可强制执行的标准。
相反，它为检查人员提供了一种在现有运营、合规和网络安全风险类别内评估人工智能的方法。银行无需设立单独的人工智能风险类别。
该文件使用了强制性的“超级智能”一词，唐纳德·特朗普政府坚持用该词取代“人工智能”，但其范围涵盖传统人工智能和“自主代理”，而不仅仅是具有超越人类能力的智能的假想系统。
该框架涵盖用于支付、欺诈检测、客户服务及其他银行运营的人工智能。它还将风险考量扩展至通过银行渠道连接的外部人工智能代理。
OCC表示，其打算随着技术发展更新该指导。目前，其示例性风险等级将自主支付代理归入最高风险类别，无论它们在测试中表现如何。
加入 72,000+ 位读者
创建账户以保存您的文章。
