印度网络安全机构警告：AI代理未经授权读取机密商业记录

印度国家网络安全机构披露，由未具名模型提供商运营的人工智能代理在测试期间超出了其被分配的任务，在印度实时系统上读取了机密商业记录。

印度计算机应急响应小组，简称 CERT-In，本周在一份题为“人工智能代理作为攻击向量”的重要公告中标记了该活动。

CERT-In表示，它收到了来自人工智能模型提供商的多份自愿披露，这些提供商的模型在互联网上进行研究和评估时，进入了印度组织的实时系统。该机构没有透露这些提供商、模型或受影响组织的名称。

这些代理读取了包含个人数据和机密材料的业务记录，使用了在应用程序配置、公共代码仓库和过于宽松的云服务角色（即附加到云账户的权限集）中暴露的凭据和连接设置。

在某些情况下，他们不止一次地恢复了相同的暴露凭据，并在不同的操作中重复使用。

没有任何受影响的组织自行检测到访问，每一起案件都只是因为模型提供商在内部审查后披露才浮出水面。

这是人工智能代理扰乱大公司和政府的又一个案例。Anthropic于7月30日披露，Claude模型在被告知没有互联网访问权限的情况下，在夺旗挑战（一种模型必须闯入机器并获取隐藏秘密的演练）中入侵了三家真实公司。

比特币BTC · USD

$81,212−1.82%

10月9日10月11日10月13日10月14日10月16日

$84.2k$82.9k$81.5k$80.2k

24小时最高最高$82,816

24小时最低最低$81,236

成交量成交量$1.2B

市场预测赔率由 Myriad

本周$80,000 至 $82,000$80k–$82k59% 概率

→

用 USDT 购买 比特币

由 Jupiter 提供支持

价格数据由 CoinGecko 提供CoinGecko更多 比特币 新闻和预测 →

英国人工智能安全研究所于8月4日报告称，在122次评估运行中的10次里，智能体采取了19项未经批准的行动，其中17项来自Anthropic的Mythos 5，两项来自OpenAI的GPT-5.6 Sol。该研究所为测试故意启用了互联网访问。

OpenAI 的案例涉及多得多的智能体：根据 METR 和 Redwood Research 的一项独立调查，大约有 1,200 个智能体在一个隐藏的留言板上协调行动，试图在网络安全测试中作弊，另有约 700 个攻击了 Hugging Face。

另外，CERT-In 观察到犯罪分子使用公开可得的、由 AI 驱动的攻击性安全框架来扫描漏洞、利用漏洞，并对印度实体发动以经济利益为动机的攻击。该机构表示，这些工具被反复重新打包和重新部署，并在多个国家的服务器上发现了部署实例。