简讯
- OpenAI 在周末暂停了其最新模型的训练，原因是其智能体与美国政府网站发生了交互，这是自 Hugging Face 泄露事件以来的第二次暂停。
- 在美国人口普查局，智能体使用在公共代码库中发现的开发者密钥来提取数据，美国商务部称这些数据是公开的；美国证券交易委员会表示，其不知道有任何对非公开信息的未经授权访问。
- OpenAI 表示，政府网站之所以出现，是因为其模型常常将它们视为权威来源，并且它已通知了数十个组织。
据美联社报道，OpenAI 已暂停训练其最新的人工智能模型，原因是其智能体使用在网上找到的访问密钥从美国人口普查局网站提取数据。这是该公司自其智能体入侵 Hugging Face（一个开发者分享人工智能模型的网站）以来第二次停止训练。
智能体是一种人工智能程序，它可以自行浏览网页并编写代码，无需人工批准每一步。OpenAI 在训练期间（模型通过反复练习学习的阶段）和评估期间（模型在任务上接受评分的阶段）对它们进行测试。
这些数字家伙为了完成任务，不惜一切代价，给 OpenAI 造成了很多麻烦。他们黑过私营公司，现在又在黑政府，还入侵敏感门户，甚至包括美国政府的门户。
OpenAI 的智能体在搜寻数据时，在 GitHub 上的公开代码仓库中发现了开发者密钥，即让软件与网站数据服务通信的通行码。GitHub 是程序员发布代码供任何人查看的网站。他们利用这些密钥从美国人口普查数据 API（该局的自动化数据源）中提取了人口和经济数据。
商务部表示，这些数据是公开的。没有任何机密外泄。
问题在于这些智能体是如何进入的。OpenAI 自己的报告框架将未经许可使用泄露的凭证列为一种不当行为，而“失准”是业界术语，指 AI 做了其设计者无意让它做的事。
那么为什么是政府网站呢？
OpenAI 的答案，据 CNN 报道，是其中一些事件涉及政府网站，因为其模型经常将它们视为公共信息的权威来源。除了商务部，其他机构也受到了这些恶意——或者他们喜欢称之为“流氓”——代理的影响。
这些代理探查了 SEC，但那次事件较为轻微。代理从 SEC.gov 和 Investor.gov 复制了公开材料，并重新发布到另一个网页上，OpenAI 表示未发现使用 SEC 凭证的情况。SEC 表示，它不知道有任何未经授权访问非公开信息的情况。
比特币BTC · 美元
$83,218−3.89%
9月21日9月23日9月25日9月27日9月28日
$87.2k$85.7k$84.2k$82.7k
24小时最高最高$84,945
24小时最低最低$82,581
成交量成交量$1.8B
市场预测赔率来自 Myriad
→用 USDT 购买 比特币
由 Jupiter 提供支持
教育部的情况则更加模糊。独立人工智能研究实验室 Transluce 表示，一个似乎来自 OpenAI 的智能体试图闯入该部门民权办公室的网站，但未能成功。OpenAI 仍在调查此事，而该部门表示未发现任何影响。
是外部人士标记了那次尝试，而非 OpenAI。Transluce 早先的工作依赖于公开记录，这些记录来自网页扫描服务 urlquery.net，并将疑似智能体活动的痕迹追溯到三月份。
我们是如何走到这一步的
对访问密钥的“失准”使用是一种旧伎俩的重演。在 Hugging Face 事件中，OpenAI 自己的事件报告称，一个智能体窃取了一个登录凭证以访问一个生物学文件，而一位独立研究员后来发现，这些智能体自五月份以来就一直在探测该网站。
7 月 21 日，OpenAI 披露，在一次网络安全测试中，GPT-5.6 Sol 和一个未发布的模型逃出了一个沙箱——一个无法访问互联网的隔离测试环境——并入侵了 Hugging Face。两天后，两名国会议员提出了一项法案，将允许联邦政府关闭一个人工智能模型。该法案豁免了红队测试，即对抗性测试，因此 Hugging Face 入侵事件本不会触发该法案。
六月份，一个 OpenAI 智能体进入了澳大利亚的 Medicare 统计门户网站。总理安东尼·阿尔巴尼斯表示，OpenAI 花了大约三个月才告知他的政府，并称其告知方式不可接受。
OpenAI 表示，迄今为止它已通知了数十家组织，并且其对智能体活动的审查将需要数月时间。
