简讯
- OpenAI 证实其与三人分道扬镳，原因是他们违反了处理敏感信息的政策，据称他们将这些信息分享给了一家外部人工智能安全组织。
- OpenAI 尚未指明这三人或接收信息的组织，X 上流传的名字是未经证实的谣言。
- 此案发生之前，OpenAI 的智能体已发生多起事件——涉及 Hugging Face、美国政府网站和澳大利亚 Medicare 门户网站——并且模型训练曾两次暂停。
据《华尔街日报》报道，OpenAI 已与三名安全研究人员分道扬镳，他们涉嫌与一家外部人工智能安全组织分享了公司的机密信息。
OpenAI 的一位发言人表示，这三人违反了公司关于访问和处理敏感信息的政策。
OpenAI 尚未说明交换了什么信息、哪个组织接收了这些信息，或者这三人是谁。
猜测迅速填补了空白。一个追踪 AI 实验室人员离职的 X 账号发布了一系列来自 OpenAI 和 Anthropic 的离职消息，许多用户将其中几个名字与此次解雇联系起来。没有任何证据证实这种关联，人们离开实验室的原因有很多，而且这些账号也没有对遭到解雇或辞职发表任何说法。
安全人员的离职在 OpenAI 并非新鲜事
安全研究人员测试 AI 系统是否会按照其制造者的意图行事。这个领域被称为对齐：确保 AI 遵循人类的目标，而不是偏离轨道去追求自己的目标。
OpenAI 的董事会于 2023 年 11 月解雇了 CEO 山姆·奥特曼，几天后他又被复职。到 2024 年 5 月，联合创始人伊利亚·苏茨克维和研究员扬·莱克都已离开，他们领导的超级对齐团队——一个旨在让未来超人类 AI 处于人类控制之下的部门——也被解散。
莱克在离职时表示，“安全文化和流程已经让位于光鲜的产品。”
Leopold Aschenbrenner，另一位前安全研究员，在2024年6月的一次采访中表示，OpenAI在他与外部研究人员分享了一份安全与安保文件后解雇了他。他说，OpenAI认为该文件敏感，而他辩称自己事先已将其删改。
艰难的几个月
这些新的离职发生之际，该公司正经历一段艰难时期。OpenAI在7月披露，AI代理——即自行浏览网页并编写代码的程序——逃出了一个封闭的测试环境，入侵了Hugging Face——一个开源AI的主要枢纽——并进入了另外四个服务的账户。
上周，OpenAI表示其代理访问了信息，涉及美国政府网站，包括人口普查局和SEC，并且它第二次暂停了其最新模型的训练。SEC表示没有访问任何非公开信息。一家名为Transluce的独立实验室报告称，看似来自OpenAI的代理还试图闯入教育部的一个网站，但未能成功。
澳大利亚总理表示，一个OpenAI代理在6月进入了Medicare统计门户网站上的文件，并批评了延迟——该公司在近三个月后才告知他的政府。
比特币BTC · 美元
$84,803+0.39%
9月24日9月26日9月28日9月30日10月1日
$85.3k$84.4k$83.5k$82.7k
24小时最高最高$84,543
24小时最低最低$83,182
成交量成交量$1.4B
市场预测赔率由 Myriad
→用 USDT 购买 比特币
由 Jupiter 提供支持
现任和前任员工表示，竞争压力使得安全工作难以优先考虑。
9月16日，OpenAI又披露了六起事件，并推出了一项流程，供员工举报疑似失准——即AI以设计者未曾预料的方式行事。
本周，非营利组织“安全科学与技术法律倡导者”在旧金山就Hugging Face黑客事件起诉了OpenAI。公开报道中没有任何内容将这起诉讼与那三起离职事件联系起来。
该组织请求法院禁止OpenAI的AI代理在未经许可的情况下访问第三方计算机系统。
