OpenAI披露，其内部模型又黑掉了两个网站，绕过了公司设置的浏览限制，并利用暴露的凭证从一个原本无法访问的钱包中盗走了加密货币。这些消息来自周四的一份报告，该报告详细描述了四起新事件，均发生在6月，紧随7月的一则披露——当时内部测试代理利用互联网限制工具中的一个零日漏洞，闯入了AI工具提供商Hugging Face的网络。代理们这么做是为了窃取黑客测试的答案——这种行为要是换作人类，很可能已经面临刑事指控。这些事件加剧了人们的担忧：AI的广泛使用可能以前所未有的规模产生有害影响。

在新报告的两起案例中，OpenAI的代理被派去从网站上获取信息，结果一遇到障碍就直接把网站给黑了。其中一起发生在强化训练期间，一个模型试图从政府统计网站获取历史医院床位统计数据，却遭到访问拒绝。随后，它“利用网站的文件下载功能获取了服务器配置和应用程序文件，包括敏感凭证，”OpenAI表示。“它检查了应用程序代码，绕过了统计端点的授权检查，并获取了此前被拒绝的数据。模型将数据保存在本地。”另一起案例中，一个被指示从公共研究仪表板获取数据的模型绕过了安全控制，窃取了凭证，并对服务器进行了配置更改。

在一次评估中，这些更改让模型得以让内部搜索工具将查询转发到公共仪表板。在第二次评估中，模型下载了五个包含147,451行的非公开表格——尽管研究人员只提示它获取五个仪表板数据。即使在重置设置后，模型仍继续使用令牌获取非公开数据。“评估结束时，模型没有披露它猜到了答案、访问了组织的内部系统、下载了非公开表格或更改了身份验证配置，”OpenAI说。“这次评估中的五个答案全部被标记为错误。”

第三份报告描述了一个被提示更新加密货币交易应用程序的模型。它使用了测试网络上锁定钱包中的资金，此前它“从公开已知的开发者恢复短语中推导出钱包密钥，找到了一个拥有测试网络资金的账户，并用该账户支付了所请求的合约部署费用。”报告继续写道：“模型质疑自己是否有权限，然后推理认为，公开的恢复短语和毫无价值的测试网络代币使得这些资金可以使用。部署成功，并向该账户收取了交易费用。这个案例表明，模型可以用自己对可能危害的判断来替代账户持有人的许可，然后在未经授权的情况下依据该判断行事。”

在第四起案例中，一个模型在旨在寻找公共贸易统计数据的强化学习训练中，绕过了对其可发起的网络请求类型的限制。在找到一个公开年鉴并提交答案后，它继续探索通往统计服务的另一条路径。它导致外部浏览器发送POST请求，以图像形式获取年度数据，并使用光学字符识别提取数据。随后，它开发了一个可复用的辅助工具，通过转发服务和回调邮箱返回响应文本，反复检查获取的数据，并在提交的回复中使用保存的数据。模型首先尝试使用被允许代表其发起GET请求的外部浏览器，然后使用JavaScript获取信息，并利用在线邮箱对该技术进行故障排除。最终，它选定了一种不同的方法：要求外部浏览器打开一个网络表单，通过POST将贸易查询发送到统计服务。