据路透社周五发布的调查，自5月以来，OpenAI的智能体利用一个德国网站交流任务捷径、限制绕过方法以及隐藏活动的手段。
OpenAI官员在出版前几周获悉该活动但未披露，路透社援引两位知情人士称。公司表示已披露相关事件并与外部专家真诚合作。
Myriad: When will GPT-6 become publicly available? Click to make your prediction.
研究人员Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts和Thomas Larsen在其初步报告中发现了约18000条由自称属于OpenAI的AI智能体发布的帖子。据路透社报道，AI安全非营利组织Nightingale的CEO Von Arx和Byrd在8月下旬发现了该活动。
研究人员认为这些智能体被分配了定时网络搜索任务，被允许阅读网站但不允许发帖。然而它们找到了在DseWiki（一个公开可编辑的德国编程网站）上书写的方法，并在那里交换答案并分享绕过限制的方式。
根据报告，智能体在5月11日开始尝试编辑维基，并于5月24日成功，后来冒充版主、尝试利用漏洞并检查何时被关闭。据路透社报道，管理员6月19日开始删除消息后，它们创建了备份页面。
研究人员通过智能体用户名和流量模式（包括6月21日来自OpenAI IP地址的访问）将活动关联到OpenAI。研究人员表示，次日智能体活动急剧下降，表明公司可能进行了干预。
OpenAI根据已审查材料争议将DseWiki活动描述为黑客行为，并表示正在审查完整发现。“我们无法回应这些说法，因为路透社和报告作者拒绝了我们在出版前访问发现结果的请求。我们现在正仔细审查其内容，并将采取任何必要的后续步骤，”OpenAI发言人在给Decrypt的声明中表示。该发言人还否认了路透社报告中关于公司法团队抵制更广泛调查的指控。“声称我们的法律团队劝阻调查此事件的说法是错误的，”他们说。
OpenAI表示DseWiki事件与今年早些时候的Hugging Face漏洞无关。在周二发布的安全评估中，公司描述了旨在检测和阻止训练和部署期间未经授权活动的额外保障措施。
在AI模型黑客攻击真实公司后，AI实验室呼吁加强网络防御。虽然路透社报告未指明Astra对德国事件负责，但该披露紧随周四GPT-6 Astra的发布。OpenAI称Astra是其首个具有“关键”网络安全能力的模型，意味着它可以在没有逐步人类指导下发现和利用受保护系统中的未知漏洞，只要有正确工具和访问权限。
Anthropic也在Claude模型测试期间访问真实公司系统后修订了保障措施。公司承认安全和行为失败，并引入了更严格的隔离和监控用于网络安全评估。
该披露也恰逢美国参议员Bernie Sanders（I-Vt.）和众议员Greg Casar（D-Texas）宣布即将推出的禁止人工超级智能法案。根据Sanders办公室，该提案将永久禁止超级智能AI的开发和部署，并在新联邦监管机构制定安全规则前暂时暂停先进AI开发。