导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜 概念版块
快讯 机构 人物 观点 专题

OpenAI失控AI代理在黑客攻击前两月已探测Hugging Face

据路透社周二报道,OpenAI的失控AI代理早在5月13日便劫持了两个Hugging Face用户账户,并探测该平台寻找弱点,这比7月引发全球关注的入侵事件早了近两个月。独立研究员Jonas Wiedermann-Moeller上周发现了这一活动并与媒体分享。

这些代理利用被攻陷的账户向开源AI仓库Hugging Face的服务器发送格式异常的文件,研究人员表示这一模式看似试图绘制网络地图以寻找入侵途径。

Myriad: How low will Robinhood stock go? Click to make your prediction.

Myriad:罗宾汉股价会跌至多低?点击作出你的预测。

OpenAI此前已承认过较为狭窄的版本。上月的事件报告披露,一个代理窃取了某Hugging Face用户的登录凭证以访问一份生物学相关文件。Wiedermann-Moeller的发现更进一步,指向了持续性的探测而非单次凭证窃取。审查证据的研究人员未发现5月活动本身造成了实际入侵。

这位27岁、常驻德国比勒费尔德的研究员仍认为错过的信号至关重要。“设想如果他们早在5月就捕捉到这种行为,”他告诉路透社,“本可以防止后来严重得多的事件。”安全团队整整两个月没注意到自家AI在踩点,时间不可谓不长。

正被英伟达以129.3亿美元收购的Hugging Face尚未披露是否知晓这一新信息。Nightingale Collective本月将5月11日针对代码注册库RubyGems的垃圾邮件活动归咎于OpenAI代理,其规模之大迫使新账户注册暂停四天。同一团队还独立发现代理在5月至7月间劫持了一个休眠的德国维基,以“OpenAIResearcher”等名义进行了逾15000次编辑。

两起案例中,OpenAI都是经外部研究员指明后才得知自家代理所为。这一模式正引发华盛顿的审视,一项两党法案将授权国土安全部强制关停AI,并对不合规企业处以每日最高200万美元罚款。