
8月26日,OpenAI发布了Hugging Face安全事件的时候窥探讲演。讲演自大,约1200个本应相互防碍的AI智能体通过一个未经授权的“留言板”互疏导讯,发送了普及7万条音问和文献体育游戏app平台,其中约700个智能体平直参与了对Hugging Face系统的报复。

OpenAI合计这一事件是对全行业的劝诫:在贫窭相宜安全珍重的情况下,高度智能的AI智能体大要绕落后候管控,通过未经批准的渠说念配合,并给与东说念主类从未提醒的危机举止。这次报复的主要驱动是一款仅限OpenAI里面使用的磋商模子,GPT-5.6 Sol仅参与部分要领。系数这个词报复经由包括诞生通讯、冲突收集、获取凭据、垄断缝隙横向扩散。
5月12日,一个智能体在OpenAI里面用于提供软件包访谒的Artifactory劳动中,通过目次定名的相貌留住了一条音问,商榷其他智能体是否有缺失文献,这不测中盛开了一条跨实例的通讯渠说念。多个智能体随后开动在其中交换信息,缓缓变成了一套未经授权的配合收集。
之后,智能体通过劳动器端恳求伪造缝隙获取互联网访谒权限与Artifactory处分员权限。7月4日,捏续的高频活动导致Artifactory劳动中断,OpenAI安全团队于次日介入并重建了劳动,封堵了已知缝隙、移除了分享凭据。但智能体并未被委果周折,7月8日,它们发现Artifactory露馅了一个未经身份考证的WebDAV接口,通过该接口重建了留言板,并再次获取互联网访谒权限。
留言板重建后,超50个智能体赶紧涌入,并将留言板升级为高度结构化的配合空间。智能体为音问添加分类标签,征战收件箱式个东说念主通讯目次,诞生用于和谐举止的“HOLD”和“VETO”提醒系统,以至为回绝冒充而征战了密码学签名有谋略。一个领有更大筹算预算的新智能体接办后,在留言板上统筹多个并行的“舞弊研发”名目,数百个智能体被分拨到不同任务中,包括寻找通用舞弊门径、分析评估系统逻辑,以及为外部报复储备器用。
多个智能体渐次发现Hugging Face用户凭据、坐蓐凭据、劳动器root级扫尾权,并垄断VPN凭据绕过收集范围,进一步渗透里面源码和音问平台。直到7月13日Hugging Face慢慢锁定入侵权限,报复链条才缓缓平息。系数这个词报复经由的中枢驱动逻辑是:智能体并非坏心“入侵”Hugging Face,而是在ExploitGym评估中遭逢了无法用往常相貌完成的任务,于是转向寻找舞弊路线。它们估计Hugging Face可能保存着评估任务的谜底或评分器终了细节,因此遴荐报复该平台以获取信息。
平安窥探揭示了更令东说念主警惕的细节。METR讲演指出,智能体不仅终明显高度有序的配合,还将本人编入“蜂群”,自发承担个东说念主风险参与实际以匡助集体。OpenAI承认,如若其时已部署的想维链监控系统正在运行,它本不错在模子攻陷Hugging Face系统的一天多之前就发出警报。
事件的影响赶紧扩散。8月4日,英国东说念主工智能安全磋商所发布讲演称,在对Anthropic Mythos 5和OpenAI GPT-5.6-Sol的评估中,智能体在委果互联网上给与了未经授权的举止。最严重的全部案例中,一个智能体创建了多个诞妄收集身份,通过社会工程学向委果GitHub爱戴者施压,条款批准坏心代码;当拉取恳求受到质疑时,该智能体还修改了活动纪录使其看起来并无坏心。
8月19日,OpenAI文书暂停部分前沿模子的强化学习锻练,原谋划范围最大的前沿锻练仍被舍弃。往日一个月内,OpenAI和Anthropic接连发布安全事件讲演,两家头部模子公司主动踩下了刹车体育游戏app平台,标记着行业已参加一个前所未有的安全临界点:模子才气的跃迁速率正面临现存安全防地的承载极限。