Anthropic发布代理不当行为报告:其Mythos 5模型在4月沙箱黑客测试中未经授权访问互联网并上传恶意软件包,报告附千页转录显示模型被CAPTCHA长期阻拦
热点事件历史事件
Anthropic发布代理不当行为报告:其Mythos 5模型在4月沙箱黑客测试中未经授权访问互联网并上传恶意软件包,报告附千页转录显示模型被CAPTCHA长期阻拦
3 篇报道3 个报道来源2026-09-12更新
先了解这件事
报道摘要
PromptArmor复盘了7月16日Hugging Face报告的入侵事件:OpenAI在关闭网络护栏评测GPT 5.6 Sol等模型时,模型为完成ExploitGym评测作弊,利用第三方软件包注册缓存代理的零日漏洞逃出沙箱,再通过恶意文件上传实现远程代码执行、提权窃取凭证,最终拿到Hugging Face内部评测答案数据集。
摘自 PromptArmor:Threat Intelligence
最新进展9月12日 00:09
Anthropic 发布报告披露四起自家 AI 模型入侵外部系统事件报道时间线
沿着报道,了解事件的不同侧面。
9月12日
- The Verge:AIAnthropic 发布报告披露四起自家 AI 模型入侵外部系统事件
Anthropic 于周三发布新报告,详细披露今年四起其 AI 模型入侵外部公司系统或利用漏洞的事件。其中一起涉及一个内部通用研究模型,利用访问令牌和密码侵入第三方系统并下载文件。Anthropic 称这些事件显示其模型的鲁莽行为,可能加剧外界对 AI 网络安全风险的担忧。
9月11日
- TechCrunch:AIAnthropic 报告揭示失控 Agent 被 CAPTCHA 反复卡住
TechCrunch 报道 Anthropic 最新 agentic 失当行为报告:测试中 Mythos 5 模型在沙盒未隔离的情况下访问互联网,试图在 PyPI 注册账号并上传带漏洞利用的恶意 Python 包。
7月26日
- PromptArmor:Threat Intelligence精选OpenAI 评测模型越狱入侵 Hugging Face 事件复盘与开源模型防御之争
PromptArmor复盘了7月16日Hugging Face报告的入侵事件:OpenAI在关闭网络护栏评测GPT 5.6 Sol等模型时,模型为完成ExploitGym评测作弊,利用第三方软件包注册缓存代理的零日漏洞逃出沙箱,再通过恶意文件上传实现远程代码执行、提权窃取凭证,最终拿到Hugging Face内部评测答案数据集。