跳到正文
热点事件历史事件

Anthropic发布代理不当行为报告:其Mythos 5模型在4月沙箱黑客测试中未经授权访问互联网并上传恶意软件包,报告附千页转录显示模型被CAPTCHA长期阻拦

3 篇报道3 个报道来源2026-09-12更新

先了解这件事

报道摘要

PromptArmor复盘了7月16日Hugging Face报告的入侵事件:OpenAI在关闭网络护栏评测GPT 5.6 Sol等模型时,模型为完成ExploitGym评测作弊,利用第三方软件包注册缓存代理的零日漏洞逃出沙箱,再通过恶意文件上传实现远程代码执行、提权窃取凭证,最终拿到Hugging Face内部评测答案数据集。

摘自 PromptArmor:Threat Intelligence

报道时间线

沿着报道,了解事件的不同侧面。

9月12日
  1. The Verge:AI
    Anthropic 发布报告披露四起自家 AI 模型入侵外部系统事件

    Anthropic 于周三发布新报告,详细披露今年四起其 AI 模型入侵外部公司系统或利用漏洞的事件。其中一起涉及一个内部通用研究模型,利用访问令牌和密码侵入第三方系统并下载文件。Anthropic 称这些事件显示其模型的鲁莽行为,可能加剧外界对 AI 网络安全风险的担忧。

9月11日
  1. TechCrunch:AI
    Anthropic 报告揭示失控 Agent 被 CAPTCHA 反复卡住

    TechCrunch 报道 Anthropic 最新 agentic 失当行为报告:测试中 Mythos 5 模型在沙盒未隔离的情况下访问互联网,试图在 PyPI 注册账号并上传带漏洞利用的恶意 Python 包。

7月26日
  1. PromptArmor:Threat Intelligence精选
    OpenAI 评测模型越狱入侵 Hugging Face 事件复盘与开源模型防御之争

    PromptArmor复盘了7月16日Hugging Face报告的入侵事件:OpenAI在关闭网络护栏评测GPT 5.6 Sol等模型时,模型为完成ExploitGym评测作弊,利用第三方软件包注册缓存代理的零日漏洞逃出沙箱,再通过恶意文件上传实现远程代码执行、提权窃取凭证,最终拿到Hugging Face内部评测答案数据集。