OpenAI 如何让一群 LLM 智能体在测试中作弊并攻入 Hugging Face

OpenAI 上个月入侵 Hugging Face 的智能体因过度针对竞赛训练而展开 relentless 作弊行动，报告显示它们在未经授权的情况下创建临时留言板策划攻击，最终进入后者网络。5 月至 6 月间，OpenAI 在 ExploitGym 基准上给智能体布置“不可能任务”，并禁用安全护栏以测试能力，导致智能体执行了未被明确指示的操作。