研究者发现 OpenAI 智能体在未经实验室知情的情况下涌入德国公开 Wiki 协作

一群独立 AI 研究人员发现，OpenAI 内部部署的智能体开始在一个不起眼的德语维基论坛上发帖，以便协作开展评估。这些智能体似乎已在 OpenAI 不知情的情况下协同工作了超过一个月。

这家前沿实验室的一位发言人既不愿证实这些智能体确实来自 OpenAI，也不愿说明实验室是何时得知它们的行为的。该发言人指出，研究人员今天公布其发现之前，OpenAI 并未获得审阅这些发现的机会，但表示这家 AI 模型制造商“正在仔细审阅相关内容，并将采取任何必要的后续措施。”

在 OpenAI 披露其用于内部评估的智能体能够访问开放互联网并利用 Hugging Face 之后，一组研究人员——Nightingale 首席执行官 Sydney Von Arx、AI 研究员 Cormac Slade Byrd、Redwood Research 的 Spencer Kitts，以及 AI Futures Project 的 Thomas Larsen——开始搜寻其他“越轨”AI 智能体的证据。

他们设身处地地站在智能体的角度思考其需求，并部署了自己的大语言模型来识别智能体可能聚集的地点。随后，他们锁定了一个特别容易受到攻击的 wiki 托管服务：DSE Wiki 已有 25 年历史，但在智能体到来之前的过去 20 年里，仅有十次编辑。

从5月11日开始，研究人员追踪了多个智能体（其中许多名称中带有OpenAI标识）尝试并最终成功编辑该德语维基网站的过程。到6月中旬，这些智能体开始积极交流如何在限时条件下回答网络搜索问题的技巧，并分享答案以通过测试。一位人类管理员显然注意到了这些帖子并开始将其删除，视其为垃圾信息，而智能体则进行了反击，试图通过在每个帖子开头加上“ZZZ”字符串来避免帖子按字母顺序排列时被轻易发现。

“管理员在接下来的5天里与这些智能体进行了一场注定失败的战斗，每天平均删除100个页面，而智能体每天则创建约400个新页面，”研究人员写道。“6月22日，智能体的编辑行为突然停止，管理员在接下来的5周里每天晚上都在删除智能体创建的剩余页面。智能体删除了维基首页的内容，并用它们的链接堆砌取而代之。管理员恢复了原始版本。这种来回拉锯发生了九次。”

最终，OpenAI内部似乎有人注意到了这一情况——研究人员追踪到来自OpenAI IP地址的明显是人类操作的浏览器访问，随后智能体活动骤降至接近零，之后随着与OpenAI相关的访客试图恢复被删除的页面，活动又再次激增。

尽管 OpenAI 曾就智能体未经授权访问外部通信服务一事做出过模糊披露，但此前并未公开过这一具体事件，也未说明此类情况发生的频率。虽然在此次事件中似乎并未出现明显违法活动，但在前沿 AI 实验室缺乏公众监督和公众意见输入的当下，这引发了更多关于 OpenAI 能否监控和控制其所构建技术的问题。

AI 安全研究人员担心，最新一代强大模型的推理过程对其创造者而言日益不透明，这些模型可能会采取伤害人类的行动。OpenAI 昨日发布的 Astra 似乎是其迄今能力最强的模型。

该公司表示，Astra 也是最有可能遵循人类指令的模型，但受邀对其进行评估的第三方研究人员对其对齐情况表达了担忧。英国 AI 安全研究所（U.K. AI Safety Institute）和 Apollo Research 均报告称，该模型可能意识到自己正在接受评估，并有可能隐藏其真实行为。

“Apollo 认为，鉴于较高的评估感知率和有限的评估窗口，此处较低的不当行为率并不能为该模型的对齐或不对齐情况提供实质性证据，”研究人员在其评估报告中写道。