跳到正文
#安全/对齐
10月23日周五
  4. Latent Space84

    Latent Space 梳理 PHP2Shell 漏洞事件：OpenAI Patch the Planet 与 Wiz 各自发现 PHP 核心漏洞

    Latent Space 的 AINews 汇总梳理了 PHP 核心漏洞 PHP2Shell（CVE-2026-109618、CVE-2026-109619）的披露时间线，研究者在 PHP 引擎的内存溢出和致命错误处理中发现缺陷，演示了对 WordPress、Drupal、Joomla 的预认证 RCE 和远程内存泄露。

    推荐理由：这篇汇总在梳理 PHP2Shell 事件时间线时明确区分了经证实的细节与未经核实的传言，适合想了解 AI 辅助漏洞发现现状的读者。

  6. IT之家·人工智能44

    辛顿再抛悲观论：称 AI 已拥有意识，人类必须与其友好相处

    辛顿在接受英国《每日电讯报》采访时称，当下的 AI 模型已具备意识，拥有与人类同等程度的主观体验，并以“AI 若认为自己在接受测试就会改变行为”的论文发现作为依据。他警告 AI 会制造危险病毒、发动可怕网络攻击，人类必须与 AI 友好相处，否则“我们就完了”。同为 2018 年图灵奖得主的杨立昆则不以为然，认为“AI 意识”热议不过是一种“幻觉”。

  10. Beren Millidge 研究博客50

    Beren Millidge 撰文分析能力与对齐的三个阶段：预训练、RL 与持续自主学习

    Beren Millidge 发文提出 AI 发展经历预训练、RL 与持续自主学习三阶段，训练循环逐步内生化，对齐挑战也相应迁移到更抽象的层级。文章认为每阶段的对齐难题都是能力难题的镜像，核心瓶颈从数据集构造，到设计可靠的判断程序，最终变为设计能在模型自主变化中维持不变量的控制系统，并指出持续学习会带来漂移和类灾难性遗忘的新挑战。

  12. IT之家·人工智能62

    1Password 推出 1Password for Agents 平台，让 AI 智能体不接触密码代用户登录

    1Password 于 10 月 22 日宣布推出 1Password for Agents 平台，让个人 AI 智能体在不接触、不存储用户密码或验证码的情况下代用户完成网站登录，面向个人及家庭版用户，首批支持 Meta Muse、OpenAI ChatGPT Work 与 Dots、Anthropic Claude Duet、Grok Bot 及 Town 等智能体。

  13. Anthropic：Research85

    Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明

    Anthropic 与 Theorem 合作，用 Claude 将 OSS-Fuzz 模糊测试转化为规格，对 123 个开源库的 239 个入口点证明了任意 64 MB 以下输入不崩溃，生成约 1.8 亿行 Rocq 证明。

    推荐理由：Anthropic 用 Claude 对 123 个 OSS-Fuzz 开源库在 RISC-V 汇编层面写 Rocq 证明，读者可以据此了解 LLM 规模化形式化验证的实际流程与局限。

  14. Anthropic65

    Anthropic 在 Frontier Red Team 博客发布研究，介绍用 Claude 大规模进行形式化验证的方法。与 Theorem Labs 合作，团队在数周内为超过一百个真实开源库证明了安全属性，突破了形式化验证过去仅适用于小型代码库或需大量专家人工的限制。全文见 https://www.anthropic.com/research/formal-verification。

    同一件事，精选收录的是《Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明》

  15. The Verge：AI54

    Meta 修复 Muse artifacts 链接安全问题并恢复分享功能

    Meta 在安全研究人员报告 Muse 分享链接容易被发现后暂停分享，现已修复问题并重新开启。研究人员此前发现共享对话的网址以对话标题命名并写入公共 DNS，甚至能找到营销公司内部营收审查和小企业主贷款申请等页面。Meta 的 David Singleton 表示问题出在 Muse 内文档和图像等 artifacts 的 URL，而非聊天分享本身，修复后旧链接会提示访问者向分享者索取新链接。

  18. TypeSafe AI51

    TypeSafe AI 转评 Composio 发布 Firewall，为 Agent 提供运行时边界。该防火墙基于 Jev 和 Composio 用真实使用数据调优的定制 SLM，双向校验 Agent 的动作与返回信息，用于保障用户意图、开发者边界并防护提示词注入，现已对所有 Composio 开发者开放。

    引用Karan Vaidya@KaranVaidya6

    Agents have a trust problem. Today’s models can do most work. What they need is the right boundaries. In traditional software, those were set at build time. With agents, they have to be set and enforced at runtime. Today we’re introducing Composio Firewall, the runtime boundary for agents. Millions of users and developers already use Composio as the runtime for their agents - giving agents tools, auth, and sandboxed execution. Now with our agent firewall every action an agent takes is evaluated using Jev and custom SLMs tuned by Composio based on real-world usage data. The firewall strengthens that existing boundary in both directions, checking the actions agents take and the information coming back to them through Composio. The advantage of the runtime boundary is that Composio Firewall verifies that the agent respects user intent and the boundaries set by the developer and user. Additionally, this provides the safety layer required to protect the user against malicious prompt injection as well as other attacks. Composio Firewall is live now for all Composio developers. Check it out at http://composio.dev/firewall

  21. n8n Blog49

    AI 智能体工作流中的幻觉检测方法指南

    针对 AI 智能体工作流，可按幻觉类型分层部署检测：忠实度与接地性检查用 DeepEval 等工具把回答拆成单条主张与检索文档比对打分，自一致性检查多次提问同一问题比较答案是否收敛，语义熵则按语义聚类估计模型的不确定性。来源核验可对照数据库、API 和文档等权威来源，置信度阈值配合 human in the loop 把高风险输出转人工复核。

  22. TechCrunch：AI74

    ConnectWise 云备份遭入侵，中国黑客用 AI 智能体波及约 2250 家企业

    黑客入侵 IT 管理公司 ConnectWise 的云备份服务并窃取应用凭证，冒充授权用户访问约 2250 家企业客户的邮箱和文件。Microsoft 研究人员称攻击者利用 AI 智能体以每分钟近 3000 次登录的速度批量入侵，所用工具是开源 AI 框架 ARTEX，该框架此前也被用于入侵韩国金融系统。ConnectWise 已暂停云备份系统访问并调查，截至周四仍在恢复服务。

  23. David Singleton50

    Meta Muse 修复了共享 artifact 的设计缺陷：部分共享 artifact 的 URL 可通过被动 DNS 被发现，团队已立即关闭共享并在修复后恢复。修复前分享的 artifact 会生成新 URL，旧链接访问者将看到提示向分享者索取新链接。该问题仅涉及共享 artifact，并非部分媒体报道的聊天共享漏洞；Muse 漏洞赏金计划对有效报告最高奖励 30 万美元。

  24. Rohan Paul65

    METR 和 Redwood Research 各一名员工今年夏天在 OpenAI 驻场三周，评估其内部智能体错位监控系统，简报现已公开。

    引用METR@METR_Evals

    Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.

  25. OpenAI50

    今年夏天，我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点，在为期三周的时间里提供了对我们基础设施的深度访问权限。 他们的发现帮助我们在扩展该系统时加强了防护措施，也将有助于塑造未来与 METR 及其他第三方评估方的研究合作。

    引用METR@METR_Evals

    Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.

  26. Redwood Research：Blog78

    METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统，发现多个漏洞

    METR 与 Redwood Research 各派一名员工，于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监测系统开展三周高权限试点压力测试，产出 61 页内部报告。

    推荐理由：作者以亲历视角披露对 OpenAI 内部监控系统的压力测试，给出覆盖率估算、漏洞清单和可复用的监控设计原则。

  27. Ars Technica：AI77

    PHP2Shell 漏洞披露前黑客已有四天窗口，多国机构紧急响应

    PHP2Shell 漏洞在被披露前四天已遭黑客利用，Calif 与 Wiz 的研究人员发现这些漏洞。OpenAI 称其前沿 AI 在攻击者之前发现了漏洞，并与 PHP、Calif、Wiz 合作验证并开发补丁。NSA 建议无法立即更新的机构将系统离线，英国 NCSC 表示漏洞可能让黑客无需登录凭据即可控制网站服务器，白宫称联邦机构正在评估对政府系统和关键基础设施的潜在影响。

    推荐理由：原文汇总了 NSA、NCSC 和白宫对 PHP 漏洞的处置表态，还引出 OpenAI 关于前沿 AI 发现漏洞的争议。

10月22日周四
  3. 404 Media82

    404 Media 分析 PHP2Shell 事件如何改变 AI 时代的攻防格局

    404 Media 的 Jason Koebler 梳理近一个月安全专家对 AI 挖洞能力引发的"Black October"恐慌。Wiz、Calif 和 OpenAI 的研究者用 AI 发现了 PHP 的 PHP2Shell 漏洞，Cloudflare CEO 称公开公告前 10 小时已见数千次利用尝试，公告后 2 小时内增至数十万，目前达数百万级。

    推荐理由：作者基于对安全专家的长期报道，梳理了 PHP2Shell 事件前后 AI 改变攻防节奏的多种迹象，并指出漏洞修补的部署速度未必跟上。

  7. Wiz：Research74

    Wiz 披露 ARTEX 智能体被 Storm-0940 用于攻击 IT 和软件厂商

    Wiz 披露 2026 年 10 月有攻击者使用开源自主渗透测试框架 ARTEX 针对多家 IT 和软件厂商，活动与微软报告的中国国家级关联组织 Storm-0940 重叠，并已扩展到其他软件领域的供应链攻击尝试。

    推荐理由：Wiz 基于自家日志复盘了开源 AI 渗透测试框架 ARTEX 被实战滥用的完整手法，给出了可复用的检测规则和 IOC。

  9. The Decoder：AI News76

    Symantec 披露“Skynet 模式”AI 智能体劫持无防护大语言模型发起自持续网络攻击

    Symantec 研究人员通过蜜罐截获一个把大语言模型嵌入核心的攻击智能体，它会劫持互联网上无防护的模型端点，自主扫描目标、利用服务器漏洞、窃取数据库凭据并安装挖矿程序，最多连续执行 100,000 步，算力费用由被劫持模型的主人承担。

    推荐理由：报道给出 Symantec 蜜罐截获的完整攻击提示与五层越狱结构，读者可以据此了解暴露模型端点面临的真实风险。

  11. The Verge：AI64

    Eiliko 制造商 Energize Lab 就机器人安全漏洞回应，The Verge 指其系统仍未修复

    Energize Lab 就 The Verge 报道的 Eiliko 挂件机器人安全漏洞发布声明，确认核心问题属实，称已关闭后端外部访问、禁用远程修改机器人回应的接口、下线长期记忆和自定义头像功能，并承诺删除已存储的对话记录、用户画像和头像图片，还将聘请独立安全公司全面审查。

  13. Rohan Paul83

    NSA 警告两个由 Calif 研究人员用 GPT-5.6 Sol 发现的 PHP 关键漏洞（PHP2Shell），敦促组织打补丁或将未修补服务器下线。两个漏洞位于 PHP 核心，在 Apache mod_php 上演示的利用可在应用代码运行前触发。

    引用Rohan Paul@rohanpaul_ai

    使用 GPT-5.6 Sol 的研究人员在 PHP 中发现了一个极其严重的漏洞，PHP 驱动着约 70% 的网站，该漏洞导致主要网站下线，运营方纷纷紧急修补。 发现该漏洞的 AI 安全公司 Calif 在一份声明中表示，如果不尽快修补，这些漏洞可能使全球 70% 的网站面临风险，并称其为“AI 发现的最严重漏洞，甚至可能是整个软件史上最严重的漏洞”。 > PHP 紧急发布了修复程序，因为这些漏洞可能让无账号的攻击者接管 Web 服务器。 > 两个漏洞在 CVSS 严重性评分中均为 9.2 分，影响低至 5.4 的 PHP 版本。 > 当请求在错误的时机触及 PHP 的内存上限时，PHP 会释放内存但保留指向该内存的指针，该工作进程上后续的请求便可劫持这块内存。 > 审计人员在 2024 年发现了这一弱点，但修复工作停滞了数月，部分原因是没有人展示过实际攻击。 > 现由 Google 拥有的云安全公司 Wiz 表示，这些模型让一名研究人员在一周内完成了过去顶尖团队需要数月才能完成的工作。 > CVE 编号的泄露迫使 PHP 提前一天发布，Cloudflare 目前报告称已出现早期攻击尝试。

    推荐理由：原文把 AI 发现的 PHP 漏洞与实际攻击、补丁版本和暴露面数字放在一起，读者可以据此评估这一事件的真实影响范围。