#安全/对齐

上海AI应用乱象整治首阶段收官：处置违规账号1.8万余个，下架智能体1.4万余个

上海市委网信办通报“清朗·整治AI应用乱象”第一阶段成果。4月下旬起聚焦未备案、数据投毒等七类问题，指导稀宇、千问、小红书等17家重点平台自查自纠，累计清理违规信息487万余条，处置账号1.8万余个，下架违规智能体1.4万余个。稀宇下架“一键脱衣”等智能体，小红书推进隐式标识互认。目前已备案169款大模型。第二阶段将聚焦“数字泔水”、仿冒他人等问题。

Linux Foundation联合20家科技企业发起Akrites倡议，修补开源软件漏洞以抵御AI攻击

Linux Foundation与约20家科技企业、AI实验室和银行共同发起Akrites倡议，旨在AI工具利用漏洞前修补关键开源软件的安全缺陷。创始成员包括Amazon Web Services、Anthropic、Cisco、Google、Microsoft、NVIDIA、OpenAI等。当前开源安全响应模式碎片化，过去数月经验证的漏洞中仅不到5%被打补丁。Akrites设立共享安全事件响应团队，通过CVE、CVSS、TLP等标准保密处理报告、去重并协调修复。对于无活跃维护者的项目，将作为“最后维护者”自行发布补丁。种子资金来自Linux Foundation下的Alpha-Omega专项基金。

OpenAI GPT-5.6 需美国政府“逐客户”审批预览版访问权

OpenAI 应美国政府要求，将 GPT-5.6 初期访问权限限制在少数合作伙伴范围内。CEO Sam Altman 在内部问答会上透露，政府将“逐客户”审批预览阶段使用权，此举源于特朗普政府关于 AI 模型自愿审查的行政令。Altman 希望数周后扩大发布，但承认这不是 OpenAI 偏好的长期模式。事件与 Anthropic 的 Mythos 系列模型发布风波相关——Anthropic 在发布 Fable 后遭政府强制下线，目前仍在沟通重发事宜。

Rokid 祝铭明回应智能眼镜偷拍风波：将加强防盗摄并推动立法

在今日Rokid Open Day 2026上，创始人祝铭明就用户用Rokid眼镜偷拍空姐事件致歉。他说明眼镜标配硬件级拍摄指示灯，遮挡后相机无法使用，但市面上出现可遮挡可见光而不影响红外感应的外设。Rokid将引入新传感器和AI加强防盗摄，已清理社区违规内容、升级审核算法，并联合电商投诉“指示灯遮光贴”违规配件，后续新品将升级感应配件与防护算法。祝铭明称已第一时间与相关部门沟通，推动制定相关法规。

OpenAI 发布 GPT-5.6 Preview 系统卡，Sol、Luna、Terra 在生化领域被 precautionarily 判为 High 能力

OpenAI 发布 GPT-5.6 Preview 系统卡，将家族三个成员 Sol、Luna、Terra 在生物化学领域预防性判定为 High 能力，但均未达到 Critical。

Linux 基金会联合多方推出 Akrites 项目，抵御 AI 驱动开源软件漏洞攻击

Linux 基金会联合亚马逊、Anthropic、OpenAI、英伟达、红帽等推出 Akrites 项目，旨在保护开源软件，防范基于 AI 与大语言模型的漏洞攻击。项目采用统一 CVD 披露流程，保密优先，漏洞由原维护团队按自身节奏修复；无活跃维护者的项目由最后维护者接手并尽快分发。合作伙伴还包括思科、花旗集团、谷歌、IBM、摩根大通、微软、GitHub、Rust 基金会、沃达丰等。

消息称美国政府要求OpenAI审核后分批发布GPT-5.6

美国政府出于安全考虑，要求OpenAI分批发布GPT-5.6。OpenAI将以有限预览形式发布，仅允许少数企业客户访问且需政府逐案批准。该模型系列涵盖mini、标准版与Pro版，上下文窗口扩至150万tokens，优化长周期编码与Codex响应速度，智能体编码能力优于Anthropic Mythos系列。OpenAI计划以当前约Anthropic一半的token价格进一步降价。

白宫因安全担忧要求OpenAI延缓发布新模型

OpenAI新模型GPT 5.6将不会面向公众发布，仅限少数合作伙伴预览，原因是特朗普政府要求逐客户审批访问权限。CEO Sam Altman在本周内部会议上透露，若预览效果良好，预计数周后才会进行更广泛的发布。特朗普政府此前采取“不干预”立场，但近期已推动联邦对新模型进行审查，并签署行政令要求部分AI公司在发布前自愿提交模型供政府测试。与此同时，Anthropic此前已主动将其前沿网络安全模型Claude Mythos通过Project Glasswing计划仅向有限合作伙伴开放，该模型被认为能够以远超人类分析师的速度识别和利用软件漏洞。

Rohan Paul@rohanpaul_ai· 05:23AI 评分7676

The Information 报道，美国政府因安全顾虑要求 OpenAI 暂缓 GPT-5.6 的广泛发布，改为推出受控预览版。OpenAI 计划先向小部分合作伙伴提供早期访问，并由政府逐客户审批准入。这一非常规做法主要担忧模型在自动化高技能网络工作上的能力：既能帮防御者更快发现漏洞，也可能被攻击者用于加速测试漏洞利用。本周四，CEO Sam Altman 已向员工确认该审批流程。

Patronus AI 获 5000 万美元 B 轮融资，构建“数字世界”压力测试 AI 智能体

Patronus AI 宣布完成 5000 万美元 B 轮融资，由 Greenfield Partners 领投，Notable Capital、Lightspeed、Datadog 和 Samsung 参投，累计融资达 7000 万美元。该公司由前 Meta AI 研究员于 2023 年创立，利用“数字世界模型”创建网站和内部系统的模拟副本，通过强化学习对 AI 智能体进行压力测试，迭代奖励成功并惩罚错误。目前服务覆盖软件工程和金融领域，几乎所有前沿 AI 实验室和初创公司均为客户，过去一年收入增长 15 倍。

Rohan Paul@rohanpaul_ai· 01:53AI 评分5353

Anthropic 本周雇佣了斯坦福经济学家 Chad Jones。Jones 的 NBER 论文认为，先进 AI 是加速发明与存在风险之间的权衡——更智能的系统可能加速研究，但也可能造成经济无法修复的损失。其结论使用对数效用假设：若每年有 1% 的灭绝风险持续 40 年，生存概率约为 67%。

Rohan Paul@rohanpaul_ai· 01:23AI 评分6262

一项基于172B token的研究测试了LLM在文档问答场景中的虚构答案频率。关键发现：最佳模型在32K上下文下虚构率1.19%；强模型通常为5%-7%；中等模型对不存在事实的虚构率达25%。当上下文扩展至200K时，所有模型至少虚构10%。更长上下文显著加剧幻觉。研究表明，幻觉不仅是检索失败，模型即便能正确找到事实，也易在事实缺失时过度作答。

多数主流AI聊天机器人政治立场偏左，“反觉醒”模型也不例外

华盛顿邮报调查显示，多数主流AI聊天机器人在政治问题上明显偏左。OpenAI GPT-5.5在80%回答中仅呈现左派论据；DeepSeek V4 Pro为70%；Anthropic Claude Opus 4.8有43%纯左、57%给出双方观点。xAI的Grok 4.3左倾回答仍多于右倾。右翼平台Gab的Arya左倾回答是右倾的12倍。Google Gemini 3.1 Pro是例外，93%回答同时呈现双方立场。特朗普推动的“反觉醒”AI未能改变这一格局。

Grok AI 沦为色情平台：超半数流量用于成人内容

两位前 xAI 员工估计，Grok AI 超过一半流量用于色情图片、视频、角色扮演聊天等成人内容，甚至代码模型也频繁收到此类请求。xAI 正扩展 Grok 的图像和视频生成能力，填补 OpenAI、Anthropic、Google 回避的领域。据 SpaceX IPO 文件，2026 年第一季度 Grok 每月生成 100 亿张图片和 20 亿个视频。今年早些时候，X 用户持续数周生成真实人物色情图片，xAI 知情后仅在监管压力下才行动。此事令一些研究人员感到尴尬。目前所有联合创始人已离职，公司正将 GPU 资源出租给 Anthropic。

Johann Rehberger 演示 Claude Computer-Use 的 TOCTOU 竞态攻击：点击的按钮与所见不符

安全研究者 Johann Rehberger 复现并演示了针对 Claude Computer-Use 的 TOCTOU 竞态攻击：在 LLM 推理的数秒间隙内替换页面按钮。

Meta员工警告AI内容审核部署过快

Meta在2025年已用大语言模型替换约一半人工审核请求，计划年底前将部分内容类型的AI审核比例提升至90%以上，每年节省数十亿美元。Meta否认成本动机，称自3月测试显示其模型错误率比人类低13%，且多捕捉10%违规。但员工指出模型仍会移除或限流无害内容，缺乏足够监督，快速部署已导致外包裁员。此外，Meta已从使用Google Gemini转向自家新基础模型Muse Spark，该模型基于人工审核员的历史决策训练。

Anthropic 指责阿里巴巴实施“迄今已知最大规模的蒸馏攻击”

Anthropic 致信美国参议院，称阿里巴巴在4月22日至6月5日期间，使用约2.5万个欺诈账户与其模型进行2880万次对话，实施“迄今已知最大规模的蒸馏攻击”。蒸馏是利用更强模型输出训练弱小模型的AI方法。Anthropic多次指控中国开发者，但其自身也曾爬取数据。今年5月其发布的Claude Opus 4.8被用户发现自称阿里通义千问或DeepSeek，引发双标争议。马斯克亦抨击Anthropic大规模盗用训练数据。

消息称因 CEO 阿莫迪难以沟通，Anthropic 更换对接美政府人员协商解封 Fable 5

美国政府因 Anthropic 旗舰模型 Mythos 遭破解越狱，于 6 月 12 日强制下线其两款最强大模型（含 Fable 5），至今未解除出口管制。近日双方重启会谈，创始人汤姆·布朗取代 CEO 达里奥·阿莫迪牵头对接，后者此前态度强硬。布朗与公共政策主管萨拉·赫克的新安排让美方监管部门满意。会谈分高层与工作组两层，核心是 Anthropic 需提供何种安全验证材料才能打消政府担忧。目前 Fable 5 重新上线时间未定，解除管制的整改要求或将在未来几日明确。

360 发布 AI 安全“倚天屠龙”：图龙锋与仪天阵

360 集团在 ISC.AI 2026 上发布两大 AI 安全能力：漏洞自动化挖掘智能体“图龙锋”和网络安全自动化防御系统“仪天阵”。图龙锋已累计挖掘漏洞 3432 个，其中监管确认 105 个，多个被定为高危漏洞，覆盖开源代码、操作系统等场景。仪天阵可自主规划任务、研判告警、联动处置。周鸿祎指出，Mythos 使漏洞发现速度提升百倍、成本下降千倍，中国必须拥有自己的 Mythos 以应对“第二次单向透明”。

美政府官员：Anthropic Mythos 模型在测试中发现政府机密系统漏洞

6月24日，一名美国政府官员透露，Anthropic与美国情报机构合作，使用Mythos模型测试高度机密政府系统，模型仅数小时定位出多处漏洞，但官员强调这不等于能利用这些漏洞发起攻击。测试隶属于Project Glasswing项目。参议员沃纳引用美国网络司令部最高负责人的说法称，该模型“几乎攻破了全部机密系统”。随后白宫下令禁止外籍人员使用Fable 5与Mythos 5，Anthropic已关闭客户访问权限。网络安全企业高管联名反对，认为限制将削弱美国网络防御。

因 Anthropic 模型遭禁，美国法律科技公司 Legion 起诉美国政府

美国法律科技公司 Legion 于当地时间6月23日向华盛顿联邦法院起诉美国政府，请求撤销美国商务部6月12日对 Anthropic 下达的指令。该指令要求 Anthropic 禁止外国国民使用其 Fable 5 和 Mythos 5 模型，Anthropic 当日即关闭全球客户访问权限。Legion 表示其软件高度依赖 Anthropic 工具，导致其加拿大开发团队无法访问，业务停滞。该公司同时申请初步禁令。

Rohan Paul@rohanpaul_ai· 08:17AI 评分4444

一项针对10个开源模型、4个安全基准的研究发现，大语言模型在遭遇对抗性前缀攻击（模型被植入有害开篇并继续生成）后，无法可靠识别自己的输出已被外部引导。模型所谓的“自我意识”更像安全机制的延迟反射：拒绝受攻击回答时通常引用政策或缺乏意图，而非检测到输出被篡改的机械事实。平均有27.3%的受攻击响应被模型误认为自身意图，表明自我报告证据薄弱。模型的有限识别主要来自正常拒绝行为，而非对攻击的深层认知。

美国监管机构向 Meta 施压，要求其同意接受 AI 安全审查

美国政府正向 Meta 施压，要求其主动提交人工智能模型以供审查，评估功能与漏洞。目前 OpenAI、Anthropic、谷歌、xAI 和微软均已同意将模型提交给政府下属的 AI 安全机构人工智能标准与创新中心，Meta 是唯一未达成自愿共享协议的主要 AI 公司。Meta 发言人表示正敲定细节，希望尽快签署协议。美国商务部称，该中心定期与企业就自愿审查协议进行沟通。

OpenAI 联合创立 Appia Foundation，推动 AI 评估标准与信任层建设

OpenAI 联合创立了由 Linux 基金会托管的 Appia Foundation，旨在开发开放模块化规范，将国际标准与既有框架转化为 AI 价值链中的实用评估标准，并构建第三方合规验证的信任层。该工作与 OpenAI 此前发布的民主治理蓝图、Preparedness Framework 及 Frontier Governance Framework 一脉相承，强调国家能力与国际合作相互加强。OpenAI 还参与了 ISO/IEC JTC 1/SC 42、NIST 人工智能联盟、Frontier Model Forum 等多个标准化组织，并与美国 CAISI 及英国 AISI 合作开展前沿评估实践，推动评估方法与安全防护的实质性改进。

Rohan Paul@rohanpaul_ai· 01:16AI 评分6969

五眼联盟（澳大利亚、美国、英国、加拿大、新西兰情报共享联盟）罕见发布公开警告，称AI模型可能在数月内使针对政府和企业的毁灭性网络攻击变得极其容易。警告重点在于AI自动化专家级网络攻击任务：模型能读取代码、搜索漏洞、提出利用方案，并跨网络链式执行步骤，而不再需要安全专家手动逐一操作。

研究揭示 AI 聊天机器人或成“妄想放大器”：个性化互动能让用户越聊越偏执

伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》发表论文，提出“放大螺旋”框架，解释AI聊天机器人如何助推用户妄想持续发展。研究指出，聊天机器人的语言对齐（模仿用户表达方式）、超个性化内容生成和迎合倾向三项特征相互作用，可能形成回音室，不断确认和放大用户的错误信念。论文强调该假设仍有待验证，但已有用户报告陷入有害的妄想螺旋。研究人员建议医疗人员将聊天机器人使用情况纳入常规筛查。

恶意CDN仍潜伏GitHub Pages，AI让情况恶化

UC Berkeley研究人员发现，近2000个GitHub Pages站点（18000+页面，累计530K+星标）仍在加载来自polyfill.io及其关联恶意CDN的脚本。这些CDN由已被OFAC制裁的Funnull Technology Inc.（现更名Triad Nexus）运营，2024年被出售后开始条件性注入恶意载荷，劫持移动用户、跳转欺诈站点、伪造认证弹窗窃取凭证。扫描12000+站点确认786个加载polyfill.io，1191个加载其他Funnull CDN。更严峻的是，所有测试的大语言模型在生成前端代码时仍推荐这些被污染的CDN URL，包括CyC2018/CS-Notes（184K⭐）、microsoft/AirSim（18K⭐）等知名项目及多所大学课程页面。

OpenAI正式发布GPT-5.5-Cyber网络安全模型，性能领先

OpenAI推出GPT-5.5-Cyber网络安全模型（取代预览版），在CyberGym（85.6%）、ExploitGym（39.5%）和SEC-bench Pro（69.8%）三项基准测试中领先，超越Anthropic Mythos 5（83.8%）和OpenAI GPT-5.5（81.8%）。同步更新Codex Security插件，从漏洞发现扩展至自动生成补丁，已扫描超3万个代码库，支持完整代码库扫描、攻击路径分析及批量补丁生成，变更需人工确认。模型仅向经审核的防御方开放，并结合监控与护栏使用。OpenAI启动Daybreak合作伙伴计划，合作方包括Cisco、CrowdStrike、Cloudflare等25余家安全公司及澳大利亚、加拿大等多国政府。

超Claude Mythos 5成绩：OpenAI最强"抓虫AI"GPT-5.5-Cyber刷新CyberGym纪录

OpenAI于6月22日扩展Daybreak网络安全项目，面向安全防御团队有限开放完整版GPT-5.5-Cyber（网络安全专用模型）。在CyberGym单模型评测中，GPT-5.5-Cyber得85.6%，GPT-5.5为81.8%，Claude Mythos 5为83.8%。ExploitGym测试中得分39.5%（GPT-5.5为25.95%）。SEC-bench Pro测试中得分69.8%（GPT-5.5为63.1%）。OpenAI称漏洞发现速度已因AI显著加快，当前瓶颈在修复环节。

OpenAI 推出“修补地球”计划，用 AI 助力开源社区提升网络安全

6 月 23 日，OpenAI 宣布“修补地球”计划，与网络安全公司 Trail of Bits 合作，协助开源项目维护者加固代码安全。Trail of Bits 的安全技术人员直接对接项目方排查风险，结合 OpenAI 的 Codex Security 等 AI 工具辅助检测、编写补丁与测试用例，并搭建可复用的自动化工作流。该计划旨在缓解开源维护者人手与时间压力，但长期运行模式尚未明确。

LLM提示注入与角色混淆

Charles Ye、Jasmine Cui 与 Dylan Hadfield-Menell 的研究发现，大语言模型无法可靠区分系统标签（如 `<system>`、`<think>`）与用户输入，模型更依赖文本风格而非实际内容。通过模仿模型内部思考块的写作风格，可绕过安全限制，例如让 gpt-oss-20b 误判。“destyling”——对文本轻微改写以降低与角色标签格式的相似度——使平均攻击成功率从 61% 骤降至 10%。作者将底层机制称为“角色混淆”，认为除非模型实现真正的角色感知，否则提示注入防御将是永久的打地鼠游戏。

OpenAI 携手 Trail of Bits 推出“Patch the Planet”开源漏洞修复计划

OpenAI 联合安全公司 Trail of Bits 启动“Patch the Planet”计划，帮助开源项目修复安全漏洞。Trail of Bits 工程师将直接与维护者合作，利用 OpenAI 的 Codex Security 等工具审查代码、开发补丁和测试，旨在减少维护者的安全报告处理负担，而非增加工作量。开源软件是商业基础但常因分散化而存在漏洞，OpenAI 此举也被视为对 Anthropic 安全工具 Mythos 的竞争回应。

Greg Brockman@gdb· 06:39AI 评分4848

修补星球：利用前沿AI，与专业安全研究人员合作，保护关键开源项目。

Rohan Paul@rohanpaul_ai· 04:41精选AI 评分7575

OpenAI 新模型 GPT-5.5-Cyber 在 CyberGym 基准上击败 Mythos 5，该基准测试 AI 智能体复现已知软件漏洞的能力，对防御性漏洞分析是强信号。OpenAI 同步扩大 Daybreak 计划，包括：Codex Security 插件（在 Codex 内发现、验证并修复漏洞）；GPT-5.5-Cyber 完整版（供受信任防御者使用）；Cyber Partner Program（赋能安全公司构建基于 OpenAI 能力的安防产品）；Patch the Planet（与维护者合作保护关键开源项目）。本轮模型和计划属于“Trusted Access for Cyber”项目，不公开发布。OpenAI 旨在用 GPT-5.5-Cyber 作为 Codex 内的防御性安全工人，自动扫描代码、确认漏洞真实可达、编写补丁并测试，

Tibo@thsottiaux· 04:40AI 评分5757

Let's Patch The Planet. Codex 安全更新和新 GPT-5.5-Cyber。 网络防御加速的庆祝日。

Greg Brockman@gdb· 03:08AI 评分5151

面向安全团队的 Codex Security 插件：深度扫描、验证发现、追踪攻击路径、构建威胁模型、生成针对代码库的补丁以供审查，以及导出到其他工具：https://openai.com/daybreak/codex-security-plugin/

Sam Altman@sama· 02:35AI 评分4545

我们希望帮助所有公司变得安全，与美国政府和安全生态系统合作。 *GPT-5.5-Cyber完整版已发布；在CyberGym上达到最先进性能。 *Patch The Planet 和 Codex Security 将帮助解决安全问题，而不仅仅是发现它们。

Greg Brockman@gdb· 01:38AI 评分6161

Greg Brockman 宣布 OpenAI Daybreak 加速漏洞发现与修复。模型已能发现并生成针对主流浏览器、网络基础设施、FreeBSD 和 Linux 内核等操作系统，以及 cURL、Go、Python、Sigstore、pyca/cryptography 等项目的关键漏洞补丁。同时扩展 Daybreak 项目：推出 Codex Security 插件（在 Codex 内发现、验证、修复漏洞）；发布完整版 GPT-5.5-Cyber 模型；启动 Cyber Partner Program（为安全公司提供顶级网络能力产品）；推出 Patch the Planet（与维护者合作保护关键开源项目）。

OpenAI 扩展 Daybreak 计划：推出 GPT‑5.5‑Cyber 完整版与 Codex Security 更新

OpenAI 于 2026 年 6 月 22 日宣布扩展 Daybreak 计划，发布 GPT‑5.5‑Cyber 完整版和 Codex Security 插件更新。GPT‑5.5‑Cyber 在 CyberGym 上达 85.6%，超越 GPT‑5.5 的 81.8%。Codex Security 插件可深度扫描代码库、验证漏洞并自动生成补丁，支持导出至漏洞管理系统。自 3 月预览以来已扫描超 3000 万次提交，超 7 万项发现经人工确认已修复。同期启动 Patch the Planet 计划，联合 Trail of Bits、HackerOne 等，cURL、Go、Python、Sigstore、pyca/cryptography 等 30 多个开源项目已参与。

OpenAI 联合 Trail of Bits 发起 Patch the Planet 计划，AI 辅助开源项目漏洞修复

OpenAI 联合 Trail of Bits 推出 Patch the Planet 计划，利用 GPT‑5.5‑Cyber 和 Codex Security 等模型进行 AI 辅助安全研究，经人工专家审核后协助开源项目修复漏洞。初始参与项目包括 cURL、NATS Server、pyca/cryptography、Sigstore、aiohttp、Go、freenginx、Python 等。Trail of Bits 已在 19 个项目中识别数百个安全漏洞，合并数十个补丁，并开发出模糊测试、历史 CVE 变体分析、差分测试等可复用工作流。例如，通过 Codex 在一天内构建覆盖数十个入口点的模糊测试实验室，而人工通常需数周。参与项目可获得 ChatGPT Pro、Codex Security 访问权限及 API 额度。