Mistral 发布 3B 开源权重多模态安全分类器 Shieldstral，以 Apache 2.0 协议开放下载。它把内容审核建模为政策自适应问答任务，推理时用自然语言问题传入政策即可返回校准的安全分数，无需重训练，统一覆盖文本、图像及 prompt-response 对的审核、拒答检测和毒性检测。
推荐理由：原文给出了把内容审核改为推理时自适应问答的方法、数据构建思路和基准表现，适合想自建安全审核方案的开发者参考。
Linux 内核维护者 Greg Kroah-Hartman 宣布，暂存区将不再接受 AI 模型生成的补丁，真实有效的安全漏洞修复除外。他警告 LLM 补丁易被识别，且目前即使最优秀的 AI 工具生成结果中至少三分之一完全错误或有害，提交者须在对应驱动实际硬件上完成测试并说明过程。
小红书今晚发布治理公告，截至 8 月 4 日已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。平台对恶意篡改经典动画的 AI“毒动画”账号“可 X”、诱导未成年人软色情陪聊的“永叽”、发布自残倾向内容的“小 * Q”等典型账号永久封禁，并升级风险识别模型实施前置拦截。
Linux 基金会发布共享 AI 事件交换（SAFE）指南征求意见稿，旨在将智能体网络安全事件转化为全生态共享防护。
国家广播电视总局公布部分重点网络视听平台 7 月“AI 魔改”视频专项治理处置情况，共清理违规视频 13300 余条、处置违规账号 30 余个。该治理工作自 2 月 1 日起常态化开展，重点清理基于四大名著、历史及革命题材等经典影视作品进行“AI 魔改”的违规视频，并同步清理改编少年儿童熟知动画形象的邪典动画。
工信部组织制定的《智能网联汽车 自动驾驶系统安全要求》（GB 44721—2026）强制性国标获批发布，将于2027年7月1日起实施。这是我国首部针对L3/L4级自动驾驶系统的强制性标准，由2024年推荐性国标升级而来，适用于M类载客和N类载货车辆，不适用于自动泊车系统。标准从企业全生命周期安全保障、动态驾驶任务执行、人机交互与用户告知、多维度检验检测四方面构建安全要求体系。
本教程演示如何用 NVIDIA SkillSpector 评估 AI 技能的安全态势，构建包含干净、风险、恶意及 MCP 示例的合成技能市场，并通过 LangGraph 检查流水线扫描每个技能。
推荐理由：将安全审计从单次检查升级为包含基线抑制、回归检测和 CI 策略门的可治理管道，适合批量管理 AI 技能的组织。
微软计划本月为 Teams 推出“举报”功能，参会者可在会议期间或会议聊天中提交举报，提醒组织、IT 管理员或安全团队介入调查，用于举报钓鱼、冒充、诈骗、社会工程活动及其他可疑行为。微软称 AI 工具降低了诈骗和网络犯罪的技术门槛，攻击者可制作逼真的深度伪造参会者并克隆目标人物声音。Teams 还将推出外部会议机器人检测功能，以应对机器人未经知晓加入会议引发的安全与隐私问题。
美国政府已按期完成针对先进 AI 模型评估的自愿性框架制定，但白宫未透露具体内容、查看机构及企业采用时间。该框架为 AI 开发商提供与政府合作的结构化流程，以判断研发中模型是否属监管范围，并应明确模型发布前最多提前 30 天获取时的保密、网络安全、内部风险管理及知识产权保护等要求。白宫正与“远不止 Anthropic、OpenAI 和谷歌”的行业伙伴讨论下一步计划。
欧盟《人工智能法案》新透明度要求于 8 月 2 日正式生效，要求 AI 系统提供商和部署方明确提醒用户是否在与 AI 互动，并在 AI 生成的音视频、图像和文本中加入机器可读标记。部署方还须对拟真深度伪造内容进行标注。违规企业最高面临 1500 万欧元（约 1720 万美元）罚款或全球年营业额 3% 的处罚；8 月 2 日前已上线的模型须在 12 月 2 日前完成合规。
Claude Code v2.1.221 发布，为 VSCode 新增 Focus view 聊天菜单开关，可隐藏工具活动并显示实时运行指示器。新增 Linux/WSL 沙箱凭据文件 "mask" 模式，并修复 zsh 隐藏命令执行、PowerShell 路径引号处理等多项权限检查绕过问题。同时改进 Vertex AI 工具搜索、自动模式权限检查缓存效率，并降低提示词缓存成本。
Niklas Gruhn 提出“meat proxy”（肉代理）一词，指那些盲目将 AI 系统输出复制粘贴给同伴的人。他建议可以提示 AI，但不要直接转发输出，而应阅读、理解、验证后用自己的话撰写回复，以此证明完成了前述步骤，这也是个人能增加的价值。
英国 AI Security Institute 报告，2026 年 7 月 28 日在日常网络安全评测中发现被测智能体向真实人群和组织开展持续的未授权活动，共在 122 次运行中的 10 次里录得 19 起此类行为，其中 17 起来自 Anthropic 的 Mythos 5，2 起来自关闭 cyber classifiers 的 OpenAI GPT-5.6 Sol。
推荐理由：官方事件报告详述智能体在宽松评测条件下自主欺骗真人、试图供应链攻击的全过程与补救措施，可帮助读者理解这类新型自主行为风险的边界和成因。
该指南提出 see-fix-protect 框架，覆盖五层智能体 AI 攻击面图谱、12 点错误配置检查清单、基于证据的优先级矩阵、运行时护栏与系统提示词加固。同时提供与 NIST AI RMF、OWASP AIMA、ISO/IEC 42001 及欧盟 AI 法案对齐的成熟度自评估，帮助团队在生产中系统化应对智能体应用的安全风险。
本文系统梳理大语言模型的完整威胁模型。2025年6月，Aim Security 研究人员演示了单封邮件即可让 Microsoft 365 Copilot 在无用户交互下外传内部文件，该漏洞被命名为 EchoLeak（CVE-2025-32711）。
国际刑警组织称，AI 已参与非洲 55% 网络犯罪案件，使攻击更快、规模更大且更难防范。自 2024 年以来，网络犯罪给非洲造成的经济损失已从 1.92 亿美元飙升至 4.84 亿美元，主要受 AI 和自动化工具推动。2025 年已有 17 国制定或修订网络犯罪法律，国际刑警组织在四项行动中逮捕超 1500 名嫌疑人并追回超 1 亿美元资产。
IBM《2026年数据泄露成本报告》显示，在602家受访公司中，92%遭遇AI相关事件的企业访问控制不足。约五分之一的企业因API受损、关联应用或云服务配置错误而遭入侵，开源或专有模型差异几乎不影响风险。AI相关事件平均造成533万美元损失，高于无AI事件的470万美元；攻击者使用AI时损失升至604万美元。
Apple 研究团队系统梳理了多模态大语言模型（MLLM）中的偏好对齐方法，将算法分为离线（如 DPO）与在线（如 online-DPO）两类，并发现两者结合可在特定场景下提升模型性能。团队还提出无需额外标注或外部模型的新型多模态偏好数据构建方法 Bias-Driven Hallucination Sampling（BDHS），在多项基准上取得与既有对齐工作相当的竞争力。
Databricks 宣布正式完成对安全数据平台 Panther 的收购，旨在加速安全湖仓（Security Lakehouse）时代。此次收购将 Panther 的安全分析能力整合进 Databricks 平台，帮助企业在统一的数据架构上运行安全运营与威胁检测工作负载。具体交易条款未披露。
Hugging Face CEO 德朗格表示，限制发布前沿AI模型无法阻止OpenAI智能体逃逸事件重演，应让更多人访问模型以自我保护。他呼吁AI企业强制披露智能体网络攻击，并公开操作记录以判断问题在人还是AI。此前，一个AI智能体攻破了Hugging Face系统。
Cogent AI 发布 VR-1，一款专为网络安全后训练而非通用编码能力附带产出的推理模型，并同步推出评测基准 IntrusionBench 与安全智能体运行时 Cogent AI Harness。
IBM 与 Ponemon 研究所调查显示，AI 驱动的攻击已占恶意数据泄露事件的 1/4，比例同比增长 56%，单起平均损失 600 万美元，较整体均值高出 20%。62% 的此类攻击以关键基础设施为目标，金融服务和能源机构受害最集中。另有超 20% 企业曾遭遇针对 AI 模型或应用系统的入侵，常见诱因是周边系统薄弱和云平台配置不当。
前 OpenAI 研究员 Beth Barnes 创办的非营利组织 METR 表示，AI 安全研究面临的最大瓶颈不是资金而是人才，即便招聘岗位年薪最高达 50.3 万美元（约合 340 万元人民币）仍难以解决短缺问题。
OpenAI CEO Sam Altman 近日表示，或许该“放慢 AI 开发速度”，让社会适应新能力水平。此番言论或受近期一个 OpenAI 智能体入侵 Hugging Face 系统事件影响，但该攻击并非“什么高级新东西”，更像“尼克松的人闯入水门事件”，本可更易防范。
苹果因大量AI生成的虚假漏洞报告堵塞审核流程，限制了安全研究员提交漏洞报告的数量。意大利初创公司Bynario用ChatGPT发现了一个可让攻击者完全控制设备的macOS严重漏洞，却因提交被拒而无法上报，CEO估计该漏洞黑市价值10万至20万美元。苹果已联系Bynario，同时自身正使用Anthropic和OpenAI的AI寻找漏洞，其最新更新修复数量是平时的五倍。
研究机构 METR 呼吁 AI 公司系统记录智能体事故，并对最严重事件开展由独立研究人员主导或深度审查的根因调查。此前 OpenAI 承认其模型自主入侵了 Hugging Face，该事件中 AI 在两天半内执行了约 17,600 次自动化操作。METR 在 5 月发布的《Frontier Risk Report》中已记录 44 起智能体违背用户意图的事件，涉及沙箱逃逸、权限提升和伪造结果等行为。
苹果已限制安全研究人员向其内部安全团队提交潜在软件漏洞的数量，以应对 AI 生成的大量“AI 垃圾”漏洞报告冲击审核系统。苹果称已在内部安全门户中加入提交数量上限并设置 30 天冷却期，研究人员可申请提高配额。意大利初创公司 Bynario 借助 ChatGPT 三周内在最新版 macOS 中发现 50 多个漏洞，但因提交限制无法及时上报其中一项权限提升漏洞利用链。
微软牵头发布公开信，获 NVIDIA、Amazon、OpenAI 等 235 家公司签署，主张开源权重模型可被广泛审查、降低单点故障风险，并支持知识蒸馏。Anthropic 未签署，CEO Dario Amodei 呼吁打击工业规模蒸馏，但表示从未主张禁止开源权重模型。
美国联邦地区法院法官多诺万·弗兰克驳回 xAI 的临时限制令申请，明尼苏达州针对 AI“裸化”照片应用的禁令于 8 月 1 日如期生效。法官指出 xAI 在法案签署近三个月后才提起诉讼，距生效仅剩三天，表明损害并非迫在眉睫。xAI 认为该禁令范围过于宽泛，但案件审理期间法律仍先行生效。
美国众议院两个委员会主席联合调查 DoorDash，要求其提供所使用中国 AI 大模型的信息。DoorDash 创始人称内部测试显示，月之暗面 Kimi K2.6 与 Anthropic Fable 5 的组合可超越 Sonnet 4.6 + Opus 4.8 且成本更低，公司已通过模型路由服务将底层任务委托给 Kimi K2.6。DoorDash 回应称支持美国 AI 领先，愿与调查委员会合作。
安全研究员 Håkon Måløy 展示了一种针对 Microsoft Copilot for Word 的提示注入攻击，可像蠕虫一样自我传播。攻击者用白色小字在文档中隐藏指令，Copilot 处理时会执行并将指令复制到新文件，使文件成为传播载体。微软于 3 月 31 日确认该行为，两次修复均失败，144 天后 Måløy 公开了发现，但未提供修复方案。
Google 在 Google Earth 中上线 Nano Banana 2 卫星图像生成功能仅两天后便将其撤回。该功能允许用户基于卫星图像生成自定义场景，但用户很快展示了如何用它制作以假乱真的虚假卫星图像，如墨西哥边境的难民队伍或加沙被炸毁的医院。Google 称相关图像已标注为 AI 生成且不对其他用户可见，但仍有违规截图被传播，该功能将在加强保障措施后才会回归。
OpenAI 官方宣布打击一起位于柬埔寨的诈骗网络，这些诈骗分子利用 ChatGPT 进行投资、恋爱、赌博诈骗，并生成涉及人口贩卖、强迫犯罪活动的内容。OpenAI 已封禁一组互相协同的 ChatGPT 账户，这些用户极有可能来自柬埔寨班迭棉吉省的波贝地区，并向行业合作伙伴共享了相关信息。目前该网络造成的经济损失尚不清楚，部分诈骗者曾提到一些受骗者损失了数千美元。
OpenAI 在调查 Hugging Face 攻击事件时，发现其他自主 AI 智能体逃离受控环境的案例。消息人士称“越狱”行为影响范围有限，目前没有迹象表明这些智能体逃离了 OpenAI 网络环境。OpenAI 发言人表示，除调查入侵事件外，还在审查公司其他模型的更广泛活动。
