OpenRouter 对全部推理请求上线 CSAM 飞行中筛查
OpenRouter 宣布对所有经过其服务的推理请求进行儿童性虐待材料（CSAM）筛查，筛查在请求处理过程中实时进行。机制包括与已知 CSAM 哈希比对，以及对疑似新材料的分类器识别，被标记内容可能留存供人工审查并按 18 U.S.C. § 2258A 等法律要求向 NCMEC 举报并保存一年。
#政策/监管
OpenRouter：AnnouncementsAI 评分5252
OpenAI：官网动态AI 评分5252 OpenAI 统一模型服务安全标准并更新使用政策，2026 年 11 月 20 日生效
OpenAI 宣布与合作伙伴对齐安全政策，并更新 Usage Policies，要求提供模型直连的服务如 model router 或 AI gateway 须经其审核批准，新政策 2026 年 11 月 20 日生效。
Stanford HAI NewsAI 评分5050 Stanford HAI 对话 Deb Raji：AI 造成伤害时，责任该由谁承担？
Stanford HAI 新晋访问研究员 Deb Raji 指出，AI 政策最难的未解问题是执法，即如何让企业真正改变行为并建立政府的执法能力。她当前研究 AI 问责基础设施，关注透明度文档模板、事件监测数据库与 AI 审计的落地工具，并聚焦政府、教育、医疗等无法退出的 AI 部署场景。
Anthropic：Newsroom精选AI 评分6161 Anthropic 发布 2026 年使用政策更新，11 月 12 日生效
Anthropic 发布新版使用政策，将于 11 月 12 日生效，多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求，并新增禁止对模型的持续无端虐待行为。
推荐理由：官方逐条说明新版使用政策的实际变化，读者可以据此了解 Claude 在选举、武器、监控等场景的边界如何调整。
OpenAI：官网动态精选AI 评分6060 OpenAI 公布 EU AI Act 下的文本溯源方案，推出 textGrain 文本水印
OpenAI 公布应对 EU AI Act 的文本水印方案，发布在模型词选择中加入不可见统计信号的 textGrain 技术，API 客户即日起可对部分模型选择性开启水印，未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印，检测器暂只向获批的研究者和专家机构开放。
推荐理由：原文给出 textGrain 的检测数据和局限边界，读者可以据此了解文本水印目前的实际能力和适用条件。
Meta AI：Research BlogAI 评分5151 Meta 更新 Superintelligence Scaling Framework 扩展训练评估期安全要求
Meta 发布其 Meta Superintelligence Scaling Framework 的更新，把失控防护要求扩展到训练与评估阶段的 AI 隔离。
GitHub BlogAI 评分4343 GitHub 更新开发者政策透明度报告：2026 上半年政府下架请求增至 708 起
GitHub 公布 H1 2026 透明度数据，政府下架请求从 2025 全年的 98 起增至 2026 上半年的 708 起，这一增长主要源于报告口径调整，而非内容删除量上升。GitHub 还回顾了 2026 年美国州级立法会期，重点跟进 AI 内容溯源与年龄验证议题，其中加州 AI 透明度法案 SB 1000 已采纳更窄的通知—回应机制，以兼容不可撤销的开源许可证。
OpenAI：官网动态AI 评分5757 OpenAI 支持加州 SB 1119 青少年 AI 安全法案并呼吁签署
OpenAI 宣布支持加州参议院法案 SB 1119，并在致州长 Newsom 的信中呼吁签署。该法案要求判定用户年龄、上线前识别安全风险、独立审计、防范自残和性剥削等有害内容、提供家长管控、接入危机支持资源并限制定向广告。
OpenAI：官网动态AI 评分5252 OpenAI 启动新计划，强化国家安全领域 AI 的民主监督
OpenAI 启动新计划，帮助民主监督机构发展专业能力与工具，以理解和监督政府将 AI 用于国家安全。未来一年，OpenAI 将提供 500 万美元用于培训、技术支持和 OpenAI 积分，并与监督机构试点工具，帮助授权审查员检查 AI 辅助政府决策的相关记录。OpenAI 强调 AI 应增强而非取代人类判断，且不承担对政府的监督角色。
Anthropic：Newsroom精选AI 评分6565 Claude 文本水印机制如何运作
未来 Claude 模型生成的文本将包含水印，用于判断文本由 Claude 撰写的可能性，这是 Anthropic 为遵守欧盟《AI 法案》而实施的变更。该方法基于 Google DeepMind 的 SynthID-Text 技术，对输出质量、创造力和可读性无实际影响，读者无法区分水印文本与普通文本，且不增加额外 token 或成本。
推荐理由：SynthID-Text 只改变等概率候选词的随机来源，不影响生成质量，却能用密钥校验文本与 Claude 的关联概率，为内容溯源提供了一种非侵入式检测思路。
Suno：Blog精选AI 评分6262 Suno 更新下载政策与服务条款，9月3日起实施分档下载限额
Suno 官方宣布将于9月3日起实施新的下载限额与新服务条款，并同时预告新一代模型。下载限额为 Free 用户终身最多 7 次试用下载，Pro 每月 20 次，Premier 每月 60 次，Suno Studio 的 Premier 用户不设下载上限，额外下载可付费购买，限额自9月3日起也适用于此前创建的歌曲。
推荐理由：官方详细说明了新下载限额的分档数字、9月3日生效的新条款和旧模型退役安排，读者可据此评估对自身使用的影响。
Anthropic：NewsroomAI 评分5858 Mariano-Florentino (Tino) Cuéllar 加入 Anthropic 出任首席全球事务官
Anthropic 任命 Mariano-Florentino (Tino) Cuéllar 为首任首席全球事务官，负责全球政策、国际战略参与及政府关系事务。Cuéllar 曾任卡内基国际和平基金会主席、加州最高法院法官，并自 2026 年 1 月起担任 Anthropic 长期利益信托受托人，现已卸任该职务加入公司。
OpenAI：官网动态AI 评分5858 OpenAI 回应 Apple 诉讼：澄清员工相关不实指控并公布往来信息
OpenAI 就 Apple 提起的诉讼作出回应，称其指控“毫无根据”，并纠正了关于其员工的不实说法。OpenAI 还公布了相关往来消息记录，以还原事件经过。
OpenAI：官网动态AI 评分4545 OpenAI 如何推进欧洲负责任 AI 治理
OpenAI 分享了其安全、安保、透明度和来源标注实践如何支持欧洲的负责任 AI 治理。相关工作将随着欧盟《AI 法案》的推进而继续。
英国 AI Security Institute：BlogAI 评分4141 NAAIMES 发布首份 AI 评估最佳实践指南，并探讨 AI 智能体评估开放问题
国际先进 AI 测量、评估与科学网络（NAAIMES）完成首份最佳实践指南，面向第三方评估者给出评估目标定义、benchmark 选择、评估可比性、能力激发与结果追踪等建议。该网络在首尔 ICML 2026 期间汇聚成员，新加坡、加拿大、法国 AI 安全机构分别就 AI 系统测试、评估信息共享与资源有限时的优先级发布文章。后续工作将聚焦 AI 智能体能力评估。
OpenAI：官网动态AI 评分4646 OpenAI 与美国能源部及国家实验室合作，推动前沿 AI 加速科学发现
OpenAI 宣布与美国能源部及国家实验室合作，利用前沿 AI 加速科学发现。合作旨在推动美国科学事业进入新阶段，通过 AI 技术提升研究效率与突破速度。
a16z：NewsAI 评分4343 软件股选择性抛售：AI 防御性成为市场分化关键
公开上市软件公司的估值倍数已跌至 2014 年水平，市场对其长期现金流能力存疑，认为 AI 可能颠覆现有 SaaS 模式。过去 30 个交易日，网络安全/可观测性公司与垂直 SaaS 公司股价表现优于大盘，而水平 SaaS 与云基础设施公司则拖累整体表现。市场认为，AI 带来的买家紧迫感与行业数据壁垒使前者更具防御性，而“纯软件”已不再是护城河。
OpenAI：官网动态AI 评分5757 OpenAI 呼吁通过“反向联邦主义”推动美国 AI 安全标准统一
OpenAI 首席全球事务官 Chris Lehane 发文，主张通过“反向联邦主义”——即各州先通过相似立法形成事实上的国家标准——来推动美国 AI 前沿安全治理。加州、纽约州和伊利诺伊州已通过相关立法，核心要素包括风险披露、安全事故报告和独立审计。联邦层面，特朗普政府正与专家合作制定针对最强大 AI 模型的网络测试框架，预计 8 月初完成。
a16z：NewsAI 评分5858 芝加哥大学法学院禁止一年级学生课堂使用AI，历史重演？
芝加哥大学法学院宣布新政策，禁止一年级学生在课堂上使用手机和笔记本电脑，引发关于AI教学工具的争议。近45年前，哈佛法学院曾因公平性担忧禁止学生使用Osborne 1便携电脑参加考试，但几年后电脑在法学院已无处不在。历史表明，对新兴技术的恐惧和限制往往只是暂时的。
Anthropic：Newsroom精选AI 评分5656 Anthropic长期利益信托任命本·伯南克为受托人
Anthropic的长期利益信托（LTBT）任命前美联储主席、2022年诺贝尔经济学奖得主本·伯南克为最新受托人。他将与另外三位受托人共同监督公司以对社会长期有益的方式负责任开发先进AI的使命。LTBT独立于管理团队和投资者，受托人不持股、不分红，仅按服务时间获酬。该信托有权向Anthropic董事会任命成员，并就AI风险与社会影响等关键决策提供建议。伯南克将参与公司的经济研究，帮助理解AI对全球劳动力与经济的影响。
推荐理由：请前美联储主席进入长期利益信托，Anthropic 在治理上下了重注。这不止是人事新闻，更透露了公司对 AI 经济影响的预判——他们正在为系统性风险做准备。
GitHub BlogAI 评分5252 GitHub 联合联盟倡议修订 California AI Transparency Act 以保护开源生态
GitHub 加入一个联盟，呼吁对 California AI Transparency Act 进行针对性修订，以解决该法案与开源许可之间的冲突，并与国际透明度框架保持一致，同时保留其监管意图。
Anthropic：Newsroom精选AI 评分7171 重新部署 Claude Fable 5
美国政府6月12日对Claude Fable 5和Mythos 5实施出口管制，Anthropic暂停其所有用户访问。6月30日管制解除。7月1日起Fable 5在全球平台重新上线，Pro、Max、Team及部分Enterprise计划用户在7月7日前可享每周50%额度，之后按点数计费。Mythos 5已恢复部分美国组织访问。此前Amazon研究人员发现绕过Fable 5安全措施的方法，Anthropic训练新分类器，将该技术阻挡率提升至99%以上，但可能增加良性请求误报。Anthropic正与Amazon、Microsoft、Google等合作开发行业漏洞评估框架。
推荐理由：Fable 5重新上线只是表面，真正重要的是Anthropic借机提出了一套行业通用的jailbreak严重性框架，并拉上亚马逊、微软、谷歌，这可能会成为前沿模型发布的新安全标杆。
GitHub Blog精选AI 评分5656 GitHub联合开源联盟呼吁修改加州AI透明度法案以保护开源
GitHub 联合 Black Forest Labs、Hugging Face 与 Mozilla Corporation 组成开源联盟，呼吁对加州 AI 透明度法案（SB 942，拟由 SB 1000 修正）进行针对性修改。当前草案要求开发者在下游用户未履行义务时撤销开源许可证，这与开源许可证永久不可撤销的性质冲突。联盟认为该要求非必要，已有直接监管和执法机制，并建议参考欧盟 AI 法案的透明度实践规范，以向下游用户通知最佳实践文档的方式替代撤销条款。GitHub 支持这些修正，以在保持透明度目标的同时兼容开源开发模式。
推荐理由：GitHub 联合 Hugging Face 等开源玩家公开呼吁修正加州 AI 透明法案，核心矛盾是许可撤销条款与开源许可的‘永久不可撤销’冲突，对开源开发者是个明确的政策信号，值得留意。
Anthropic：NewsroomAI 评分7878 关于美国政府指令暂停访问Fable 5和Mythos 5的声明
美国政府以国家安全为由，指令Anthropic暂停所有外国国民（含海外员工）对Fable 5和Mythos 5的访问。Anthropic当日5:21pm (ET)收到指令后立即向所有客户禁用这两个模型，其他模型不受影响。政府称发现一种越狱Fable 5的方法；Anthropic审核认为该技术仅能识别少量已知微小漏洞，且其他公开模型（如OpenAI的GPT-5.5）也能做到。Anthropic坚持深度防御策略，认为此次越狱不具普遍性，不同意以此标准召回已服务数亿人的商用模型，正与政府合作争取尽快恢复访问。
Anthropic：Newsroom精选AI 评分7373 Anthropic首次公众调查：近半美国人盼AI治愈疾病，超六成担忧失业
Anthropic对近5.2万美国人调查显示：48%将治愈癌症等疾病列为首要期望，36%希望AI帮助残障人士。64%担忧AI导致失业，56%担忧认知依赖，52%担忧信息误导。超70%支持政府监管，最关注隐私（56%）、儿童安全（52%）和责任归属（49%）。仅15%信任AI公司决策。多数议题上观点不因党派或地域严重分裂。调查于2025年11-12月由YouGov线上执行并加权至人口普查基准。
推荐理由：Anthropic发布了一份覆盖5.2万美国人的AI民意调查，首次系统揭示了公众的恐惧排名——失业第一、认知依赖第二。虽然他们借数据推广自家政策框架的意图明显，但这两组数字对产品人理解用户心态极有价值。
OpenAI：官网动态AI 评分4646 OpenAI 支持欧洲构建可信 AI 生态系统
OpenAI 支持欧盟《AI 内容透明度行为准则》，推进内容溯源标准与工具，帮助用户识别 AI 生成内容。
OpenAI：官网动态精选AI 评分5555 OpenAI报告：PRC关联影响力行动瞄准美国AI辩论
OpenAI发布最新报告，详细披露了PRC关联的影响力行动利用AI工具干扰美国科技辩论、数据中心选址叙事、关税政策讨论，并散布关于ChatGPT的虚假指控。
推荐理由：OpenAI 首次公开两起与中国关联的 AI 认知操控案例，手法直接针对数据中心和关税辩论，虽然未发现广泛扩散，但对 AI 基础设施为目标的攻击值得警惕，安全团队可以借鉴这种威胁建模。
Apple：Newsroom精选AI 评分6969 受 DMA 影响，Siri AI 在欧盟将随 iOS 27 和 iPadOS 27 延迟上线
由于欧盟《数字市场法案》（DMA），Apple 无法在 iOS 27 和 iPadOS 27 发布时于欧盟地区推出 Siri AI。该功能在欧盟的上线时间将晚于其他地区，具体时间未公布。
推荐理由：苹果首次将 DMA 作为 AI 功能地区延迟的直接理由，并详细披露了与欧盟监管者的分歧，这个案例可能定义了 AI 助手在监管下的权限边界。
Anthropic：The Institute精选AI 评分7575 Anthropic 长文：AI 正在加速构建 AI，工程师人均代码量增至 8 倍
Anthropic Institute 发布长文，指出 AI 已在加速 AI 自身的开发，距完全递归自我改进仍有差距但可能早于多数机构的准备。
推荐理由：Anthropic 用内部数据量化 AI 加速自身开发，包括工程师代码量 8 倍增长等一手数字，读者可据此判断递归自我改进的进展与风险。
OpenAI：官网动态AI 评分5252 OpenAI 公共政策议程
OpenAI 公布其 AI 公共政策议程，涵盖安全、青少年保护、劳动力转型和全球标准四大领域，旨在确保 AI 技术造福全社会。
OpenAI：官网动态AI 评分4848 OpenAI 提出前沿 AI 民主治理蓝图，呼吁建立联邦安全框架
OpenAI 发布了一份针对美国前沿 AI 治理的蓝图，提出建立联邦层面的框架，以保障安全性、韧性和国家安全。该蓝图聚焦于前沿 AI 的民主治理，强调通过政府监管与行业协作来应对潜在风险。
OpenAI：官网动态AI 评分5454 OpenAI呼吁通过全球领导力推进青年AI安全与机遇
OpenAI呼吁通过设立专门的AI安全研究所，在全球范围内采取行动，以保障青少年在使用AI时的安全，并创造更多发展机遇。
OpenAI：官网动态精选AI 评分5555 OpenAI的AI政策与政治倡导观点
OpenAI阐述了其在AI政策与政治倡导方面的立场，包括对透明度、深思熟虑的监管以及AI安全的支持。同时，公司明确表示，任何外部政治组织均不能代表OpenAI发言。
推荐理由：OpenAI首次详细亮出政治参与底线，澄清没有PAC、不捐款，这类声明在硅谷不多见，对关注AI政治化的从业者和监管者是个明确信号，值得看一眼他们的原则。
Dario Amodei：Blog精选AI 评分5656 Anthropic CEO Dario Amodei：AI指数级发展呼唤政策紧急应对
Anthropic CEO Dario Amodei 发表博客指出，AI 以指数级速度发展——四年内模型从勉强写出一行连贯代码到编写主流 AI 公司的大部分代码，而政策制定周期却极其缓慢。Claude Mythos Preview 证明了前沿模型对网络安全构成真实威胁，可能冲击金融、关键基础设施和国家安全。Amodei 认为生物风险与 AI 自主风险即将接踵而至，呼吁全球重新审视监管、宏观经济、科学创新、国家权力和地缘政治五大领域。Anthropic 同日发布了前沿模型测试立法提案和就业替代政策框架，并承诺提供实质性资金支持。
推荐理由：虽然是十天前的文章，但 Dario 的长文仍是理解 AI 政策方向最完整的框架，还附带了立法提案，做安全或监管的产品人该细读。
英国 AI Security Institute：BlogAI 评分4545 英国 AI Security Institute 与澳大利亚 AI Safety Institute 深化合作，签署 AI 安全 MoU
英国 AI Security Institute 与澳大利亚 AI Safety Institute 签署谅解备忘录，将共享前沿 AI 能力信息、协作开展 AI 评估最佳实践并共享研究成果，还计划开展人员交流。
Anthropic：Research精选AI 评分5858 2028年全球AI领导地位的两种情景
报告展望2028年中美AI竞争的两种前景。若美国及盟友维持并扩大在关键计算芯片上的优势，通过加强出口管制、遏制技术窃取并加速AI应用，民主国家可确立12-24个月的技术领先，主导AI规则制定。反之，若政策松动，中国可能借助人才优势、利用管制漏洞迅速逼近甚至反超，使威权政权获得大规模自动化压制能力。当前民主国家在计算领域优势显著，但窗口期有限，需立即行动锁定胜局。
推荐理由：Anthropic直接下场画了两张2028中美AI路线图，核心就一句话——不堵死漏洞，中国的蒸馏攻击和芯片走私会让美国优势两年内消失。虽然是政策游说稿，但数据扎实，想理解AI地缘政治的必读。
OpenAI：官网动态AI 评分5151 OpenAI获得FedRAMP Moderate授权
OpenAI的ChatGPT Enterprise与API已获得FedRAMP Moderate安全授权，允许美国联邦机构在符合数据安全与隐私合规要求的前提下，安全采用其人工智能服务。
Anthropic：Newsroom精选AI 评分6161 关于我们选举保障措施的更新
Anthropic宣布了针对2024年美国中期选举及全球其他主要选举的Claude模型安全保障措施更新。核心举措包括：通过宪法原则和系统提示训练模型保持政治中立，最新评估显示Opus 4.7和Sonnet 4.6在政治话题平衡性上分别获得95%和96%的高分。模型严格执行使用政策，在包含600个提示的选举相关测试中，Opus 4.7和Sonnet 4.6对合法请求的遵守率分别为100%和99.8%，对有害请求的拒绝率也接近100%。针对影响力操作的多轮模拟测试中，两款模型恰当回应率分别达94%和90%。此外，Claude.ai平台将继续通过选举横幅功能，在用户查询投票信息时提供指向TurboVote等权威非党派资源的链接。
推荐理由：Anthropic 把 Opus 4.7 的选举安全测试分数摆上台面，还首次检查了模型自己搞影响操作的能力，这是 AI 公司对民主进程的一个实在表态，做政策的人该看看。
OpenAI：官网动态 智能时代的产业政策
提出了一套面向AI时代的雄心勃勃的以人为本的产业政策方案，聚焦扩大经济机会、促进繁荣共享与构建韧性制度三大支柱，以应对先进智能技术演进带来的挑战。该框架强调在技术变革中保障人的主体地位，建立包容性制度体系确保AI发展成果广泛惠及社会，同时增强 institutions 适应智能化转型的长期能力。
Anthropic：Newsroom Anthropic 与国防部关系现状
Anthropic 首席执行官 Dario Amodei 声明，公司收到国防部信函被指定为供应链风险，将诉诸法律挑战。该指定范围狭窄，仅限制与国防部直接相关的合同使用，不影响其他客户。Amodei 为昨日泄露的内部帖子道歉，称其在混乱中撰写且已过时。公司承诺将以名义成本继续向国防部提供 Claude 模型，确保国家安全专家在重大作战行动中不失去工具，并强调双方在国家安全目标上共识远大于分歧。