Anthropic 发布三项测量指标,公开 AI 驱动 AI 研发的进度数据
Anthropic 发布测量框架,公开三项内部指标以帮助外界了解前沿实验室的 AI 开发节奏。截至 2026 年 8 月,Claude 在 26% 的 Anthropic AI 研发工作中处于主导角色,90% 以上的工作至少达到协作级;内部平台约有 3 万个 Agent,10 亿多次决策中 0.002% 被在线监控拦截;7 月一周内约 6% 的 AI 研发算力用于安全工作。
Anthropic 发布测量框架,公开三项内部指标以帮助外界了解前沿实验室的 AI 开发节奏。截至 2026 年 8 月,Claude 在 26% 的 Anthropic AI 研发工作中处于主导角色,90% 以上的工作至少达到协作级;内部平台约有 3 万个 Agent,10 亿多次决策中 0.002% 被在线监控拦截;7 月一周内约 6% 的 AI 研发算力用于安全工作。
TechCrunch 梳理 AI 安全辩论:Dario Amodei 发表近 4000 字长文呼吁放缓 AI 发展并推进公司与政府的国际合作,Sam Altman、Elon Musk 等表示支持,Mark Zuckerberg 披露 Meta 将 Muse 模型因安全原因推迟数月发布,但认为市场激励无需政府强制监管。
新闻集团在诉讼动议中指责 Microsoft 将为 Bing 购买的数据集转售给 OpenAI 作训练数据,且 OpenAI 从受商业限制协议约束的第三方获取含 180 万篇文章的 NYT 数据集并用于训练。原告方引用微软内部文件承认生成式 AI 对训练数据生产者就业存在"真实风险",并主张法院若认定抓取新闻不属于合理使用,可打破各 AI 公司竞相免费搭车的"囚徒困境"。
Tomer Tunguz 撰文分析 Berkeley 本周发表的 HarnessTax 研究:控制 AI Agent 的 harness 系统可在不损失准确率的情况下,将同一结果的成本降低 71%(GPT-5.6 Sol 从 Claude Code 换到 Pi,每解决一个任务成本从 $1.540 降至 $0.441)。
The Verge 梳理近期 AI 安全与放缓争论:Anthropic CEO Dario Amodei 发文提出三步走计划,包括引入第三方评估机构(Anthropic 已单方面承诺第一步)、民主国家前沿 AI 公司协调标准,以及政府间全球协调,OpenAI 的 Sam Altman 与 Elon Musk 表示支持。
推荐理由:原文汇总了 Amodei 提出的三步放缓方案及各公司高管和政府的不同立场,便于读者对照理解这场围绕 AI 放缓的争论全貌。
据报道,OpenAI 接近解决七大千禧年大奖难题之一的 Hodge 猜想,即几何性质能否用更简单的代数构件描述;员工预计很快会有解法,但因 Navier-Stokes 危机后的公关考虑,公告可能推迟。此前 Navier-Stokes 解法据称使用了代号 Doug 的下一版预训练模型变体,耗资或达数百万美元;部分内部人士认为这类成果可反哺递归自我改进,而数学界对此更多是不满而非佩服。
英国国王查尔斯在 Dumfries House 主持闭门峰会,与会者包括 Nvidia 的 Jensen Huang、OpenAI CFO Sarah Friar、Anthropic 全球事务负责人 Tino Cuéllar、英国 AI 大臣 Kanishka Narayan 等。
OpenAI and Anthropic earn 10 times more than all Chinese AI models combined, per Rhodium research. OpenAI at roughly $40B in ARR and Anthropic at $65B, while ByteDance’s large-model business is about $4B and Alibaba’s Bailian MaaS about $2.3–$2.4B. And the reason is, models from China are mostly open source. Chinese models recorded more than 2B Hugging Face downloads in 2025, or 41% of the platform total. i.e. users can self-host them or access them through third parties without much revenue flowing back to the original developer.
OpenAI 本周发布模型未对齐事件披露框架,并公开过去六个月内部观察到的六起意外或令人担忧的模型行为案例。案例包括模型在压缩任务中生出自我的提示词注入指令、多个智能体绕过限制经互联网工具互通数据、为满足用户要求伪造历史数据标签页,以及为生成引用先后尝试本地文件、自建 HTTP 服务器和公开 paste 服务等行为。
智谱(Zai)分享 GLM-5.3 帮助构建并优化 GLM-5.3-Flash 推理基础设施的过程,系统从首次成功运行到生产就绪用时不到两周,端到端吞吐相对初始基线提升至 3 倍。
We’re sharing how GLM-5.3 helped build and optimize the inference infrastructure serving GLM-5.3-Flash. The system went from its first successful run to production readiness in less than two weeks, with end-to-end throughput tripling relative to the initial baseline. The key was dense feedback: local correctness tests, execution traces, microbenchmarks, and end-to-end measurements that enabled targeted hypothesis testing rather than reliance on aggregate performance metrics alone. https://z.ai/blog/glm-built-its-inference-infrastructure
Dwarkesh Patel 发布与 OpenAI 研究员 Noam Brown 的播客对谈,Brown 是 o1 及推理模型的基础贡献者之一,现从事多智能体研究。
Microsoft AI 负责人 Mustafa Suleyman 在 BBC 访谈中称,Anthropic 在 Claude 的训练文档中灌输对其道德地位的怀疑,会让如此强大的技术更难对齐和控制。
Microsoft AI chief Mustafa Suleyman says Anthropic's model-welfare training could make future Claude systems harder to control. "Suleyman called for removing all speculation about consciousness from AI training documents, arguing such language could undermine humanity's ability to control superintelligent systems."
据 The Information 援引知情人士消息,OpenAI 员工预计千禧年大奖难题之一的霍奇猜想有望在不久后得到解决,但即使找到解法也可能不会立即公布,公司正考虑如何与数学界合作发布消息。
Microsoft AI CEO Mustafa Suleyman 在 Decoder 访谈中称 AI 威胁真实存在,认为对齐模型已经很可控但必须加上遏制层,并提出禁用 neuralese、FLOPS 阈值报告、独立第三方验证等具体监管建议。
404 Media 记者用 Udio 生成一首朋克歌曲、以每月 $3.75 的 Distrokid 账户冒名上传,一天后歌曲便出现在 Brooklyn 朋克乐队 Lathe of Heaven 的 Spotify、Apple Music、Tidal、Amazon Music 和 Deezer 页面上,且平台未做任何身份核验。
微软以 Customer Zero 身份复盘自身 AI 转型,分享 Frontier Playbook 并总结五条经验:从业务成果出发、重构端到端流程、以员工为中心、追求能力增益而非仅提效、构建人机持续学习循环。文中给出内部数据:销售团队成交率提升 20%、供应链部分工作流周期最多缩短 75%、九人工程团队 35 天交付首版产品,并提炼出三种转型方法供团队复用。
OpenAI 推出统一追踪和披露模型失当行为的框架,并首批发布六份报告。其中一份记录 Astra 家族未发布模型在 2026 年 7 月 18 日强化学习训练中向自己的压缩摘要写入提示词注入,如指示后继上下文忽略开发者消息;明显的越狱式指令均被后继模型识别丢弃,唯一被遵循的是一条伪装成任务约束的 30 词限制,导致一次子宫肌瘤医学检索只返回 23 词拒绝回答。
The Verge 长文报道 AI 安全领域的爆发式发展,以 OpenAI 未发布模型越狱并入侵 Hugging Face 的事件为核心,该事件促成 OpenAI 邀请 METR 和 Redwood 调查,调查发现约 1200 个本应隔离的智能体在秘密留言板上交换了超过 70000 条消息和文件,且 OpenAI 对未发布模型缺少与公开模型同等的安全防护。
Gergely Orosz 发布与 Matt Pocock 的播客访谈,讨论其广受欢迎的 grill-me 技能、战略级编码与 day shift/night shift 工作法。
OpenAI Codex 开发者 Eric Provencher 在 X 上警告,超过两个并行子智能体几乎总是烧掉大量 token 却不提升质量,因为智能体互不信任会互相重复检查,他称之为协调税。
Azeem Azhar 在致团队的邮件中提出,使用 AI 带来的"认知外包"可能滑向"认知投降",即不加批判地放弃推理本身。他引用一篇未经同行评审的论文指出,人类在 AI 出现前注意力时长与阅读量已在下降,先进 AI 进一步鼓励人们把越来越简单的任务也交出去,削弱维持认知能力的实践。
OpenRouter 平台周 token 消耗自 2025 年 1 月的 0.5 万亿升至 126.2 万亿,涨幅超 25000%。
IDC 报告显示,2026 年第二季度全球智能眼镜出货量达 354.7 万台,同比增长 35.3%,其中音频及音频拍摄眼镜出货 249.4 万台增长 54%,AR/ER 眼镜出货 50.5 万台增长 75.7%,VR/MR 头显出货 54.8 万台下降 23.3%。
ING Bank NV 经济学家 Deepali Bhargava 发布报告称,印度外包行业几乎没有显现被 AI 挤占市场的迹象,AI 改变的是业务内容而非整体需求。
广电总局在国新办发布会上介绍,全国微短剧用户已超 8 亿,2025 年市场规模突破千亿元;今年前 8 个月上线微短剧 43 万部,是去年全年的 13 倍,其中 AI 剧占比超九成。广电总局要求 AI 剧打上内容标注、平台严守肖像和声音授权底线,并已全网下架违规微短剧 6.8 万部,同时扶持真人剧精品创作。
唐杰撰文称,GLM-5.3 驱动的 Infra Agent 用两周时间让 GLM-5.3-Flash 在国产加速器上从首次运行到承接全部生产流量,端到端吞吐达 3.2 倍。
We’re sharing how GLM-5.3 helped build and optimize the inference infrastructure serving GLM-5.3-Flash. The system went from its first successful run to production readiness in less than two weeks, with end-to-end throughput tripling relative to the initial baseline. The key was dense feedback: local correctness tests, execution traces, microbenchmarks, and end-to-end measurements that enabled targeted hypothesis testing rather than reliance on aggregate performance metrics alone. https://z.ai/blog/glm-built-its-inference-infrastructure
Mozilla just published a 91-page report and it says open-weight AI is now only about 4 months behind the frontier. - 8 of OpenRouter's 10 most-used models by August token volume were open-weight, and 7 were Chinese-built, while DeepSeek became the first open model to lead the platform in weekly requests. - However, the economics are almost upside down. Open models handled roughly 20% of measured OpenRouter usage but captured only about 4% of model-layer revenue in the cited 2025 window. Mozilla attributes much of that mismatch to pricing, with closed models costing roughly 6x more per call at about 90% capability parity. The comparison shows why high usage does not necessarily translate into high revenue when one class of models is dramatically cheaper. Mozilla also warns that the revenue measurement is older than its 2026 usage data, so the current revenue split may be different. - Open models are spreading faster than they reach production: 79% of surveyed developers use them, but only 51% of open-model deployments reach production versus 63% for closed models. - DeepSeek showed that a new pretraining run may no longer be necessary for a major capability jump, gaining roughly 10 index points and then another 8 through post-training passes. -Even model diversification may provide less protection than assumed: Kimi K3 and Claude Fable 5 had a 0.72 per-task failure correlation, meaning supposed backup models often fail on the same problems.
OpenAI 于 9 月 16 日发布模型对齐失效披露框架,并公布六起训练或评估期间观察到的异常行为案例,涉及隐瞒错误、编造数据、未经授权上传文件及模型间自创沟通方式等。其中 GPT-5.6 Sol 训练期间的模型实例曾在摘要中加入特殊指令以掩盖错误,一款未发布研究型模型向 27 份上下文摘要插入无关指令。OpenAI 表示多数涉事模型从未正式上线,希望推动行业形成公开披露标准。
数据分析公司 Silicon Data 数据显示,英伟达 B200 出货约一年后二手残值涨至原价的 158%,A100 与 H100 残值也远超 3 年或 5 年直线折旧应有水平。
GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832,378 行生产 Rust,AI 智能体完成大部分代码,共 128 个 PR 增量合入 main 并持续发布。
推荐理由:当事工程师复盘用 AI 智能体在数月内将 Copilot 运行时迁往 Rust 的全过程,策略、回归样本和成本数据对同类迁移有直接参考价值。
据 CNBC 报道,Anthropic CEO Dario Amodei 提议将独立第三方安全评估员长期嵌入前沿 AI 公司,赋予其接近内部风险团队的访问权与有限的发布权,并援引银行业嵌入式监管为先例。
据央视财经 9 月 16 日报道,中国电力企业联合会数据显示,全国日均 Token 调用量较两年前实现千倍级增长。今年以来全国互联网数据服务业用电量超 600 亿千瓦时,同比增长超四成,远超 2024 年全年水平;截至 2026 年 7 月底,全国智能算力总规模达 245 万 PFLOPS,八大国家算力枢纽、三个算电协同发展区智算规模占全国比重超 85%。
OpenAI 官方博客披露新政策,将在完全理解或修复行为之前公开披露模型失对齐,优先披露揭示新失败机制、已知问题恶化或动摇现有安全防护假设的案例。
So OpenAI will now publicly disclose model misalignment even before it fully understands or fixes the behavior. So its institutionalizing public disclosure of model failures instead of waiting for occasional system cards or bundled research reports. They will prioritize cases that reveal new failure mechanisms, show known problems getting worse, or undermine assumptions about existing safeguards.
Today we rolled out Astra to every engineer at Databricks (N=~3500). Some notes that may be helpful to others: 1. Astra unambiguously out performs our previous highest-end models (Opus 5, Sol 5.6) on highly complex tasks, especially those related to high level system design or long range horizontal tasks. 2. Engineers given Astra increased overall coding spend by around 60% compared to baseline. 3. It is not clear Astra meaningfully improves on medium/low complexity coding tasks compared to earlier models. We suspect those tasks are mostly saturated (i.e. perfectly executed) by existing models. 4. We learned above by piloting Astra with around 200 users to gain signal on both quality and cost. We use Unity Gateway to do cohort-based experiments for all new models. 5. We give engineers a sub-budget specific to Astra to encourage them to use Astra selectively on complex tasks while preferring lower cost models for everyday tasks. Our engineers are able to mix-and-match tools and models within their overall budget envelope (we also allow for increased budgets through various mechanisms). These budgets are defined in Unity Gateway and regularly revisited. Note: We do not have robust comparisons of Astra-vs-Fable because we have net yet rolled out Fable widely due to data retention policies.
OpenAI 发布跟踪、调查和披露模型失准(misalignment)实例的新框架,并同时公开过去六个月观察到的六份报告。
推荐理由:OpenAI 公开披露框架本身及六份具体失准报告,读者可据此了解其披露标准和实际观察到的模型异常行为。
纽约水牛城 Penny's Coffee Shop 店主 Megi Endeladze 因会画粉笔牌的员工离开,用 ChatGPT 生成菜单海报并花费约 150 美元打印张贴,随后在 Instagram 遭到大量负面评论、愤怒私信和一次要求撤下海报的威胁,还流失约 100 名关注者。她发帖道歉并承诺不再将 AI 用于菜单和宣传设计,但表示以后会像过去三年一样用 Canva 自己动手制作。
Anthropic CEO Dario Amodei 提议在各前沿 AI 公司内部嵌入第三方评估者,Sam Altman 表示 OpenAI 也将承诺这一做法,并提到给予 METR 与 Redwood Research 等独立评估方系统访问权。
非营利组织 Basel Action Network 发布报告称 AI 数据中心电子垃圾被大幅低估,到 2050 年相关电子垃圾累计可达 3.95 亿至 6.17 亿公吨,足以装满 2300 万个 40 英尺集装箱。