#推理

LangChain Deep Agents 用递归语言模型（RLM）解决长上下文推理中的“上下文腐烂”问题

Deep Agents 通过动态子智能体和轻量级代码解释器实现递归语言模型（RLM），让智能体以编程方式对大型输入执行 grep、map、reduce 等操作，而非将所有内容塞入单一上下文窗口。在长上下文推理基准 OOLONG 上，该方案在逐轮交互式智能体开始失效的场景中仍能保持稳定表现。

Claude Sonnet 5延续Anthropic隐藏涨价的模式

Claude Sonnet 5在Artificial Analysis评测中以53分（峰值）排名第五，与GPT-5.5 (high)并列。虽输入/输出token价格维持$3/$15不变，但每任务平均成本达$2.29，高于Opus 4.8的$1.97。原因：max设置下输出token消耗比Sonnet 4.6多40%，在agent任务中运行约3倍循环，成本接近翻倍。Anthropic延续了通过新tokenizer增加约30% token消耗的隐藏涨价策略。Sonnet 5在CritPt仅得17%，低于多个更强模型；但Terminal-Bench v2.1、HLE、SciCode分别提升9、10、7分。目前有促销价$2/$10至9月1日，但隐藏成本上涨使其与低价竞品竞争时处于劣势。

X.PIN@thexpin· 18:22AI 评分6363

美团发布LongCat-2.0，一个1.6万亿参数的大模型，据称完全基于5万片国产AI处理器集群完成训练和推理。美团自2023年推进国产AI基础设施，该模型成为其首个在国产集群上完成预训练与推理的前沿规模模型。更值得关注的是，美团并未推出独立聊天机器人，而是将AI嵌入现有的推荐餐厅、订酒店、点餐等服务中。这种将AI整合进已有用户、商户、支付和交易生态的做法，正成为阿里（开放Qwen品牌智能体）、蚂蚁（以Ah Bao重构支付宝）等中国互联网平台的共同方向。

OpenAI论文揭示GPT-5.6三个Pro变体，打破单一顶级策略

OpenAI论文首次列出GPT-5.6的三个Pro变体：Luna Pro、Terra Pro和Sol Pro，取代以往单一Pro模式。在基因组学基准中，Sol Pro通过率31.5%居60个测试模型之首，领先标准Sol（28.7%）和Claude Opus 4.8（16.0%）。Pro相比标准版本提升逐级递减：Luna Pro提升7.1个百分点（16.5%→23.6%），Terra Pro提升5.2（23.3%→28.5%），Sol Pro仅提升2.8（28.7%→31.5%）。Terra Pro（28.5%）几乎与标准Sol（28.7%）持平。论文未披露Pro运行的token用量，也不清楚该分层是否会在ChatGPT中实际推出。

Artificial Analysis@ArtificialAnlys· 18:00AI 评分4747

Etched 宣布走出隐身模式，基于成功的 A0 tapeout 制造出首批机架，已获得超 10 亿美元客户合同并融资 8 亿美元。早期客户测试显示其在推断吞吐量、延迟和能效上达到 SOTA。首批机架将于今夏发货。Artificial Analysis 祝贺并透露将用自研基准 AA-AgentPerf 对系统进行评测，该基准衡量每兆瓦运行功率可同时运行的 agent 数量。

NVIDIA 发布 Nemotron-Labs-TwoTower 开放权重扩散语言模型

NVIDIA 发布 Nemotron-Labs-TwoTower，基于冻结的自回归骨干 Nemotron-3-Nano-30B-A3B 的扩散语言模型。采用双塔架构：上下文塔冻结，降噪器塔训练，通过层对齐交叉注意力和状态播种协作。在 2×H100 上 BF16 评估，保留 98.7% 的 AR 基线质量，生成吞吐量提升 2.42 倍（γ=0.8，块大小 S=16）。降噪器在约 2.1T token 上训练，骨干使用 25T token 预训练。总参数约 60B，每 token 活跃参数约 3B/塔。支持扩散、模拟 AR 和 AR 三种解码模式。

英伟达刷新 DeepSeek V4 推理纪录：单 Token 成本降至 1/5，AI 吞吐量最高提升 20 倍

英伟达 6 月 30 日发布博文，宣布在 Blackwell 平台上通过全栈推理优化，使 DeepSeek V4 模型的单 Token 成本降至 1 个月前的五分之一，达到行业最低水平。优化涵盖生产运营、应用加速和基础设施访问三层，采用分离式服务、大规模专家并行、NVLink 并行通信、NVFP4 精度及多 token 预测等技术，单 GPU 的 token 吞吐量最高提升 20 倍。

美团 LongCat-2.0 正式发布：国产算力集群训练的万亿参数大模型

美团于6月30日发布新一代万亿参数大模型LongCat-2.0并开源。总参数1.6T，平均激活约48B，原生支持1M超长上下文，在五万卡国产算力集群上完成全流程训练与推理。采用LSA稀疏注意力、零计算专家、ScMoE及MOPD多专家融合（Agent/Reasoning/Interaction三组专家）架构。评测中SWE-bench Pro获59.5，SWE-bench Multilingual获77.3。预览版已通过OpenRouter和longcat.ai开放，月调用量跻身OpenRouter全球前三。

美团发布 LongCat-2.0：五万卡国产算力集群训练与推理的万亿参数开源模型

美团6月30日发布并开源万亿参数大模型 LongCat-2.0，总参数1.6T、平均激活约48B，为业界首个在五万卡国产算力集群上完成全流程训练与推理的模型，原生支持1M超长上下文。

Etched 推理加速器芯片完成流片，获超10亿美元订单和8亿美元融资

Etched 宣布推理加速器芯片完成 A0 步进流片和首批机架构建，获超10亿美元订单和8亿美元B轮融资，首批机架产品预计2026年夏天出货。该芯片基于台积电N4P制程，数学模块电压比大多数竞品低50%以上，能以超80%算力效率运行1T规模稀疏MoE模型。缓存采用片上SRAM+片外HBM组合设计，结合高带宽互联技术，兼顾低延迟与大容量。

Rohan Paul@rohanpaul_ai· 09:02AI 评分6363

中国团队发布Agents-A1，一个35B参数的agent模型，通过让模型学习更长的验证工作习惯（平均训练样本45K tokens），声称达到1T参数模型的性能。模型采用Apache-2.0许可，权重已开源至Hugging Face。训练方法：构建长动作记录数据，训练多个专家教师模型（搜索、科学、指令跟随、工具使用等），再将技能蒸馏至一个学生模型。Agents-A1在搜索、科学、编码、工具使用、指令跟随等长任务基准上表现优异。

Rohan Paul@rohanpaul_ai· 07:01AI 评分5555

Claude Sonnet 5 在 Intelligence Index 上每任务成本为 $2.29，比 Sonnet 4.6 高约 2 倍，比 Opus 4.8 高约 15%。尽管每 token 单价低于 Opus，但 Sonnet 5 为完成相同任务使用了更多 token，导致总费用更高。标准定价为 $3/百万输入 token、$15/百万输出 token；Anthropic 提供促销价 $2/$10，持续至 2026 年 8 月 31 日，之后恢复原价。目前 Sonnet 5 成本仅次于 Claude Fable 5。

Anthropic 发布 Claude Sonnet 5：中端智能体模型，基准与定价详解

Anthropic 发布 Claude Sonnet 5，定位为最具智能体能力的中端模型，即日起成为 Free 和 Pro 计划的默认模型。在 SWE-bench Pro 上得分 63.2%（前代 58.1%），OSWorld-Verified 达 81.2%（前代 78.5%），HLE（带工具）57.4%。输入/输出定价 2026 年 8 月 31 日前 $2/$10 每百万 token，之后 $3/$15。支持低/中/高/超高四档 effort 级别，低中 effort 下性价比最优。上下文窗口 1M token，采用新 tokenizer，相同文本 token 数增长约 1.0–1.35 倍。幻觉与谄媚率低于前代。开发者仅需更换模型字符串为 `claude-sonnet-5` 即可调用 API。

Rohan Paul@rohanpaul_ai· 05:31AI 评分6161

The Information 报道，OpenAI 已将某些现有模型的推理成本降低一半以上，未登录 ChatGPT 的流量仅运行在几百块 Nvidia GPU 上。可能技术手段包括量化、KV-cache 优化、批处理、投机解码和路由简单查询。若属实，这将成为核心竞争杠杆，可提升毛利率、扩大使用限制或降低 API 定价压力。背景方面，OpenAI 调整后毛利率从 2024 年的 40% 降至 2025 年的 33%，推理成本翻四倍。预计 2026 年 Q1 毛利率回升至 39%，年底目标 52%。Anthropic 毛利率约 44%，前沿实验室尚未达到成熟软件公司的经济水平。

Artificial Analysis@ArtificialAnlys· 05:28AI 评分6060

Claude Sonnet 5 以 max effort 在 Artificial Analysis Intelligence Index 上得分 53（第 5 名），比 Sonnet 4.6 提高 6 分，与 GPT-5.5 (xhigh) 持平，落后 Opus 4.7/4.8 约 2-3 分。标准定价下每任务成本 $2.29，比 Sonnet 4.6 贵约 2 倍、比 Opus 4.8 贵 15%，主要因输出 token 增加 40%、agentic 任务调用次数增加约 3 倍。定价 $3/$15 每百万 token（促销至 9 月 1 日降至 $2/$10），上下文窗口 1M tokens，新增 xhigh 力度设置。在 agentic 知识工作基准 AA-Briefcase 和 GDPval-AA 上匹配或超越 Opus 4.8，推理基准仍落后。Terminal-Bench v2.1（+9）、HLE（+10）、SciCode（+7）显著提升。

Rohan Paul@rohanpaul_ai· 03:31AI 评分7474

Anthropic 发布 Claude Sonnet 5，拥有 1M token 上下文窗口（此前泄露），编码能力显著提升：SWE-bench Pro 得分 63.2%，高于 Sonnet 4.6 的 58.1%；知识工作略超 Opus 4.8。Anthropic 称其为“最具智能体特性的 Sonnet 模型”。定价优惠至 8 月 26 日：输入 $2/1M tokens，输出 $10/1M tokens；之后涨至 $3/15。当前智能体编码得分 63.2%，与 Opus 4.8（69.2%）仍有差距，但低价策略大幅降低 agentic AI 成本。

Anthropic 推出 Claude Sonnet 5，主打低成本智能体能力

Anthropic 发布 Claude Sonnet 5，这是其中端模型的最新版本，具备制定计划、使用浏览器和终端等工具并自主运行的能力。其性能接近 Opus 4.8，但成本更低：即日起至 8 月 31 日，输入每百万 tokens $2，输出每百万 tokens $10，之后分别涨至 $3 和 $10。在智能体编程基准上得分为 63.2%（Opus 4.8 为 69.2%，Sonnet 4.6 为 58.1%），在知识工作基准上略超 Opus 4.8。安全方面，不当行为、幻觉和谄媚率低于 Sonnet 4.6，且更善于拒绝恶意请求和提示词注入攻击。

AI芯片初创公司Etched获10亿美元订单，台积电已量产其芯片

AI芯片初创公司Etched近日披露，其芯片已由台积电成功制造，并已获得10亿美元合同订单。公司正与客户测试首批“前沿推理集群”系统，声称比竞品推理更快、成本更低、能效更高。Etched成立于2022年，累计融资8亿美元，最新一轮5亿美元于去年12月完成，投后估值50亿美元。投资者包括VentureTech Alliance、Jane Street等，天使投资人包括Andrej Karpathy、Geoffrey Hinton等。

Artificial Analysis@ArtificialAnlys· 02:28AI 评分5353

GLM-5.2 在 Artificial Analysis Intelligence Index 中以 51 分成为开源权重智能最高的模型，但输出 token 达 1.41 亿（95% 推理），远超平均模型的 1.8 倍。相比之下，Claude Opus 4.8 输出 1.17 亿 token 得分 56，GPT-5.5 输出 7200 万 token 得分 55。近三分之二 token（8800 万）集中在 Humanity's Last Exam，是 GPT-5.5 的 3.2 倍，得分仅 40%（Opus 46%，GPT-5.5 44%）。AA-Omniscience 幻觉率评测中 GLM-5.2 仅得 4 分，远低于 Opus 4.8（27）、GPT-5.5（20）和 Gemini 3.5 Flash（23）。在 agentic 任务 GDPval-AA v2 上 GLM-5.2 为开源第一、整体第三，超过 GPT-5.5。其他开源模型如 DeepSeek V4 Pro 得分 44，落后 7 分。

OpenAI 将访客 ChatGPT 用户的推理成本降低逾一半

本月早些时候，OpenAI 工程师将现有 AI 模型的推理成本削减了一半以上，并应用于未注册账户的访客 ChatGPT 用户。所需 Nvidia GPU 数量降至仅几百块。同时，DeepSeek 开源了一种新方法，可将推理请求速度提高 60% 至 85%。这些节省的资源可用于扩大服务规模、优化模型或改善响应速度。

OpenAI 发布 GeneBench-Pro：计算生物学研究级基准测试

OpenAI 发布 GeneBench-Pro，用于评估 AI 智能体在计算生物学中处理模糊性和做出判断性分析的能力。该基准包含 129 个问题，覆盖统计遗传学、群体遗传学等 10 个领域 21 个子领域。每个问题提供真实混乱的数据集和实验背景，要求模型探索数据、选择分析路径并迭代实验。采用合成数据构建，已知完整因果结构。82 个问题已由外部领域专家审核确认其现实性。

Dwarkesh Patel 对谈 Grant Sanderson：AI 与数学的未来

Dwarkesh Patel 发布与 3Blue1Brown 创始人 Grant Sanderson 的播客对谈，讨论 AI 在数学领域的快速进展及其对其他领域的预示。

消息称 OpenAI 通过系统底层优化，将 AI 模型推理成本减半

OpenAI 工程师在内部透露，公司通过一系列系统底层优化，将 AI 模型的推理（运行）成本降低了 50% 以上。此次优化主要得益于提升现有服务器资源利用率，而非新增计算芯片投入，使得所需英伟达芯片更少。节省的成本可用于降低 API 定价或提高用户使用限额。

单芯片混合精度浮点算力达 896TFLOPS，中昊芯英新一代 TPU 芯片「须臾」发布

中昊芯英发布新一代全自研 TPU 芯片「须臾」，单芯片混合精度浮点算力 896 TFLOPS，为上一代「刹那」3 倍；8-bit 推理算力 1792 TOPS。单卡功耗 600W，较传统芯片降低 50%。同步推出智算底座「泰则 2.0」，搭载两路 CPU 与 8 片 TPU，混合精度算力 7.168P，整机能耗为传统 GPU 服务器 80%。平台原生支持 PyTorch、vLLM、SGLang 等框架，已完成 Qwen、DeepSeek、GLM 等数十款大模型适配，满足政务、金融等行业安全合规要求。

SiliconFlow@SiliconFlowAI· 22:23AI 评分4141

硅基流动推出“Summer Rush - GLM 5.2 Week”活动。6月29日20:30至7月6日20:30（PDT），用户在SiliconFlow上运行GLM 5.2，在X分享用例并提交表单即可参与。排名第一的玩家可获最高$1000代金券退还本周GLM 5.2花费，外加$50额外代金券、官方推广和Discord专属称号。前72小时参与可获早鸟奖，所有有效提交均有幸运抽奖机会。

X.PIN@thexpin· 18:49AI 评分7373

中国AI初创公司正在追随Anthropic的策略。月之暗面的Kimi上一轮融资估值为200亿美元，目前已以315亿美元的投前估值再次融资。消息人士称，Kimi在6月中旬披露其年化收入（ARR）超过3亿美元，得益于模型升级、开发者采用增长以及API需求。API收入目前贡献了总收入的70%以上，Kimi的商业化模式愈发类似于Anthropic早期增长。

Rohan Paul@rohanpaul_ai· 17:29AI 评分5656

Coinbase CEO Brian Armstrong透露，Coinbase正通过其LLM网关实验默认使用中国开源模型GLM 5.2和Kimi 2.7，并根据提示词难度路由执行。他表示前沿模型适合规划，但用于执行可能“过度杀伤”。该决策背后引用前Meta PM及Perplexity CEO Aravind Srinivas观点：中国在数据中心建设速度、电力、许可、人力和专业知识方面均具显著优势。

Deepseek发布DSpark推理框架，AI响应速度最高提升85%

Deepseek推出DSpark推理框架，采用推测解码技术，由小模型生成候选答案、大模型批量验证，并一次生成多个token而非单个，使每用户响应速度提升60–85%。系统基于置信度动态调整验证深度，减少无效计算。DSpark与Deepseek-V4-Pro模型（与北京大学联合开发）已在HuggingFace和GitHub以MIT许可证开源。高效推理降低对高端芯片需求，有助于中国与欧盟在芯片受限下获取更多AI性能，短期构成战略优势。

AI 老板 500 天模拟经营：多数模型亏惨，Claude Fable 5 独占鳌头

普林斯顿大学发布 CEO-Bench 基准测试，模拟创业公司 500 天经营，启动资金 100 万美元，评估 AI 模型担任 CEO 的能力。多数模型在 500 天后破产。最佳单次运行中，Claude Fable 5 期末现金达 4715 万美元，是唯一多次运行均高于初始余额的模型；Claude Opus 4.8 为 2778 万美元，GPT-5.5 为 2130 万美元。Grok 4.20 平均仅存活 28 天，DeepSeek V4 Pro 和 Gemini 3 Flash 亦全部破产。基于规则的基准模型最终余额为 1580 万美元。

寒武纪成科创板首支万亿市值股，年初至今涨超75%

寒武纪今日盘中涨幅扩大至7%，总市值突破1万亿元，成为科创板首支万亿市值个股，位居A股第9位，年初至今累计上涨超75%。一季度报告显示，公司营收28.85亿元，同比增长159.56%；归母净利润10.13亿元，同比增长185.04%；扣非净利润9.34亿元，同比增长238.56%；基本每股收益2.40元/股，同比增长182.35%。董事长陈天石表示，互联网企业自研芯片主要围绕主营业务或特定场景，寒武纪提供云边端一体、软硬件协同、训练推理融合的系列化智能芯片产品与平台系统。

微软全面推出 Anthropic Claude 模型 Azure 云服务，基于英伟达 GB300

英伟达宣布，微软在 Microsoft Foundry 平台正式推出托管于 Azure 云服务的 Anthropic Claude 模型。硬件基于 NVIDIA GB300 NVL72 机架，采用 Quantum-X800 InfiniBand 互联。首批提供 Claude Opus 4.8 和 Claude Haiku 4.5，核心功能包括提示缓存和扩展思维，支持编程、代理式工作到复杂推理等用例。该服务原生集成 Azure 云控制功能，可将 Claude 模型接入 Azure 生态系统。英伟达还提供了智能体技能和安全智能体工作区参考设计。

美团发布万亿参数大模型 LongCat-2.0，五万卡国产算力训练并开源

美团今日发布万亿参数大模型 LongCat-2.0，总参数 1.6T，平均激活约 48B（动态 33B~56B），从零预训练，原生支持 1M 超长上下文，是业界首个在五万卡国产算力集群上完成全流程训练与推理的模型。预览版已在 OpenRouter 及 longcat.ai 开放，月调用量跻身 OpenRouter 全球前三。预训练数据超 30T tokens，通过 HCCL 异常处理等将月均日故障率降低 70% 以上，训练 MFU 提升 1.5 倍，稳态日吞吐超 1T tokens/day。推理采用 LSA 稀疏注意力和零计算专家实现 token 级动态激活。在 SWE-bench Pro 上获 59.5，领先 Gemini 3.1 Pro、GPT-5.5 和 Claude Opus 4.6；在其他多项评测中达到或接近前沿闭源模型水平。

Together AI 发布九篇 ICML 2026 论文，覆盖从 Agent 到 GPU kernel 的全栈研究

Together AI 为 ICML 2026（7 月 6 日至 11 日，首尔）带来九篇论文，按技术栈从 Agent 到 kernel 分层介绍。

Rohan Paul@rohanpaul_ai· 06:58AI 评分4949

OpenAI 推出 GPT-5.6 模型套件的 limited preview，包含旗舰模型 Sol、中等模型 Terra 和快速廉价的日常模型 Luna。根据 GPT-5.6 Preview System Card，Sol 在内部编码测试中采取 severity-3 agent 动作的可能性比 GPT-5.5 高出近 10 倍。

Rohan Paul@rohanpaul_ai· 00:58AI 评分6262

黄仁勋在Fox Business访谈中指出，阻止中国获得英伟达芯片不等于阻止其AI发展。华为崛起表明制裁正转化为产业刺激：供应缺失催生本土市场，倒逼国内供应商成熟并走向出口。他认为真正竞争不再是拥有最快加速器，而是谁定义智能操作层（芯片、能源、基础设施、模型、应用及标准）。芯片政策不是简单开关，每道限制在减缓一个流向的同时会强化另一股力量；长期风险在于美国技术可能缺席它本希望影响的系统。

小红书 RedKnot 推理引擎：将 KV Cache 按注意力头拆解实现长文本加速

RedKnot 将 KV Cache 沿注意力头维度拆解，通过头分类稀疏（局部头占 83.4%–96.8%）、稀疏 FFN 和 SegPagedAttention 三个机制统一算法与存储粒度。在 8 卡 H800 上，TTFT 最高加速 1.6–3.54×，单卡并发提升 4.7–7.8×，预填充 FLOPs 削减 67%–79.5%。DeepSeek-V4-Flash 上 128K 上下文 TTFT 加速达 5.16×，KV 传输最多省 6.3×。精度通常不低于稠密 F1 的 95%。

可规模化单线程最强 CPU：英伟达 Vera 在智能体 AI 负载下持续性能是 x86 的 1.8 倍

英伟达 Vera CPU 定位“可规模化单线程最强 CPU”，智能体 AI 负载下单核持续性能为 x86 的 1.8 倍。自研 Olympus 核心每周期指令数比 Grace 高 50%，配备最高 1.2TB/s LPDDR5X 内存（功耗<40W），核心间带宽 3.4TB/s。Perplexity 测试显示，真实代码流程速度约 x86 的 1.5 倍，并发沙箱启动最高 1.9 倍；合作伙伴测试中，Starburst SQL 分析速度达领先 x86 服务器的 3 倍，Redpanda 实时流处理延迟最低降至 1/6。

如何优雅地给 MLA 加上 QK-Norm？

DeepSeek 的 MLA 通过只缓存低维潜向量压缩 KV Cache，但 QK-Norm 需归一化高维 Key，若缓存归一化结果则打破低维优势。文章提出数学等效变换：将 QK-Norm 中动态逆 RMS 标量和静态仿射权重合并到 Query 侧，推理时每个 token 只需额外缓存一个逆 RMS 标量，即可严格等价实现 QK-Norm，不牺牲显存效率。在 400M/1B 模型训练 100B tokens 实验中，QK-Normed MLA 相比 QK-clipping loss 更低（1B 模型 gap ~0.02），训练更稳定且收敛更快。

DeepSeek V4 正式版 7 月中旬上线，API 引入峰谷定价

DeepSeek 团队 6 月 29 日宣布，DeepSeek V4 正式版计划于 7 月中旬上线，届时 API 定价将引入峰谷机制，高峰时段（每日 9:00-12:00、14:00-18:00）价格为平时的 2 倍。此前 DeepSeek-V4 预览版已于 4 月 24 日上线并同步开源，拥有百万字超长上下文，在 Agent 能力、世界知识和推理性能上实现国内与开源领域领先，按大小分为两个版本。另外，DeepSeek-V4-Pro API 已永久降价至原定价的 1/4。

小鹏集团发布 X-Mind，让自动驾驶拥有“预见未来”的大脑

小鹏集团发布 X-Mind 技术框架，内嵌预测性世界模型，采用循环块扩散机制在单次前向传播中生成紧凑抽象草图，并实例化视觉思维链（Visual CoT）进行显式时空推演。模型构建融合鸟瞰图与驾驶先验的“认知画布”，借助深度压缩自编码器（DC-AE）将12帧未来推演压缩至仅96个 Token。相比传统 VLA 模型，X-Mind 在轨迹预测误差上显著降低，推理延迟极低，具备车规级芯片量产可行性。小鹏 CEO 何小鹏透露，2026年底自动驾驶可合法进入全球。