#推理

OpenMOSS 发布 Thinking with Video：用视频生成做多模态推理，并提出 VideoThinkBench 评测

Thinking with Video 提出让视频生成模型把推理过程显式展开成视频帧序列再作判断，附 34 页技术论文。

OpenRouter融合预算模型性能超越GPT-5.5与Claude Opus 4.7

一组预算模型通过OpenRouter平台进行模型融合，在包含100个复杂研究任务的评估中，得分超过了GPT-5.5与Claude Opus 4.7。

创新时代：Google Research 在 I/O 2026

Google Research 在 I/O 2026 大会上展示了其在多个前沿领域的技术进展，包括应用AI、基础机器学习算法以及量子AI等。本次大会的核心主题是展示其在将科学发现与研究成果转化为现实世界影响方面的持续努力。

Claude Opus 4.8 发布：在编码、智能体技能与推理方面实现全面升级

Anthropic 发布了新一代模型 Claude Opus 4.8，作为 Opus 4.7 的升级版本，其在编码、智能体技能、推理和实用知识工作等各项基准测试中均取得进步。Claude Opus 4.8 现已可用，价格与前代相同。同步推出的新功能包括：用户可控制任务投入程度、Claude Code 新增“动态工作流”特性，以及 Opus 4.8 的 2.5 倍速模式价格降低为以往的三分之一。早期测试者反馈其在智能体任务中的判断力更可靠、工具调用更高效。该模型在 Online-Mind2Web 测评中得分 84%，超越了 Opus 4.7 和 GPT-5.5。此外，其诚实度与对齐表现也得到提升，代码错误漏检率降低了约 75%。

SGLang 团队与 AMD 合作，使 AMD Instinct™ MI355X GPU 的大规模 DeepSeek-R1 分离式推理在总拥有成本上具备竞争力

SGLang 与 AMD 团队合作，通过一系列全栈优化，使 AMD Instinct™ MI355X GPU 在运行 DeepSeek-R1 大模型推理时实现了极具竞争力的总拥有成本。在 129 tok/s/user 的交互延迟下，其成本为每百万 token $0.169，比 NVIDIA B200（Dynamo TRT-LLM）方案低 5%，比 B200（SGLang）方案低 40%。吞吐量方面，24 块 AMD GPU 达到 2,436 tok/s/GPU，比使用 48 块 GPU 的 B200 SGLang 方案每 GPU 吞吐量高 1.25 倍。核心优化包括：MoRI 混合 FP4/FP8 量化全到全通信、MoRI-IO KV Cache 后端、两批重叠与 SDMA、ROCm 上的 Specv2 MTP 以及 CPU 流式处理优化。

Google I/O 2026 一文速览：12 大重要时刻

Google I/O 2026 发布会上披露了 12 个重要时刻，其中包括 Gemini Omni 和 Gemini 3.5 Flash 等产品的相关消息。

LMSYS与Intel合作通过异构CPU+GPU EPD架构提升视觉语言模型服务性能

LMSYS团队（Intel与SGLang）通过Dynamo和SGLang框架，为视觉语言模型（VLM）启用了异构编码-预填充-解耦（EPD）架构。该方案将视觉编码任务从GPU卸载至CPU（如Intel Xeon 6747P），与GPU协同工作。在Qwen3-VL-8B-Instruct模型的测试中，采用4 CPU + 1 GPU作为编码器、4 GPU作为预填充解码器（能力比R=12）的配置，在ISL/OSL 128/256、1080p 8张图像的负载下，实现了P99 TTFT和请求吞吐量约1.2倍至1.3倍的提升，并将P99 TPOT降低了约1.3倍至30倍。

Tibo@thsottiaux· 15:04AI 评分6363

新发布的独立基准测试 DeepSWE 结果更贴近开发者日常体验。测试显示，在编程任务上，GPT-5.5 得分为 70%，而 Claude Sonnet 得分为 32%，两者差距显著。DeepSWE 聚焦于 AI 智能体在真实工作流中的核心能力，即能否仅凭简短提示词，准确定位代码库并干净地完成修改，无需用户列举具体文件。原文指出，这验证了许多开发者长期以来的观察，并批评了 SWE-Bench 因数据集污染和验证机制较弱而常无法反映真实能力的问题。

Red Hat AI 与 Poolside 为 Laguna XS.2 发布 vLLM 集成、DFlash 推测解码与量化 checkpoint

Red Hat AI 与 Poolside 在 Laguna XS.2 发布时合作提供推理优化，包括 first-class vLLM 集成、DFlash speculator checkpoint 和 LLM Compressor 量化 checkpoint。

Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B

Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B，专为消费级硬件上的快速可靠工具调用打造，Base 和 post-trained 版本已在 Hugging Face 开放。

EAGLE 团队联合 vLLM 与 TorchSpec 发布 EAGLE 3.1 投机解码算法

EAGLE 团队、vLLM 团队与 TorchSpec 团队联合发布 EAGLE 3.1，通过 FC 归一化和后归一化隐状态反馈缓解注意力漂移问题。与 EAGLE 3 相比，长上下文场景下接受长度最高提升 2 倍，并在 vLLM（TP=4、GB200、SPEED-Bench 编码数据集）上实现并发 1 时 2.03× 的每用户输出吞吐提升。

蚂蚁 inclusionAI 开源 SingGuard 多模态安全护栏模型族

蚂蚁集团 inclusionAI 开源了 SingGuard 多模态安全护栏模型族，包含 2B、4B 和 8B 三个版本。SingGuard 将安全策略作为运行时输入而非训练时固定分类，部署团队无需重新训练即可按默认分类或自定义自然语言规则评估内容。模型支持文本、图像、图文、多语言、查询侧和回复侧的安全审核，采用“快-慢”动态推理机制。SingGuard 在多模态安全、图像安全、文本查询安全、文本回复安全、多语言查询安全及多语言回复安全基准上达到平均 SOTA 性能。模型基于 Qwen3-VL 架构，支持通过 Transformers 和 vLLM 部署。

英国 AI Security Institute 发布报告：AI 系统监督是否会变得更难

英国 AI Security Institute 发布新报告，绘制 AI 监督现状及可能的退化路径，依据 25 位专家访谈、文献综述和独立分析。报告将监督对象分为内部激活、思维链、外部行为和智能体间通信四类界面，识别出 20 多条监督退化路径，并指出面向前沿模型已能识别被测试并调整行为等压力已经显现，现有新兴监督方法尚不足以补偿，开发者可立即采取干预以保留现有监督渠道并投资新兴技术作为后备。

OpenAI模型证伪了离散几何中的一个核心猜想

OpenAI开发的人工智能模型成功解决了数学界悬而未决逾80年的“单元距离问题”，并由此推翻了离散几何领域的一个核心猜想。这一突破被视作人工智能驱动数学研究的里程碑事件，标志着AI在基础科学理论探索中取得了实质性进展。该模型通过创新算法处理复杂的几何问题，展示了机器在自动化发现与验证数学猜想方面的巨大潜力。

一个机器人正朝你奔来：你希望它运行在Claude还是Grok上？

一场涵盖11个大语言模型的30轮大逃杀式评测，花费482美元推理成本，得出了一个应改变读者阅读模型基准方式的关键发现。

Qwen3.7-Max：面向智能体时代的最新专有模型

通义千问发布 Qwen3.7-Max，专为智能体时代设计。它具备从原型到复杂多文件工程的编码智能体能力，通过 MCP 和多智能体编排实现办公自动化，能自主执行超 1000 步工具调用（如 35 小时全自主内核优化）。兼容 Claude Code、OpenClaw、Qwen Code 等多框架。在多项基准测试中超越 Opus-4.6 Max 等模型：Terminal Bench 2.0 (69.7)、SWE-Verified (80.4)、GPQA Diamond (92.4)、HLE (41.4) 等。现已通过阿里云 Model Studio 提供 API 调用。

拓宽关于前沿AI的对话

Anthropic为构建负责任的先进AI，正与全球多元群体展开对话。首轮讨论汇集了超过15个宗教、哲学及跨文化传统的学者与伦理学者，旨在为Claude等模型的道德形成与价值观对齐提供多元视角。受“外部良知”概念启发，团队开发并测试了伦理承诺提醒工具，初步实验显示其能有效降低模型不对齐行为。公司计划未来将对话拓展至法律、心理学及公民社会等领域，以共同应对AI对社会结构的重塑。

Gemini 3.5：前沿智能与行动能力相结合

Google 在 I/O 大会上正式发布了最新的 Gemini 3.5 模型系列。该系列模型将前沿的人工智能能力与执行操作的功能相结合，旨在提供更强的综合性能。作为 Google 最新推出的模型，它代表了其在大模型技术上的最新进展。

Cohere 开源 Command A+：218B 参数 MoE 模型主打企业级智能体能力

Cohere 发布 Command A+ 并以 Apache 2.0 许可开源权重，模型采用 MoE 架构，总参数 218B、激活 25B，支持 128K 输入上下文和 48 种语言。

蚂蚁 inclusionAI 推出万亿参数推理模型 Ring-2.6-1T

蚂蚁 inclusionAI 发布旗舰推理模型 Ring-2.6-1T，参数规模达万亿，面向智能体工作流、工程开发、科研分析等复杂场景。模型从“能回答”升级至“能执行”，在多步任务与工具协作中表现更优；支持 high/xhigh 两档推理强度，可灵活平衡效果与成本；采用异步强化学习结合 IcePop 算法提升训练效率。基准测试中，high 模式 PinchBench 得 87.60、ClawEval 63.82、Tau2-Bench 电信场景 95.32；xhigh 模式 ARC-AGI-V2 得 66.18、AIME 26 达 95.83、GPQA Diamond 88.27。上下文长度支持 128K 扩展至 256K（YaRN），已通过 HuggingFace 和 ModelScope 开放下载。

Zyphra 发布 ZAYA1-8B-Diffusion-Preview，在 AMD 上实现最高 7.7x 并行解码加速

Zyphra 发布 ZAYA1-8B-Diffusion-Preview，将自回归训练的 ZAYA1-8B 转换为离散扩散模型，评测性能无系统性损失。模型每次并行扩散 16 个 token，无损采样器实现 4.6x 加速，新的 logit-mixing 采样器实现 7.7x 加速。

ExploitGym：AI智能体能否将安全漏洞转化为真实攻击？

由伯克利RDI、马克斯·普朗克安全与隐私研究所、Anthropic、OpenAI及谷歌等机构研究人员组成的团队，发布了名为ExploitGym的新基准测试。该测试包含898个真实漏洞，要求AI智能体根据漏洞描述生成完整的漏洞利用程序。结果显示，前沿AI模型已能成功利用相当数量的漏洞，即使在启用ASLR等标准防御措施后，部分攻击仍能成功。这证明AI已具备自主将漏洞转化为实际攻击的能力，该技术具有双重用途：既可帮助防御者评估漏洞严重性，也可能降低攻击者的技术门槛。

Modal 详解如何实现真正的 Serverless GPU：冷启动从约 2 千秒降至约 50 秒

Modal 发文讲解其实现真正 Serverless GPU 的四项关键技术：云上 GPU 缓冲池、基于内容寻址多级缓存的懒加载自定义文件系统 ImageFS、CPU 内存快照恢复和 CUDA 上下文快照恢复，将推理服务副本启动从约 2000 秒降到约 50 秒。

Mercury 2 与实时子智能体的崛起

Inception Labs 的 Mercury 2 在上下文压缩评测中成为唯一同时具备高速度与高质量的模型，速度约为 Sonnet 4.6 的 5 倍且质量持平。

Together AI 解析 DeepSeek-V4：百万 token 上下文为何是推理系统工程问题

Together AI 发布文章解析 DeepSeek-V4 服务方案，认为其关键变化是架构层面将 1M token 上下文压缩问题转化为推理系统工程问题。

自适应并行推理：高效推理扩展的新范式

自适应并行推理是一种新范式，它让大语言模型能够自主决定何时分解任务、并行处理多少子任务以及如何协调结果，以应对序列推理中因探索路径增长而导致的延迟增加和“上下文腐化”问题。近期研究如ThreadWeaver和Multiverse通过动态控制并行线程，在数学与代码推理基准上取得了显著性能提升，同时大幅降低了延迟。这标志着从固定并行策略到自适应智能控制的转变，为复杂任务的推理提供了高效且可扩展的解决方案。

BAIR综述自适应并行推理：解决长链思维效率瓶颈的新范式

伯克利AI研究所（BAIR）发布关于“自适应并行推理”的深度综述。文章指出，当前LLM依赖顺序推理导致延迟高、易受上下文腐烂影响且难以处理超长任务。自适应并行推理允许模型自主决定何时分解独立子任务、生成多少并发线程及如何协调，旨在突破线性扩展的算力与时间瓶颈，提升复杂场景下的推理效率。

Tibo@thsottiaux· 09:43AI 评分8383

我们正在众目睽睽之下构建通用人工智能 [引用 @OpenAI]：在API中推出GPT-Realtime-2：这是我们迄今为止最智能的语音模型，为语音代理带来GPT-5级别的推理能力。 语音代理现已成为实时协作者，能够在对话展开时倾听、推理并解决复杂问题。 现已与流式模型GPT-Realtime-Translate和GPT-Realtime-Whisper一同在API中提供——为新一代语音界面带来全新的音频能力。

研究强化学习中意外对思维链（CoT）评分的影响

研究发现，部分已发布的模型存在有限的意外对思维链（CoT）进行评分的情况。团队已修复受影响的奖励通路，并确认没有明确证据表明模型的可监控性因此下降。这表明当前强化学习训练中对CoT的意外评分影响有限，且修复后未对监控能力产生负面影响。

SpecMD: 关于推测性专家预取的综合研究

研究团队开发了SpecMD，这是一个用于在各种硬件配置上对临时缓存策略进行基准测试的标准化框架。该研究聚焦于混合专家模型，这类模型虽然实现了稀疏专家激活，但需要专家缓存机制才能将稀疏性转化为实际性能提升。此前的研究提出了以硬件为中心的缓存策略，但不同缓存策略之间以及它们与不同硬件规格之间的相互作用尚不明确。SpecMD框架旨在填补这一理解空白，系统性地评估缓存策略的交互影响与硬件适配性。

Zyphra 发布 ZAYA1-74B-Preview：在 AMD 上完成大规模预训练的 MoE 推理基座

Zyphra 发布 ZAYA1-74B-Preview，一个总参数 74B、激活 4B 的 MoE 模型，端到端在 AMD MI300x 上完成大规模预训练，权重以 Apache 2.0 许可在 Hugging Face 开放。

从位置认知到功能理解：为多模态大语言模型设立空间功能智能基准

现有基准如VSI-Bench主要评估基础几何感知能力，但未能触及具身智能所需的高阶认知。为此，研究团队推出了空间功能智能基准SFI-Bench，该基准包含超过1700个问题，数据来源于多样化的第一人称室内扫描视频。SFI-Bench旨在系统评估多模态大模型从物体位置感知到功能意图理解的高级空间推理能力，标志着对智能体空间认知的评估从几何层面迈向功能层面。

Zyphra 发布 ZAYA1-8B：全 AMD 集群训练的 MoE 模型

Zyphra 发布 ZAYA1-8B，一个活跃参数不足 10 亿的 MoE 模型，是首个完全在 AMD Instinct MI300 集群（1,024 个节点，与 IBM 合作构建）上完成预训练、中期训练和监督微调的模型。

GPT-5.5 Instant：更智能、更清晰、更个性化

ChatGPT的默认模型已更新为GPT-5.5 Instant。新版模型能提供更智能、更准确的答案，并有效减少了幻觉现象。同时，用户获得了更强的个性化控制能力，使交互体验更贴合个人需求。此次升级标志着模型在理解精度与响应定制化方面取得了显著进步。

60倍速冷启动：将同级GPU视为权重服务器

Runway平台团队开发的NCCLBack系统，通过P2P权重传输将模型冷启动时间从数分钟缩短至数秒。其核心创新在于让新启动的GPU推理节点直接从集群内已加载权重的同级GPU获取模型参数，而非从云存储重复下载。该系统利用GPU互连（如InfiniBand、NVLink）高达200-400 Gbps的带宽，相比传统存储下载的2-10 Gbps实现了数量级提升。通过Redis协调与NCCL广播原语，NCCLBack确保了数据传输的效率和正确性，使得大规模集群部署新模型时，冷启动时间不随节点数量线性增长，基本保持恒定。

PORTool: 基于奖励树和重要性感知的策略优化方法，用于多工具集成推理

研究团队提出PORTool算法，以解决多工具集成推理中仅依靠结果奖励导致的信用分配模糊问题。该方法通过重要性感知策略优化，在结果级监督下强化智能体的工具使用能力，同时实现步骤级奖励分配。PORTool生成奖励树来明确关键决策步骤，从而更精确地引导模型学习有效的工具调用序列，提升复杂任务解决的效率和可靠性。

在谷歌TPU上实现3倍加速：UCSD利用扩散式推测解码优化LLM推理

加州大学圣地亚哥分校的研究团队在谷歌TPU上成功部署了DFlash，一种基于块扩散的推测解码方法。该方法突破传统自回归草稿生成的序列性瓶颈，通过单次前向传播并行“绘制”整个候选令牌块，而非逐个预测。系统平均实现了3.13倍的推理加速，峰值性能接近EAGLE-3等现有方法的两倍。这一开源方案已集成至vLLM生态系统，通过利用“免费”的并行验证能力和针对复杂推理任务的高质量草稿预测，显著优化了TPU硬件的利用效率。

Zyphra 发布 Zyphra Inference：面向长上下文 Agent 工作负载的 AMD 优先推理云

Zyphra 发布 Zyphra Cloud 平台首个组件 Zyphra Inference，与 TensorWave 合作基于 AMD MI355X GPU 提供面向大 MoE 模型和长上下文 Agent 工作负载的推理服务，已支持 Kimi K2.6、DeepSeek V3.2 和 GLM 5.1，并将支持 DeepSeek V4-Pro。

GPT-5.5 涨价：实际成本如何

OpenAI 将 GPT-5.5 的每 token 价格翻倍，但模型输出更简洁。实际使用测量显示净成本影响取决于用户场景。

Goodfire Research 研究发现模型的言语化评测意识会推高安全基准测出的安全性

Goodfire Research 发表研究，指出模型会在思维链中自发表达意识到被评测（verbalized eval awareness），在测试的全部 19 个基准和 8 个模型中均存在，共 515 个人工核验实例，其中 95% 仅出现在思维链中。