跳到正文
  1. vLLM 官方博客71

    vLLM 发布 Mistral Large 4 Day 0 支持

    vLLM 团队宣布对 Mistral 新旗舰模型 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的原生多模态 MoE 模型,采用 MLA 稀疏注意力加 DSA top-k 索引器、跨层 KV 共享、NoPE、SSMax 和 LeRoPE 等新架构,并内置 DSpark 推测解码草稿器与 Pixtral 视觉编码器。

    推荐理由:vLLM 团队详解支持 Mistral Large 4 所需的架构适配与量化、长上下文、推测解码等实测数据,可作部署参考。

  1. OpenAI:官网动态85

    OpenAI 宣布模型产出三项数学成果并与学界协作发布

    OpenAI 宣布其模型在调和分析、复杂度理论和量子场论方面取得三项成果,包括证明各维度的 local smoothing 猜想(进而解决 Kakeya 猜想与 Stein 限制猜想)、在 Lean 中验证 ETH 为假、以及给出 QCD 与纯 Yang–Mills 理论的严格存在性证明。

    推荐理由:原文由当事方直接披露三项数学成果和三种外部协作发布模式,读者可据此了解其结果透明度与验证安排。

  1. Artificial Analysis 完整文章82

    Kimi K3.1 Pro 发布,以 55 分位列 Artificial Analysis Intelligence Index 第 4

    Moonshot 发布 Kimi K3.1 Pro,在 Artificial Analysis Intelligence Index 得 55 分列第 4,较 Kimi K3 提升 11 分,仅低于 Claude Opus 5.5、Claude Sonnet 5.5 和 Muse Wonder Full。

    推荐理由:榜单数据完整,K3.1 Pro 的智能体成绩、参数规模和价格变化都有具体数字可查。

  1. Inception Labs:Blog69

    Inception Labs 发布扩散大语言模型 Mercury 3,速度达 1068 tokens/秒

    Inception Labs 发布扩散式大语言模型 Mercury 3,称其在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5,速度达 1068 tokens/秒,参数量较 Mercury 1 扩大 40 倍以上。

    推荐理由:官方发布给出扩散模型规模化的关键数据,包括速度、上下文和价格,可用作评估实时 AI 应用选型的参考。

  1. MiniMax:Blog70

    MiniMax 发布 M3.1 Flash,推理提速近三倍、用量成本降低 70%

    MiniMax 发布 MiniMax M3.1 Flash,匿名模型 Space Bunny 是其早期版本,曾处理超过 200 万亿 token。

    推荐理由:官方给出具体基准分数、推理速度和每百万 token 定价,读者可直接对比智能体任务的性价比变化。

  1. Anthropic:Research73

    Anthropic 用 Claude Mythos 5 设计出更高效的量子电路,多项超过已发表最优设计

    Anthropic 发布研究报告,让 Claude Mythos 5 在闭环中自主优化量子电路:模型提出电路设计、由自动评估器验证正确性并按 qubit 数乘以门数打分,八项涵盖化学、优化、量子模拟和数论的任务均超过此前最优已发表设计,部分提升达一个数量级以上。

    推荐理由:Anthropic 自己的研究,给出 Claude 优化量子电路的具体方法和量化改进,对理解 AI 辅助科学发现有参考价值。

  1. vLLM 官方博客65

    vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

    vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。

    推荐理由:原文给出了 Beam 在 vLLM 上的具体优化数据和部署命令,读者可以直接评估落地配置与吞吐收益。

  2. LMSYS Blog65

    SGLang 原生支持 Reflection 的 Beam 并驱动其生产 API

    SGLang 团队宣布原生支持 Reflection 的 Beam 1.0(501B 参数 MoE、每 token 激活 23B),并以其驱动 Reflection 的生产 API。

    推荐理由:原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据,读者可据此评估该推理栈在智能体负载下的服务性能。

  3. Reflection Blog83

    Reflection 发布首个开源权重模型 Beam,501B 参数 MoE 采用 Apache 2.0 协议

    Reflection 发布首个开源权重模型 Beam,权重已在 Hugging Face 以 Apache 2.0 协议放出。Beam 为稀疏 MoE 模型,总参数 501B、激活 23B,面向编码、推理和长程智能体任务,提供 BF16、FP8、NVFP4 精度权重和投机解码 drafter 模型。

    推荐理由:原文给出权重、精度格式、生态支持与自托管路径等具体信息,可据此评估落地与选型。

  4. Artificial Analysis 完整文章66

    Artificial Analysis 发布 NVIDIA Vera Rubin NVL72 首批 AA-AgentPerf 智能体推理评测

    Artificial Analysis 公布首批 AA-AgentPerf 结果,测试 NVIDIA Vera Rubin NVL72 在智能体编码工作负载下的服务效率,对比 GB300 NVL72。

    推荐理由:Artificial Analysis 实测四种模型在 Vera Rubin NVL72 与 GB300 上的每瓦吞吐,读者可据此评估新硬件对智能体推理服务成本的影响。

  5. vLLM 官方博客75

    vLLM 提供 Muse Spark Open Day 0 支持

    vLLM 与 Meta Superintelligence Labs 合作,在发布当天即支持开源 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B、上下文窗口 1M,面向长程智能体编码工作流。

    推荐理由:vLLM 官方给出了 Muse Spark Open 的架构细节、量化版本与完整部署命令,读者可直接照此在生产环境上手推理与 LoRA RL。

  6. Apple Machine Learning Research60

    Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

    Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.30.1 起)与 macOS 26.2 的 RDMA over Thunderbolt 驱动。

    推荐理由:Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

  1. vLLM 官方博客60

    vLLM 推出无需置信头的在线拟合接受估计器,让 EAGLE、MTP 等草稿模型可用 Adaptive Verification

    vLLM 支持 confidence scoring 扩展到所有基于草稿模型的投机类型,通过在线拟合的 logistic 回归从草发者 logits 推导 logit(q_max) 特征来预测目标模型的接受概率,作为 Adaptive Verification 的置信分。

    推荐理由:原文给出无置信头草稿模型启用 Adaptive Verification 的在线估计方法、设计取舍和实测数据,方法可直接在 vLLM 中配置复用。

  2. 蚂蚁百灵:Developer Blog65

    蚂蚁百灵开源 Ling-3.1-flash:总参数约 560B、每 Token 激活约 25B,支持 1M 上下文

    蚂蚁百灵正式开源 Ling-3.1-flash,权重可在 Hugging Face 和 ModelScope 获取。模型总参数约 560B、每 Token 激活约 25B、最高支持 1M 上下文;经 MXFP4 与 block-FP8 量化后权重占用从约 534GB 降至 292GB,Hopper GPU 测试中服务部署由 8 卡降至 4 卡。

    推荐理由:官方开源公告给出权重入口、Artificial Analysis 与 Design Arena 评测数据和 4 卡部署实测,便于评估自部署可行性。

  1. Google DeepMind:Blog85

    Google DeepMind 发布 Gemini 4 Argon,全球上线 API、Gemini 应用和 Antigravity

    Google DeepMind 发布 Gemini 4 Argon 并全球开放,定价为每百万输入 token $2、输出 $10(缓存输入 95% 折扣),支持 1M 统一输入输出 token 上限,并在 Vals Index 排名第一。

    推荐理由:原文给出定价、基准成绩和工程与科学落地案例,读者可以据此评估该模型在自己领域的工作流适用性。

  1. Amazon Science61

    AWS 提出 priming 方法,可将预训练 Transformer 改造成混合状态空间架构

    AWS 团队发布论文《Priming: Hybrid state space models from pre-trained Transformers》,提出 priming 方法,复用预训练 Transformer 权重构建混合架构,将预训练成本降低逾 99%,全流程消耗不足源模型 0.5% 的 token 预算。

    推荐理由:AWS 团队提出 priming 方法,把预训练 Transformer 改造成混合架构的预训练成本降低逾 99%,并开源了 8B 和 32B 模型与代码。

  1. Google Developers Blog70

    Google 开源 ML Drift 端侧 GPU 推理引擎,接替 TFLite GPU delegate

    Google AI Edge 团队以 Apache 2.0 许可开源 ML Drift,一个跨平台端侧 GPU 推理计算引擎,作为 LiteRT 的核心 GPU 加速层。

    推荐理由:原文给出跨平台 GPU 推理引擎的架构升级、性能数据和生产落地案例,端侧 AI 开发者可据此评估迁移路径。

  1. Liquid AI 模型与工程博客69

    Liquid AI 发布 d1 决策模型并新增图像输入能力

    Liquid AI 发布 d1 决策模型,新增文本与图像输入,可通过 console.liquid.ai 和 d1 Playground 使用。

    推荐理由:原文给出 d1 在六类真实应用中对 GPT-6.1 Sol 和 Claude Opus 5.5 的成本与速度对比,以及按输入 token 计费规则,便于评估是否替换现有 LLM 调用。

  1. Prime Intellect61

    Prime Intellect 发布推理服务平台 Prime Inference

    Prime Intellect 发布 Prime Inference,提供 serverless 端点与预留容量,在多数据中心 GPU 基础设施上服务前沿开源模型,内部每天处理近一万亿 token。

    推荐理由:作者以自家生产数据说明 disaggregation、NVFP4 KV 压缩等优化路径,工程细节对做推理服务的人有可参考之处。