Baseten 发布 3B 以下决策模型 joey-1,2,000-token 请求 P50 延迟 20 ms
Baseten Base Labs 发布决策模型 joey-1,直接以单 token 和校准概率返回决策结果,称内部测试中为 3B 及以下参数最强决策模型。2,000-token 请求 P50 端到端延迟 20 ms,约比 elephant-1(49 ms)快 2.5 倍,价格为每百万 token $0.01、是 mammoth-1 的十分之一。
Baseten Base Labs 发布决策模型 joey-1,直接以单 token 和校准概率返回决策结果,称内部测试中为 3B 及以下参数最强决策模型。2,000-token 请求 P50 端到端延迟 20 ms,约比 elephant-1(49 ms)快 2.5 倍,价格为每百万 token $0.01、是 mammoth-1 的十分之一。
Amazon 与 Booking.com 将知识蒸馏与 Medusa 结合,把 70B 的 Llama-3.1 教师模型能力迁移到 1.1B 的 TinyLlama 学生模型,在保持最佳开源 LLM 质量的同时成本降至不到三分之一、速度最高提升 20 倍。
vLLM 团队宣布对 Mistral 新旗舰模型 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的原生多模态 MoE 模型,采用 MLA 稀疏注意力加 DSA top-k 索引器、跨层 KV 共享、NoPE、SSMax 和 LeRoPE 等新架构,并内置 DSpark 推测解码草稿器与 Pixtral 视觉编码器。
推荐理由:vLLM 团队详解支持 Mistral Large 4 所需的架构适配与量化、长上下文、推测解码等实测数据,可作部署参考。
Hugging Face 社区博客发布 AnySpeechRecognizer 0.1.0 和 AnyDecisionModel 0.6.0 两个 Swift 包,让开发者在 Apple 平台上以统一 API 选择语音识别和决策引擎。
UC Santa Barbara 新论文提出 TTME,用固定权重加演化记忆替代测试时训练来做 LLM 数学发现,在 5 个数学任务、2 个框架、3 个模型上每次都优于已报告的测试时训练分数。
Latent Space 采访 Elorian CEO Andrew Dai,介绍其与 Mercor 联合发布的 DecoyCount 基准,测试模型是真正数数还是依赖视觉捷径。
Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon,以 59 分登顶 Artificial Analysis Intelligence Index v5.0,前代 Argon 为 50 分。
同一件事,精选收录的是《Google DeepMind 发布 Gemini 4 Carbon 前沿模型》
Artificial Analysis 评测显示,Google 的 Gemini 4 Carbon 以 59 分登上 Intelligence Index v5 第一。
OpenBMB 发布 Lookahead Expert Scheduling(LES)推理系统,用于在端侧运行 MiniCPM-V 4.7 的 35B-A3B MoE 模型。
Polymathic AI、普林斯顿大学、USC ISI、NYU 与 Flatiron Institute 的研究者发布 FlashMap,一种投机解码起草器,用连续 flow map 替代离散扩散起草器,1 次 forward pass 联合起草 16 个 token 的完整块,输出与目标模型严格一致。
Artificial Analysis 发布 Intelligence Index v5,引入 FrontierCode 2.0 和 Terminal-Bench-Science 两个新基准,并升级 HLE-Diamond、AA-Omniscience v1.1 和 CritPt v2,60% 的指数基于私有测试集或保留答案。
The largest math proof in human history is now computer-verified. Today, Axiom announces a complete Lean auto-formalization of the Classification of Finite Simple Groups, the "periodic table of symmetry." About 15,000 pages, built by over 100 mathematicians across generations.
NVIDIA 技术博客介绍在 DGX Spark 上加速 Ling-3.0-flash 推理的三种优化:Humming MXFP4 MoE 内核、LM head 在线 FP8 量化、以及用 NEXTN 做 MTP 投机解码。
前 DeepMind 研究员 Thore Graepel 在 Nvidia GTC 柏林大会上介绍其新公司 Metis Reasoning 的方法,把 AlphaGo 的搜索思路搬到通用推理,用显式知识账本记录已知内容、置信度和未解问题,由独立模块对照计算、形式证明或经验证据检验每个结论。
蚂蚁 inclusionAI 发布 Ling-3.1-flash-1019,为 Ling-3.1-flash 的升级版,总参数 560B、每 token 激活 25B、上下文窗口 1M token。
OpenAI 于 10 月 27 日宣布其 AI 模型在数学、计算机科学和物理学领域取得三项研究突破。数学上给出了所有维度下局部光滑猜想的证明,从而解决挂谷猜想与斯坦因限制猜想;计算机科学上给出推翻指数时间假设(ETH)的证明,暗示相关计算任务可能有更快算法;物理学上提出量子色动力学及标准模型一种统一完备化的严格存在性证明,涉及杨–米尔斯千禧年难题的一部分。
推荐理由:原文梳理了三项成果的数学背景和验证方式,并注明仍待学术界独立确认,读者可据此把握证据强度。
OpenAI 宣布其模型在调和分析、复杂度理论和量子场论方面取得三项成果,包括证明各维度的 local smoothing 猜想(进而解决 Kakeya 猜想与 Stein 限制猜想)、在 Lean 中验证 ETH 为假、以及给出 QCD 与纯 Yang–Mills 理论的严格存在性证明。
推荐理由:原文由当事方直接披露三项数学成果和三种外部协作发布模式,读者可据此了解其结果透明度与验证安排。
LG AI Research 在 ICML 2026 提出 LOAM,让 LLM 直接设计强化学习中的观测模型与动作模型,而非只设计奖励函数。该方法区分原始环境空间与智能体实际使用的空间,由 LLM 根据任务目标、终止条件、机器人结构及各变量含义生成观测与动作设计。研究源于 LG Chem 大山 NCC 工厂生产排程优化项目,团队发现观测与动作空间设计比奖励函数更困难。
小红书 AllSpark 团队提出一套不依赖人工标注的合成数据训练流程,用 GLM-5.2 对 3515 篇公开文档做深度改写以切断参数记忆,最终生成 9625 条训练样本。
字节 Seed 提出 Recycler 架构,把上一 token 的顶层隐藏状态经轻量适配器与当前 token 嵌入一起送入下一步,在解码开销几乎不变的情况下保留跨步连续语义。该架构覆盖预训练、SFT、继续预训练与 RL 全流程,在数学和推理任务上参数效率突出,后期引入仍可超越参数量多 2–3 倍的模型。
斯坦福和 UC Berkeley 研究者发布 TokenGate,一种给现有 LLM 加上可学习 token 剪枝的模块,在 Qwen3-1.7B 上实现 1.4x 至 11.3x 的 TTFT 加速,峰值 prefill 显存降低 1.5x 至 3.4x 且无精度损失。
vLLM 用 P/D 分离与 Wide-EP 在单台 NVIDIA GB300 NVL72 上服务 DeepSeek-V4.1-Flash,在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s,为早期单节点结果的 7.9 倍。
针对原生 NVFP4 强化学习在训练后期出现的不稳定问题,LMSYS 提出算法 TRIAGE 与工程方案 miniTE。在 8×B300 上,采用 BF16 反向传播的 miniTE 完整学习器更新速度约为 BF16 的 1.33–1.37 倍,单独的固定输出服务测试吞吐约为 BF16 的 1.64 倍。
Sebastian Raschka 发布 8 集共 11 小时的从零构建推理模型视频课程,基于预训练 Qwen3 0.6B 用 Python 和 PyTorch 实现推理方法。
月之暗面正式推出 Kimi K3.1 Pro,为 K3.1 系列首个模型,3 万亿级参数、支持 100 万上下文,并同步推出输出速度约 2~3 倍的 Kimi K3.1 Pro Highspeed。
同一件事,精选收录的是《月之暗面发布 Kimi K3.1 Pro,100 万 token 上下文,开放权重将于 11 月 4 日前释出》
Artificial Analysis 将 Meta 新发布的开源权重模型 Muse Spark Open(816B,激活 42B)的测试结果上线 AA-AgentPerf。
月之暗面发布 Kimi K3.1 Pro,总参数 2.8T、激活 104B(MoE),上下文窗口 1M token,已上线 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API。
vLLM 博客详解 GLM-5.3 在 16 张 H200 上拆分 prefill 与 decode 节点的长上下文优化:PCP 按 token 而非注意力头切分 prompt,DCP 按 token 分片 KV cache,使 1M 上下文仅需每 GPU 6.7 GiB。
Moonshot 发布 Kimi K3.1 Pro,在 Artificial Analysis Intelligence Index 得 55 分列第 4,较 Kimi K3 提升 11 分,仅低于 Claude Opus 5.5、Claude Sonnet 5.5 和 Muse Wonder Full。
推荐理由:榜单数据完整,K3.1 Pro 的智能体成绩、参数规模和价格变化都有具体数字可查。
Latent.space 作者 Ankit Maloo 分析 OpenAI 与 Anthropic 近期在 Erdős 单位距离猜想、Cycle Double Cover、Navier-Stokes、费马大定理等形式化成果,提出问题难度可用 Gowers 的 2^k + t 提示复杂度和分支因子 b 刻画。
vLLM 在发布当天即支持 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。
MiniMax 宣布开源 MiniMax M3.1 Flash 模型权重,总参数 428B,激活参数 23B,称相比上一代 M3 模型能力全面提升。
Space Bunny is here! 🐰 MiniMax M3.1 Flash hits >1K tok/s, bs1 decode with SGLang, production-ready from Day 0. This integration is a joint effort by @MiniMax_AI, @NVIDIAAI, @AMD, and @radixark, and you can also run RL with Miles! -Broad hardware support: NVIDIA Blackwell and Hopper (GB300/B300/B200/H200), plus AMD Instinct MI350X and MI355X. -Agentic serving at scale: ~100K total tok/s per GPU on the AgentX coding-agent trace with 96 concurrent sessions. -Speculative decoding: Supports MiniMax's DSpark draft and a DFlash2 draft trained by @radixark; supports HiCache and multimodal input. -Ultra-low-latency inference: MegaKernels deliver 2.15× faster single-request decode.