UC Santa Barbara 新论文提出 TTME,用固定权重加演化记忆替代测试时训练来做 LLM 数学发现,在 5 个数学任务、2 个框架、3 个模型上每次都优于已报告的测试时训练分数。
#推理
Rohan Paul@rohanpaul_aiAI 评分4242Latent SpaceAI 评分5555 Elorian 发布 DecoyCount 基准,前沿模型视觉计数得分低于 50%
Latent Space 采访 Elorian CEO Andrew Dai,介绍其与 Mercor 联合发布的 DecoyCount 基准,测试模型是真正数数还是依赖视觉捷径。
MarkTechPostAI 评分5252 Polymathic AI 与普林斯顿等机构发布 FlashMap,以 flow map 起草器实现最高 6.14x 无损解码加速
Polymathic AI、普林斯顿大学、USC ISI、NYU 与 Flatiron Institute 的研究者发布 FlashMap,一种投机解码起草器,用连续 flow map 替代离散扩散起草器,1 次 forward pass 联合起草 16 个 token 的完整块,输出与目标模型严格一致。
The Decoder:AI NewsAI 评分5050 前 DeepMind 研究员 Thore Graepel 创办 Metis Reasoning,欲借 AlphaGo 思路解决模型幻觉
前 DeepMind 研究员 Thore Graepel 在 Nvidia GTC 柏林大会上介绍其新公司 Metis Reasoning 的方法,把 AlphaGo 的搜索思路搬到通用推理,用显式知识账本记录已知内容、置信度和未解问题,由独立模块对照计算、形式证明或经验证据检验每个结论。
OpenAI:官网动态精选AI 评分8585 OpenAI 宣布模型产出三项数学成果并与学界协作发布
OpenAI 宣布其模型在调和分析、复杂度理论和量子场论方面取得三项成果,包括证明各维度的 local smoothing 猜想(进而解决 Kakeya 猜想与 Stein 限制猜想)、在 Lean 中验证 ETH 为假、以及给出 QCD 与纯 Yang–Mills 理论的严格存在性证明。
推荐理由:原文由当事方直接披露三项数学成果和三种外部协作发布模式,读者可据此了解其结果透明度与验证安排。
LG AI Research:官方研究博客AI 评分4545 LG AI Research 在 ICML 2026 提出 LOAM:用 LLM 设计强化学习的观测与动作空间
LG AI Research 在 ICML 2026 提出 LOAM,让 LLM 直接设计强化学习中的观测模型与动作模型,而非只设计奖励函数。该方法区分原始环境空间与智能体实际使用的空间,由 LLM 根据任务目标、终止条件、机器人结构及各变量含义生成观测与动作设计。研究源于 LG Chem 大山 NCC 工厂生产排程优化项目,团队发现观测与动作空间设计比奖励函数更困难。
公众号:小红书技术AI 评分4545 小红书 AllSpark 提出增强上下文学习能力的数据管线,35B 模型追平万亿参数前沿模型
小红书 AllSpark 团队提出一套不依赖人工标注的合成数据训练流程,用 GLM-5.2 对 3515 篇公开文档做深度改写以切断参数记忆,最终生成 9625 条训练样本。
字节 Seed:Research PapersAI 评分4545 字节 Seed 提出 Recycler:通过隐藏状态回收实现无额外成本的潜在推理
字节 Seed 提出 Recycler 架构,把上一 token 的顶层隐藏状态经轻量适配器与当前 token 嵌入一起送入下一步,在解码开销几乎不变的情况下保留跨步连续语义。该架构覆盖预训练、SFT、继续预训练与 RL 全流程,在数学和推理任务上参数效率突出,后期引入仍可超越参数量多 2–3 倍的模型。
MarkTechPostAI 评分4444 斯坦福与 UC Berkeley 推出 TokenGate:token 门控注意力让长上下文 prefill 最快提升 11.3 倍
斯坦福和 UC Berkeley 研究者发布 TokenGate,一种给现有 LLM 加上可学习 token 剪枝的模块,在 Qwen3-1.7B 上实现 1.4x 至 11.3x 的 TTFT 加速,峰值 prefill 显存降低 1.5x 至 3.4x 且无精度损失。
LMSYS BlogAI 评分4949 miniTE 技术报告:用原生 NVFP4 实现稳定高效的强化学习
针对原生 NVFP4 强化学习在训练后期出现的不稳定问题,LMSYS 提出算法 TRIAGE 与工程方案 miniTE。在 8×B300 上,采用 BF16 反向传播的 miniTE 完整学习器更新速度约为 BF16 的 1.33–1.37 倍,单独的固定输出服务测试吞吐约为 BF16 的 1.64 倍。
公众号:小红书技术AI 评分5252 小红书 NeurIPS 2026 论文 Hint Tuning 用推理模型思维链作 hint,1000 条数据让推理 token 减少 31.5%
小红书大模型基建部发布 NeurIPS 2026 论文 Hint Tuning: Less Data Makes Better Reasoners,把推理模型的思维链按反思词切成片段作为 hint 交给同家族 Instruct 模型,测出每道题的最小有效提示,据此构造长度可变的训练数据。
MarkTechPostAI 评分4646 Perplexity 与 NVIDIA 提出 JOLT:教师与学生联合训练的后训练强化学习方法
Perplexity 与 NVIDIA 团队提出后训练方法 JOLT,让同一个模型同时扮演教师和学生,且教师也参与训练。在 MATH 上,JOLT 以 6.5 倍更少的训练 token 达到 GRPO 的准确率;JOLT+ 在 AppWorld 状态测试通过率达 72.09%,比 GRPO 的 62.20% 高 9.9 个百分点。
公众号:小红书技术AI 评分4848 小红书 DoSA 将长上下文首 token 延迟无损减少近一半
小红书自研的稀疏注意力索引器加速方法 DoSA,在保持原始 Top-K 选择结果的前提下,用分数上下界提前排除不可能入选的候选。
Hacker News:AI 热帖AI 评分5151 arXiv 论文探究 AI 生成文本为何难以理解
arXiv:2610.29162 研究发现,九个前沿及接近前沿的模型相对人类写作更多使用无生命主语配动词、低频 n-gram,多数还使用更长的句法依赖、更多堆叠名词和缩略宾语关系从句,且不同模型家族差异明显。研究提出假说:人类语言为成功沟通优化,而 AI 文本日益为数学、代码和推理等目标优化,倾向信息密度而非沟通效果;作者通过对语言模型施加长度惩罚微调使其偏离人类语言行为,为该假说提供了概念验证。
公众号:小红书技术AI 评分4747 小红书 AllSpark 提出 ROSS:让模型重学训练中自生成的 rollout
小红书 AllSpark Team 提出 ROSS,让模型重新学习训练中自己生成的 rollout,通过筛选有价值轨迹片段并保留完整上下文做选择性监督。基于 Qwen3.6-35B-A3B,该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%,MOPD 均分从 58.40% 提至 62.20%。
Cohere Labs:官方研究博客AI 评分4242 Cohere Labs 提出 CALIBER:让推理模型在推理前后分别给出置信度
Cohere Labs 提出 CALIBER 方法,训练推理模型在开始推理前估计解题成功率、推理后再评估该答案正确的可能性。在 BigMathDigits 上,7B 模型的 ECE 从最强单置信度基线的 0.059 降至 0.028,降幅 52.5%,AUROC 达 0.806、Brier 分数 0.130。该 7B 模型在未经额外训练的情况下,改进还扩展到数学之外的问答基准。
Rohan Paul@rohanpaul_aiAI 评分5858Princeton 与 Google 等机构的论文提出 JevAgentHarness,用小型决策模型回答智能体中的多选例行决策,仅在置信度低于阈值时交给 LLM。
Anthropic:Research精选AI 评分7373 Anthropic 用 Claude Mythos 5 设计出更高效的量子电路,多项超过已发表最优设计
Anthropic 发布研究报告,让 Claude Mythos 5 在闭环中自主优化量子电路:模型提出电路设计、由自动评估器验证正确性并按 qubit 数乘以门数打分,八项涵盖化学、优化、量子模拟和数论的任务均超过此前最优已发表设计,部分提升达一个数量级以上。
推荐理由:Anthropic 自己的研究,给出 Claude 优化量子电路的具体方法和量化改进,对理解 AI 辅助科学发现有参考价值。
Apple Machine Learning ResearchAI 评分4343 Apple 提出 SSR:用选择式结构化推理打造高效多模态搜索智能体
Apple 研究团队提出 Selection-based Structured Reasoning(SSR),将推理从开放式生成改为从预设可复用自然语言候选中选择,无需辅助任务头。在 2B 和 4B 模型、七个多模态搜索基准上,SSR 平均成功率与同规模领先搜索智能体相当,每轮推理延迟降低超 90%,单题模型总推理延迟降低 28–54%。
StepFun@StepFun_aiAI 评分5656vLLM 官方博客AI 评分4747 vLLM 让 RL 训练更快:训练与推理 logprob 逐位一致,DeepSeek-V4-Flash 与 Nemotron 验证
vLLM 让训练前向直接调用其推理 kernel 并改造这些高性能 kernel,使 rollout 与训练对每个采样 token 产生逐位相同的 logprob(diff = 0)。
IT之家·人工智能AI 评分7272 上海人工智能实验室团队用书生 S2 大模型完成三维 Ghys 猜想证明
上海人工智能实验室发文宣布,许地生团队依托书生科学多模态大模型 S2,通过人机协同完成困扰数学界 30 余年的三维 Ghys 猜想证明。北京大学董彬、刘若川院士团队用 SHEAF 框架完成形式化验证,论文已发布于 arXiv,形式化代码开源在 GitHub。上海人工智能实验室表示该范式可推广至其他搜索空间大而专家稀缺的基础研究领域。
Rohan Paul@rohanpaul_aiAI 评分4949引用Jiaru "Rubin" Zou@Jiaru_ZouYour LLM agent has to think out loud, token by token, before it can search, run code, or act in the world. We humans don’t. We ponder in silence and speak when it matters. Human language was never meant to be the limit of machine thought. Introducing 🌗Hybrid Reasoning Agents - Think in latent space, act through text - Two modes, one unified multi-turn flow - No black box, fully readable latent thoughts - Any LLM can become a HybridAgent
Rohan Paul@rohanpaul_aiAI 评分4444论文提出 SanSi,通过让 Ouro-1.4B 这个预训练可复用层的小模型重复运行同一批层最多 8 次,并在每次循环后读取选项概率,使小模型在决策任务上大幅提准。
Amazon Science精选AI 评分6161 AWS 提出 priming 方法,可将预训练 Transformer 改造成混合状态空间架构
AWS 团队发布论文《Priming: Hybrid state space models from pre-trained Transformers》,提出 priming 方法,复用预训练 Transformer 权重构建混合架构,将预训练成本降低逾 99%,全流程消耗不足源模型 0.5% 的 token 预算。
推荐理由:AWS 团队提出 priming 方法,把预训练 Transformer 改造成混合架构的预训练成本降低逾 99%,并开源了 8B 和 32B 模型与代码。
NVIDIA Technical Blog:Agentic AI / Generative AIAI 评分5353 NVIDIA 与普林斯顿发布 ReplaySSM:缓存 SSM 输入而非状态,加速混合模型解码
NVIDIA 与普林斯顿 Dao AI Lab 发布 ReplaySSM,将 SSM 状态表示为检查点加近期输入缓冲,减少状态内存流量、简化投机解码回滚并限制量化误差累积。
The Decoder:AI News精选AI 评分7676 AlphaProof Nexus 攻克 9 个未解 Erdős 问题并经同行评审
Science 新研究显示,Google DeepMind 的 AlphaProof Nexus 独立解决了 353 个开放 Erdős 问题中的 9 个,其中 2 个悬置 56 年。
推荐理由:这条报道把系统架构和同行评审安排都讲清了,读者可以据此理解形式化证明工作流的可行性与验证方式。
Rohan Paul@rohanpaul_aiAI 评分5454
Rohan Paul@rohanpaul_aiAI 评分6565引用OpenAI@OpenAIWe’re releasing a broad range of new mathematical results produced by an internal frontier model. We’ve been consulting with the independent Advisory Group on Mathematics and Artificial Intelligence at the Institute for Advanced Study, and we have drawn on their advice and public recommendations to inform how we release these results. https://github.com/openai/math
Baseten Base Labs:模型研究AI 评分5555 Baseten Base Labs 复现单步梯度外推研究:RL 提升主要是修复 doom loop 失败模式
Baseten Base Labs 复现并检验了近期关于 RL 训练轨迹近似直线、可通过线性外推替代完整 RL 运行的结论,发现其效果有限。
AI at Meta@AIatMeta精选AI 评分6565推荐理由:原文说明了协作方式和论文标注原则,读者可以据此了解 Meta 如何让模型参与真正开放的数学研究问题。
Rohan Paul@rohanpaul_aiAI 评分4949Ars Technica:AIAI 评分6666 Ataraxos 击败史上最强 Stratego 玩家 Pim Niemeijer
卡内基梅隆、MIT、纽约大学和斯坦福的研究团队开发的不完全信息博弈 AI Ataraxos,以 15 胜 1 负 4 平击败了被认为是最强 Stratego 玩家的 Pim Niemeijer。
Zyphra ResearchAI 评分5151 Zyphra 解析混合 NoPE 模型如何在没有位置编码的情况下学到位置
Zyphra 发文解释混合架构中全局 NoPE 注意力如何获得位置信息:滑动窗口注意力等局部混合层在残差流中留下随相对距离变化的近因偏置结构,训练中全局层的 query/key 投影学会读取该结构,形成隐式相对位置编码。
The Decoder:AI News同事件AI 评分7777 Ataraxos 以85%有效胜率击败最强人类 Stratego 选手,训练成本不足 8000 美元
研究人员开发的 AI 系统 Ataraxos 以 85% 的有效胜率(平局计半胜)击败了曾获 4 次世界冠军的史上最强 Stratego 选手 Niemeijer,并在 2025 世界锦标赛表演赛中取得 40 局 38 胜。
同一件事,精选收录的是《MIT 等机构发布 Ataraxos,以极低成本战胜顶级人类 Stratego 选手》
Rohan Paul@rohanpaul_aiAI 评分4949引用Anirudh Goyal@anirudhg9119What if an agent could decide how to structure its own computation? Agentic Meta-Reasoning: Let the model decide what to explore, what to build on, what to verify, and where to spend its next unit of compute: effectively constructing its own computational graph as it reasons. 🧵 Paras Dahal, @anton_bakhtin , @TacoCohen , Zhengxing Chen, Carole-Jean Wu, Rob Fergus, Scott Yih, @syhw , @rsalakhu , @prfsanjeevarora , @jaseweston