#数据/训练

Together AI 研究：不给指令时 LLM 各有知识偏好，GPT-OSS 过半生成编程与数学

Together AI 发布研究，用话题中立的极简提示（如“Actually”“.”）并移除 chat template，观察 LLM 的近无约束生成行为。

Nvidia 为何构建开源模型：对话 Bryan Catanzaro

Interconnects 第17期访谈中，Nvidia 副总裁 Bryan Catanzaro 系统回顾了 Nemotron 开源模型项目的技术演进与战略定位。访谈涵盖该系列模型从研发初期到当前版本的迭代历程，剖析了英伟达在开源 AI 领域的布局逻辑，并披露了 Nemotron 在合成数据生成与模型训练效率方面的最新进展及未来规划。

从上下文学习比我们想象的更难

上下文学习（in-context learning）的实际效果存在明显局限。研究表明，大语言模型难以从提示示例中真正提取任务规则，往往依赖表面模式匹配而非深层理解。单纯增加示例数量无法线性提升性能，模型容易受到示例顺序和分布的影响，需要重新评估该能力的实际边界。

Post-LayerNorm 回归：稳定、高表达力与深度

提供的正文内容为 PDF 二进制流数据及乱码，无法提取有效信息（如具体方法、实验指标或模型发布细节），因此无法撰写准确摘要。请提供可读的文本内容（如论文摘要或正文段落），以便提取关键信息点完成摘要撰写。

解锁GPT-OSS的智能体强化学习训练：一项实践回顾

LinkedIn团队探索了将GPT-OSS模型作为智能体应用核心进行强化学习的可行性。实验发现，由于GPT-OSS采用的混合专家架构在两次前向传播中可能产生路由差异，导致在同策略PPO训练中出现重要性采样比率偏离、KL散度爆炸及奖励不增长的问题。团队通过一个关键修复——在同策略条件下强制将旧对数概率设置为新计算值（并分离梯度），确保了重要性采样比率为1，从而恢复了PPO同策略训练的完整性。该修复方案适用于GPT-OSS-20B及GPT-OSS-120B模型。

持续学习为何催生后单体时代的专家模型生态

作者提出持续学习与专用化不可分离：LLM 的 KV cache 随上下文线性增长，通用模型每次更新都要维护全部表征一致性，而窄域模型可在有界空间内自由更新。文章梳理了 Cartridges、状态空间模型、稀疏记忆微调、DeepMind 嵌套学习、EAFT、Titans 等路线，认为它们都未逃脱稀疏化更新或时间尺度分离带来的干扰限制。

单卡H200部署1TB模型：INT4 QAT RL端到端实践

SGLang RL团队联合多家机构开源INT4量化感知训练端到端方案。受Kimi K2启发，训练阶段采用伪量化，推理阶段使用W4A16（INT4权重、BF16激活）真实量化，实现与BF16全精度相当的稳定性。该方案将约1TB模型压缩至单张H200（141GB）GPU即可完成rollout，彻底消除跨节点通信瓶颈，显著提升推理效率，为大规模模型训练提供高性能、低成本的开源实践参考。

Saining Xie@sainingxie· 06:53

喜欢这段预告片哈哈（而且是真的） 学术界把我们限制得太紧了，差点崩溃，但我们挣扎着爬了出来，在另一边发现了一个全新的宇宙😅 感谢 Google 支持我们这些缺 GPU 的叛逆者，带我们踏上这段旅程，帮助我们建立了我认为是 Google 之外最好的 TPU/GCP 基础设施团队之一 [引用 @TongPetersb]：我们已经在学术界用 TPU 训练两年了（非常感谢 Google TRC！）。像 Cambrian-1、Cambrian-S、RAE 和 Scale-RAE 这样的工作没有 TPU 是不可能的。 我们写了一篇博客文章分享我们的经验、优化和教训：https://cambrian-mllm.github.io/blog/tpu-training-experiments.html 我们希望这能帮助更多人更顺畅地使用 TPU，它们非常强大！

近期阅读清单 - 2026年1月10日

作者发布2026年1月10日阅读清单，涵盖非线性动力学与混沌理论、探讨AI自动化的《Machines of Loving Grace》、Neuralink联合创始人Max Hodak关于意识的理论假说，以及神经网络训练过程中产生精美分形图案的现象。内容横跨复杂系统、神经科学与机器学习可视化等多个前沿领域。

Prime Intellect 拆解 Recursive Language Models：用 Python REPL 和子 LLM 折叠长上下文

Prime Intellect 在 verifiers 中实现 RLM（递归语言模型）脚手架，让主模型通过 Python REPL 检查输入数据、调用可并行的子 LLM，并在四个环境（DeepDive、math-python、Oolong、verbatim-copy）用 GPT-5-mini、GLM 4.6、GLM 4.5 Air、INTELLECT-3 做消融。

Adam Marblestone — AI 缺失了关于大脑的根本认知

Adam Marblestone 指出，当前人工智能研究忽略了大脑运作的核心机制。与业界普遍关注神经网络架构不同，大脑的真正优势在于其奖励函数而非结构本身。这一观点挑战了主流 AI 研究范式，暗示未来突破可能来自对大脑激励系统的深入理解，而非单纯的架构模仿。该论断为人工智能发展提供了新的思考维度。

可蒸馏模型与合成数据管道：使用 NeMo Data Designer

介绍如何利用 NeMo Data Designer 构建许可安全的合成数据工作流，用于模型特化（model specialization）。该管道支持生成可蒸馏模型所需的高质量合成数据，确保数据来源合规，适用于下游微调与领域适配场景。

使用 NeMo Data Designer 构建可蒸馏模型与合成数据流水线

NeMo Data Designer 提供符合许可证安全的合成数据工作流，用于模型专门化与知识蒸馏，帮助开发者高效生成定制化训练数据。

利用NeMo Data Designer构建可蒸馏模型与合成数据管道

NVIDIA推出NeMo Data Designer工具，帮助企业生成合规的合成数据工作流，用于定制化大模型训练。该工具通过创建“许可证安全”的合成数据，规避版权风险，并支持构建可蒸馏的轻量级模型。它为在特定领域数据受限的企业提供了端到端的合成数据生成与管理解决方案，助力模型高效微调与优化。

Anthropic 等提出 Activation Oracle：训练 LLM 以自然语言回答模型激活相关问题

Anthropic 联合 MATS、Truthful AI 等机构发布研究，训练 Activation Oracle（AO）将 LLM 神经激活作为输入，用自然语言回答关于激活的任意问题。

Transformers v5 中的分词：更简单、清晰与模块化

Transformers v5 发布了全新的分词处理架构，核心变化是引入了更简单、统一的 API 设计，将分词器、后处理器和解码器模块化。新版移除了大量遗留代码，使代码库体积减少了约 40%，并显著提升了处理长文本和特殊 token 的灵活性。这一改进旨在降低开发者使用门槛，同时为各类大语言模型（如 GPT、Claude、LLaMA）提供更高效、一致的分词支持。

英国 AI Security Institute 联合 Thorn 发布防范 AI 生成儿童性虐待材料的安全协议

英国 AI Security Institute（AISI）与儿童安全组织 Thorn 发布安全协议，指导 AI 开发者和托管平台防止系统被滥用于生成儿童性虐待材料（CSAM）。配套的11月新立法将在严格条件下授权少量组织直接测试模型能否被用于生成此类内容，协议同时列出监测、访问控制等措施，并指出在训练数据和模型输出中可靠检测 CSAM 仍是待解的技术难题。

Generalist@GeneralistAI· 23:43AI 评分4343

更多预训练可提升 GEN-0 真实机器人性能（通过闭环 rollout 的盲 A/B 评估验证）。 在低数据场景下改进显著，但最佳模型在预训练与充足后训练的共同作用下表现更优。 详见博客附录：http://generalistai.com/blog/nov-04-2025-GEN-0

Saining Xie@sainingxie· 07:28精选

新论文：iREPA 扩散模型是其底层表征的渲染器。通过这种新设置，我们能更清楚地洞察这些表征的真正含义。Jas 开始了一场自发的探索，过去三个月我们学到了很多 ps. 这也是我们对一种新型线上"饮水机效应"的小实验，我很喜欢看到这种现象。让我们争论、讨论，然后用真正的努力将其转化为正经科学 [引用 @1jaskiratsingh]：‼️ 表征对生成很重要！但事实证明，我们对表征如何帮助生成的理解一直都是错的 ‼️ 我们之前的想法：（我们错了） ❌ 更大的视觉编码器 → 更好的表征 → 更好的生成 ❌ 更好的全局语义 → 更好的表征 → 更好的生成 结果发现： 🤯 在表征对齐方面，小 20 倍以上的视觉编码器可以达到与更大模型相似或更好的性能 🤯 线性探测准确率约 20%（全局语义的衡量指标）的视觉编码器可以胜过准确率 >80% 的编码器 🤯 即使是 SiFT 和 HoG 这类经典特征也能带来与现代大得多的视觉编码器相媲美的提升 ‼️ 🚨 介绍：什么对表征对齐重要？全局信息还是空间结构 🚨 TL;DR： ✅ 更好的全局语义信息 ≠ 更好的生成 ✅ 空间结构（而非全局语义）驱动表征的生成性能 ✅ 我们提出 iREPA：仅需 3 行代码，强调空间结构迁移，并在 REPA、REPA-E、Meanflow、JiT 等方法上持续提高收敛速度 在 @AdobeResearch 的激动人心的项目，与 @xingjian_leng、@zongze_wu、@LiangZheng_06、@rzhang88、@elishechtman 和 @sainingxie 合作 🙏 对我来说这也是一次特别有趣且独特的经历，在项目的每一步我们都在证明自己的偏见是错误的 😆 还要大力感谢 @YouJiacheng、@ShumingHu 和 @gallabytes，他们在 X 上的评论开启了这一方向的探索 🫡 论文：https://arxiv.org/abs/2512.10794 代码：https://github.com/End2End-Diffusion/iREPA 项目页面：https://end2end-diffusion.github.io/irepa 更多细节见线程：[1/n] 🧵

Thinking Machines Lab 宣布 Tinker 全面开放并支持视觉输入

Thinking Machines Lab 宣布 Tinker 正式开放（GA），取消候补名单，并新增四项更新：支持微调 Kimi K2 Thinking（万亿参数。

inclusionAI/LLaDA2.X

蚂蚁集团InclusionAI团队推出扩散语言模型系列LLaDA2.0。该系列模型基于扩散架构开发，专注于语言生成任务，是团队在大型语言模型领域的最新成果。

小红书技术提出细粒度激活卸载：大模型训练显存与吞吐性能联合最优方案

细粒度激活卸载（Fine-grained Activation Offloading）采用模块级粒度，将计算与内存传输重叠，并兼容全并行设计，在主流大模型训练中同时降低峰值显存开销并提升吞吐性能，实现显存开销与吞吐性能的联合最优，获得显著性能收益和显存收益。

Anthropic 提出 SGTM：将危险知识定位到可移除参数，实现 LLM 能力删除

Anthropic 提出 Selective GradienT Masking（SGTM），在训练时把 CBRN 等危险知识定位到专用"forget"参数，训练后将其置零即可移除危险能力。在 254M 参数、英文 Wikipedia 训练的模型上，SGTM 在移除生物学知识与保留通用能力之间的权衡优于数据过滤，且恢复被删知识所需重训练量比其他 unlearning 方法多 7×。

SAPO：一种用于训练大语言模型的稳定且高性能的强化学习方法

Qwen Studio 提供涵盖聊天机器人、图像与视频理解、图像生成、文档处理、网络搜索集成、工具使用及 Artifacts 在内的全面功能。

利用Claude微调开源大语言模型的新途径

Anthropic的研究人员探索了一种新方法：使用其强大的闭源AI助手Claude来生成高质量的指令遵循数据，并用这些数据对较小的开源模型（如LLaMA系列）进行监督微调。这项实验旨在展示如何利用尖端闭源模型的能力来指导和改进可公开访问的开源模型性能，从而推动AI技术的进步与民主化。

蚂蚁 inclusionAI 开源通用 RL 状态数据管理系统 AState

AState 是蚂蚁 inclusionAI 开源的通用 RL 状态数据管理系统，已在内部 ASystem 中部署，支持万亿参数规模权重同步仅需约 6 秒，远优于行业分钟级延迟。系统提供统一张量级 API，具备单边读写语义（put/get/multi_put/multi_get/complete），架构分为 API 层、服务层和传输层，实现拓扑感知调度、RDMA 零拷贝传输、零冗余张量分片。RL 原生状态管理（进行中）包括 KV 缓存持久化与恢复、激活缓存卸载、智能体多轮对话与工具调用状态的缓存恢复。

GR-RL 发布:突破 VLA 精细操作瓶颈,首次实现真机强化学习穿鞋带

字节跳动 Seed 团队发布 GR-RL，采用离线数据筛选结合在线真机微调的强化学习框架，突破 VLA 模型长时程精细操作瓶颈，首次实现机器人连续穿鞋带。相比前作 GR-3，成功率从 45.7% 提升至 83.3%，减少近 70% 失败。方案通过 Critic 价值判别器剔除次优演示数据，并在隐空间探索优化，解决模仿学习的数据次优性与执行错位问题，模型涌现出自纠错与场景调整能力。

从研究到生产：在Vertex AI上用EAGLE-3加速开源大模型

Vertex AI团队推出基于EAGLE-3的推测解码加速方案，通过为目标模型（如Llama 70B）添加仅占2-5%参数量的轻量级draft head，取代传统独立draft模型，实现2-3倍解码速度提升。文章详述了从研究到生产的完整工程链路：构建合成数据生成管道解决版权与PII问题，采用离线训练策略预计算embeddings，并强调chat template匹配、mask设置及SGLang服务框架选型的关键作用，最终解决CPU瓶颈问题实现规模化部署。

Ilya Sutskever@ilyasut· 23:13精选

我之前说的一点没被传达清楚： - 继续扩展当前的技术会持续带来进步。特别是，它不会停滞。 - 但某些重要的东西仍会继续缺失。 [引用 @haider1]：以下是今天 ilya sutskever 播客的要点： - 5-20 年内实现超级智能 - 当前的扩展将严重停滞；我们回到了真正的研究 - 超级智能 = 超快速的持续学习者，而非完成的预言机 - 模型的泛化能力比人类差 100 倍，这是最大的 AGI 阻碍 - 需要全新的 ML 范式（我有想法，现在不能分享） - AI 影响将很剧烈，但只在经济扩散之后 - 历史上的突破几乎不需要算力 - SSI 有足够的专注研究算力来获胜 - 当前的 RL 已经比预训练消耗更多算力

Saining Xie@sainingxie· 11:28精选

Meta研究人员透露，Facebook自2020年起使用TPU训练AI，由Kaiming He领导开发TF和JAX代码库，MAE、DiT等模型完全基于TPU构建。因内部采用有限，Meta于2023年取消GCP协议。推文指出，Google、Anthropic等实验室长期使用TPU训练大模型，Nvidia的CUDA护城河并非不可逾越，OpenAI亦投资Triton寻求替代。TPU与GPU的效率差异并非关键，系统工程人才才是决定性因素。

Saining Xie@sainingxie· 08:17精选

好吧，有人已经向我们宣扬这个大概6年多了 很高兴我们已经过了"感受AGI"的阶段，回到了构建人类水平智能的道路上 https://t.co/Qp8FyLPaQU [引用 @dwarkesh_sp]："AGI和预训练发生的事情是，在某种意义上它们过冲了目标。 你会意识到人类并不是AGI。因为人类缺乏大量的知识。相反，我们依赖持续学习。 如果我培养出一个超级聪明的15岁孩子，他们其实什么都不知道。一个优秀的学生，非常渴望学习。[你可以说，]'你去当程序员吧。你去当医生吧。去学习和成长。' 所以你可以想象，部署本身将涉及某种学习试错期。这是一个过程，而不是你扔下一个成品就完事了。" @ilyasut

Prime Intellect 发布 INTELLECT-3：106B 参数 MoE 模型，大规模 RL 训练并全栈开源

Prime Intellect 发布 INTELLECT-3，一个 106B 参数的 MoE 模型，在 GLM-4.5-Air 基座上经 SFT 和大规模 RL 训练，在数学、代码、科学和推理基准上达到同规模最先进水平。

LlamaIndex 发布 LlamaSheets Beta，将杂乱电子表格转为 AI 可用数据

LlamaIndex 发布 LlamaParse 新 API LlamaSheets（Beta，免费），把任意 .xlsx 电子表格语义化结构为 Parquet 文件，供 Agent 或下游应用使用。

统一 FP8：超越混合精度，实现稳定且加速的 MoE RL

InfiXAI、Ant Group AQ、SGLang RL 与 Miles 团队联合实现了端到端 FP8 强化学习训练与采样方案。实验表明，MoE 模型在使用 BF16 训练与 FP8 推理时，规模越大训练-推理差异越显著；统一采用 FP8 进行训练和推理可有效消除量化误差导致的不一致性，显著提升训练速度与稳定性。该方案已支持 Qwen3-4B 和 Qwen3-30B-A3B 模型，并在 miles 框架中开箱即用。

Zyphra 发布 ZAYA1 预览：首个在 AMD 全栈上端到端预训练的模型

Zyphra 预告 ZAYA1，称其为首个完全在 AMD 硬件、软件和网络栈上端到端训练的 AI 模型，并发布技术报告至 arXiv。

Ilya Sutskever@ilyasut· 04:24精选

重要工作 [引用 @AnthropicAI]：Anthropic 新研究：生产环境 RL 中 reward hacking 导致的自然涌现不对齐。 "Reward hacking" 是指模型学会在训练期间对分配给它们的任务作弊。 我们的新研究发现，如果不加以缓解，reward hacking 的后果可能非常严重。https://t.co/N4mRKtdNdp

Eugene Yan 详解构建产品评测的三个简单步骤

Eugene Yan 撰文总结构建产品评测的三个步骤：标注小数据集、对齐 LLM 评估器、随每次配置变更运行评测管线。建议使用二值标签、在 200+ 样本中保留 50-100 个真实失败案例、每个维度单独建评估器而非单一 God Evaluator，并以 Cohen's Kappa 衡量与人工标注的一致性，基准是而非完美。

RapidFire AI 实现20倍更快的 TRL 微调

RapidFire AI 发布了一套加速 TRL 微调的工具，通过自适应分块调度方案，允许在单个或多个 GPU 上并发启动多个训练配置并实时比较。内部基准测试显示，实验吞吐量比顺序执行高出约 16 至 24 倍。该工具提供即插即用的 TRL 配置包装器、分块并发训练、支持实时停止/恢复/克隆修改的交互式控制操作、自动多 GPU 编排以及 MLflow 仪表板，使用户能快速筛选最优配置，极大提升微调效率。

Transluce 研究：语言模型电路在神经元基座上同样稀疏

Transluce 发表研究，用 MLP 激活而非 MLP 输出、并用 RelP 替代 Integrated Gradients，使 Llama 3.1-8B-Instruct 中基于原始神经元的电路在 SVA 基准上达到与 SAE 特征电路相当的稀疏性和忠实度。

Apriel-H1：蒸馏高效推理模型的关键要素

ServiceNow-AI在Hugging Face发布博客，介绍了其提出的Apriel-H1方法，该方法通过知识蒸馏技术有效提升小型模型的推理能力。该方法的核心在于从大型模型中提取并转移复杂的推理路径，使蒸馏后的小模型在多项推理任务上表现显著提升，同时保持高效的部署性能。这一技术为在资源受限环境中部署高性能推理模型提供了新思路。