#数据/训练

TRL v1.0：与领域同步发展的后训练库

Hugging Face 正式发布 TRL v1.0，这是一个专为大语言模型后训练设计的开源库。该版本整合了 SFT、RLHF 等多种高效微调技术，提供从监督微调到人类反馈强化学习的完整工具链。新库支持与 Transformers、PEFT 等主流框架无缝集成，显著简化了模型对齐流程。此次更新旨在降低大语言模型微调门槛，推动AI技术民主化，使开发者能够更便捷地提升模型在对话、安全等方面的性能表现。

构建更优的 AI 基准测试：多少评分者才够？

Google Research 提出基于"gold"评级数据的机器学习评估框架，通过模拟器优化评分项目数量与评分者数量的权衡。研究挑战了当前 AI 基准测试仅使用 1-5 名评分者的行业标准，发现要准确捕捉人类观点差异通常需要超过 10 名评分者。该框架为构建高可复现性且成本高效的 AI 评估体系提供了路线图，并开源了模拟工具。

Show HN: 基于 TypeScript 的稳健 LLM 网页数据提取工具

Lightfeed Extractor 发布基于 TypeScript 的 LLM 网页数据提取库，支持通过自然语言提示和 Zod schema 从 HTML、Markdown 或纯文本中提取结构化数据。核心功能包括 HTML 转 Markdown 预处理、JSON 模式输出、失败 JSON 自动修复及 token 追踪。可与 Playwright 集成加载动态页面，或配合 browser-agent 实现自然语言导航后提取，适用于电商竞品监控等生产级场景。

Together AI 研究：弱模型用分而治之框架在长上下文任务上匹敌 GPT-4o

Together AI 发表于 ICLR 2026 的论文提出长上下文任务的 Divide & Conquer 框架，发现 Llama-3-70B、Qwen-72B 等较弱模型经合理分块与规划后可匹敌或超过单次读取全文的 GPT-4o。

Anthropic@AnthropicAI· 01:45

Anthropic Economic Index 显示，随着使用经验增长，用户更倾向于与 Claude 仔细迭代而非赋予完全自主权，同时尝试更高价值任务并获得更成功回复。

SGLang亮相NVIDIA GTC 2026：三天五场活动展示开源AI基础设施实力

SGLang亮相Jensen Huang主题演讲AI生态图谱，三天内密集举办五场活动。团队与RadixArk合办200人技术聚会，在LinkedIn总部举办搜索与推荐LLM系统研讨，并参与700人规模的Novita行业论坛。官方培训实验室发布Miles RL框架，解决生产环境训练-推理不匹配难题；LinkedIn工程师分享预填充优化方案，在H100上实现2–3倍吞吐量提升并回馈上游。

Jim Fan@DrJimFan· 01:41

EgoVerse 生态系统正式发布：由4家研究实验室与3家行业伙伴共建，基于1300+小时第一人称人类视频数据，覆盖240个场景与2000+项任务。无需真实机器人即可规模化训练，通过行为克隆直接从人类数据学习，2026年机器人学习将彻底告别遥操作模式。

绘制现代世界：S2Vec 如何学习城市的语言

Google Research 发布自监督地理空间框架 S2Vec，利用 S2 Geometry 将地球表面划分为分层单元格，把建筑、道路等特征栅格化为多层图像，通过掩码自编码器（MAE）学习通用嵌入向量。无需人工标注即可预测人口密度、房价等社会经济指标，在地理外推任务中表现优于图像基线模型，但树冠覆盖和海拔等环境预测任务仍需改进。

一日之内构建领域特定嵌入模型

英伟达在Hugging Face平台发布技术博客，分享了一种在24小时内快速构建高质量领域特定嵌入模型的方法。该方法通过结合高效微调技术与领域数据，显著提升了模型在专业任务中的语义理解与检索性能，为企业和开发者提供了低成本、高效率的定制化嵌入解决方案。

Thinking Machines Lab 与 Mantic 用 RL 微调 gpt-oss-120b，将其预测能力提升至前沿 LLM 水平

Thinking Machines Lab 与 Mantic 发布客座技术文章，展示通过 Tinker 用强化学习微调 gpt-oss-120b，在 Metaculus AI Benchmark Q2 2025 上将 baseline score 从 38.6 提升到 45.8，略超 Gemini 3 Pro 等前沿 LLM。

Together AI 微调服务新增工具调用、推理与视觉支持，吞吐最高提升 6 倍

Together AI 扩展 Together Fine-Tuning，新增工具调用、推理和视觉语言模型微调支持，覆盖 OpenAI 兼容 schema 的端到端微调与推理。

Rachel Thomas 谈 AI 在生命科学中的风险与局限

Answer.AI 联合创始人 Rachel Thomas 与 KAMI Think Tank 的 Kamayani Gupta 对谈 AI 在生命科学中的风险与局限。

Mistral 推出 Forge：面向企业构建基于专有知识的前沿级 AI 模型

Mistral 发布企业级系统 Forge，让企业用内部文档、代码库和运营数据训练前沿级 AI 模型。Forge 支持预训练、后训练与强化学习，兼容 dense 和 MoE 架构及多模态输入，并已与 ASML、爱立信、欧洲空间局等机构合作。该系统以智能体优先设计，Mistral Vibe 等自主智能体可用自然语言完成微调与超参调优。

Miles RL框架正式支持ROCm：基于AMD Instinct GPU的大规模后训练

开源RL框架Miles正式支持ROCm，可在AMD Instinct MI300/350 GPU上原生运行大规模语言模型后训练。该框架采用解耦架构分离rollout生成与模型优化，针对RL工作负载中占比70-90%的推理场景优化。在单节点8卡MI300X上训练Qwen3-30B-A3B的实测显示，rollout吞吐达1.1k-1.3k tok/GPU/s，AIME准确率从66.5%提升至72.9%。现提供预构建容器，支持GRPO、Megatron-LM和FSDP后端。

利用机器学习改进乳腺癌筛查工作流程

Google Research与NHS合作在Nature Cancer发表两项AIMS研究，评估AI乳腺癌检测系统。回顾性分析11.6万例乳腺X光片显示，AI敏感性显著高于原始第一读者且不降低特异性，癌症检出率从7.54升至9.33/1000，检出25%间隔癌；前瞻性研究验证技术整合可行性。第二项研究进一步测试AI替代双读流程中第二读者的端到端效果。研究为AI辅助筛查提供证据，有望缓解放射科医生30%-40%短缺压力。

重磅：昂贵的新证据表明规模扩张并非万能

两项耗资巨大的AI实验相继失败，为"规模扩张并非实现突破的唯一路径"提供了新的佐证。这些结果表明，单纯依靠增加算力、数据和模型参数的传统Scaling策略可能已触及瓶颈，行业需要探索新的技术范式，而非一味追求规模扩张。

OpenMOSS 等提出 RLCF：AI 也能学会科学品味

OpenMOSS / 复旦NLP / 上海创智 / MOSI 团队发布论文《AI Can Learn Scientific Taste》，提出从科研社区反馈学习的 RLCF 方法，把判断高影响力研究的品味转化为偏好建模问题。

Dylan Patel — 深度剖析 AI 算力扩展的三大瓶颈

Dylan Patel 深度解析了制约 AI 算力规模扩张的三大核心瓶颈：电力基础设施限制、先进制程芯片产能不足以及网络互联带宽瓶颈。尽管 NVIDIA H100 已发布三年，受供需严重失衡及新一代芯片交付延迟影响，其市场价格与战略价值持续攀升，当前实际价值甚至超过发布初期。文章指出，这些结构性约束正重塑 AI 基础设施的投资逻辑与部署节奏。

面向 LLM 的大规模交互作用识别

伯克利人工智能研究所提出 SPEX 与 ProxySPEX 算法，通过信号处理与编码理论实现大语言模型关键交互作用的高效识别。该方法基于" influential interactions 具有稀疏性与低阶性"的核心观察，将指数级搜索问题转化为可解的稀疏恢复问题，以极少的消融次数定位驱动模型输出的关键特征组合与内部组件依赖，突破传统方法在计算规模上的限制。

Answer.AI 用 PyPI 数据检验 AI 生产力效应：包创建未见激增，热门 AI 包更新频率翻倍

Answer.AI 分析 PyPI 数据后发现，ChatGPT 发布后 Python 包创建率没有明显上升，整体更新频率的缓慢增长早在 2019 年就已开始。但热门 AI 相关包更新频率跃升至每年 21-26 次中位数，是热门非 AI 包（约 10 次）的两倍多。

利用AI驱动的山洪预测保护城市

Google Research在Flood Hub推出城市山洪预测服务，采用新型AI方法Groundsource从新闻报道中提取历史洪水数据作为训练集，结合全球天气模型，可为城市地区提供最长24小时预警。该系统以20x20公里分辨率运行，无需依赖高分辨率水文地图或本地雷达，旨在解决全球南方国家山洪预警基础设施不足的问题，弥补传统 riverine 洪水预测无法覆盖快速 onset 灾害的空白。

Lilian Weng@lilianweng· 01:08

构建技术以在下一代大规模硬件上实现更好的人机协作。令人兴奋。

Noam Brown@polynoamial· 00:17精选

当今前沿推理模型的训练路径与 AlphaGo 高度一致：先模仿大量人类数据，再扩展推理计算（从蒙特卡洛树搜索到思维链），最后用强化学习突破模仿上限。Demis Hassabis 称，十年前 AlphaGo 的"第37步"预示 AI 可攻克真实科学难题，这些思路对构建 AGI 仍至关重要。

改进前沿 LLM 的指令层级

IH-Challenge 训练模型优先处理可信指令，改进指令层级、安全可控性，并提升对提示词注入攻击的抵抗能力。

Hugging Face Hub 正式推出 Storage Buckets 存储服务

Hugging Face Hub 发布 Storage Buckets，这是一种为机器学习工作流设计的可变、类 S3 的对象存储服务。它基于 Xet 存储后端，能对跨文件共享内容的 ML 工件进行高效去重，从而节省带宽、加速传输并降低存储成本。该服务还提供“预暖”功能，可将数据预先迁移至靠近计算资源的云区域，以提升分布式训练等场景的效率。目前支持 AWS 和 GCP，用户可通过 CLI 或 Python 库在 2 分钟内快速创建和同步存储桶。

Ulysses Sequence Parallelism: 实现百万令牌上下文的训练

研究团队发布了Ulysses序列并行方法，这是一种用于训练大型语言模型的新技术。该方法通过将长序列在设备间进行特定维度的分割与重组，实现了对极长上下文的并行处理。其核心变化在于能高效训练上下文长度高达百万令牌的模型，突破了现有方法在序列长度上的扩展瓶颈。这一进展使得在保持高训练效率的同时，处理书籍、长文档等超长文本成为可能，为推进AI的民主化与开源发展提供了关键技术支撑。

Olmo Hybrid 与未来 LLM 架构

Olmo 发布采用混合架构的最新模型，聚焦开源后训练工具的前沿技术探索。该模型代表了大语言模型架构的新进展，围绕后训练阶段的优化方法与工具创新展开讨论，为开源社区提供了模型训练与架构演进的最新实践参考。相关技术动向揭示了 LLM 开发流程中后训练环节的关键趋势。

Saining Xie@sainingxie· 07:55

来自 @TongPetersb、@DavidJFan 和 @__JohnNguyen__ 的又一项科学探索，即使你身处前沿实验室，也可能会让你学到新东西 这里有很多有趣的观察，但我只强调一点： - 尝试用 MoE 扩展 DiTs 大多徒劳无功，这算是行业公开的秘密。 - 但 RAE 与 MoE 之间意外却直观的协同作用，可能真的会改变这一点。 [引用 @TongPetersb]：超越语言训练。我们押注视觉世界，将其作为与语言建模并行且超越它的关键下一步。因此，我们研究了从零开始用视觉构建基础模型。我们分享我们的探索：视觉表征、数据、世界建模、架构和扩展行为！[1/9]

阶跃星辰 Step 3.5 Flash 预训练/中训练/训练框架全部开源

阶跃星辰将 Step 3.5 Flash 的预训练、中训练和训练框架全部开源，支持开发者进行更深度模型定制，以打造专属 AI 智能体。

PRX 第三部分 —— 24小时内训练一个文本到图像模型！

Photoroom团队在Hugging Face上发布博客，宣布成功在24小时内完成一个文本到图像模型的训练。这一突破将此类模型的典型训练周期从数周大幅缩短至仅一天。实现的关键在于采用了名为PRX的高效训练方法，该方法优化了计算资源分配与数据处理流程。此举显著降低了模型训练的时间与成本门槛，为快速迭代和部署高质量的图像生成AI模型提供了新的可能性。

Cognition 发布 SWE-1.6 早期预览并分享 RL 训练研究进展

Cognition 发布 SWE-1.6 早期预览，当前 checkpoint 在 SWE-Bench Pro 上比 SWE-1.5 高 11%，达到 51.7%，速度同为 950 tok/s，并向小部分用户开放早期访问。

Jim Fan@DrJimFan· 01:22精选

研究团队提出EgoScale方法，基于20,000小时第一人称人类视频预训练GR00T N1.5，仅用4小时机器人数据即可掌握组装模型车、操作注射器等高灵巧度任务，性能较从头训练提升54%。研究发现人类视频量与动作预测损失呈对数线性缩放关系（R²=0.998）。该方法利用22-DoF手部与人类的运动学相似性，无需复杂迁移算法即可重定向动作。策略可跨硬件迁移至Unitree G1（7-DoF），性能提升30%以上，且仅需单个示教即可学习新任务。

蒸馏对中国 LLM 到底有多重要？

针对 Anthropic 关于"蒸馏攻击"的最新论述，分析模型蒸馏技术对中国大语言模型的实际影响。探讨通过蒸馏 GPT、Claude 等模型来训练中国 LLM 的效果与争议，评估该方法在提升模型性能与降低训练成本方面的作用，以及可能引发的知识产权与安全问题。

Liquid AI 发布早期检查点 LFM2-24B-A2B，24B 总参数仅 2.3B 激活

Liquid AI 发布 LFM2 系列最大模型 LFM2-24B-A2B 的早期检查点，为 MoE 架构，24B 总参数、每 token 约 2.3B 激活，可放进 32GB 内存部署于云端和边缘设备。

Together AI 发布 SF Streets 基准，揭示语音模型街名转写错误率达 39% 并用跨语言风格迁移降低 60% 错误

Together AI 发布 SF Streets 与 US Streets 两项基准，测试 15 个先进 ASR 模型在街名转写上的表现，发现平均错误率达 39%，非英语母语者准确率比英语母语者低 18 个百分点（46% vs 64%）。

使用 Unsloth 和 Hugging Face Jobs 免费训练 AI 模型

Hugging Face 宣布通过其平台提供免费 AI 模型训练服务，用户可结合 Unsloth 高效训练工具与 Hugging Face Jobs 功能，无需支付费用。该举措旨在降低 AI 开发门槛，推动开源开放科学，促进人工智能技术的民主化进程。核心变化在于将原先需付费或自建基础设施的训练流程，整合为平台内可直接调用的免费资源，显著减少开发者的时间和经济成本。

训练加速40倍、打破“不可能三角”：MiniMax Agent RL 架构解密

MiniMax 解密其 Agent RL 架构，该架构实现了 40 倍训练加速，并打破了训练效率、模型性能与推理能力之间的“不可能三角”。

腾讯混元新研究：瞄准强化学习“工程深水区”，RLVR 模型调优走向科学化

腾讯混元在强化学习领域的新研究聚焦 RLVR 模型调优，目标是使调优过程从经验性的“玄学”转向更具可解释性和可复现性的科学范式。

通过 Token 级梯度诊断与 Layerwise Clipping 稳定 RLVR 训练

提出一种稳定 RLVR 训练的新方法，采用 Token 级梯度诊断技术精准定位异常梯度来源，结合逐层梯度裁剪（Layerwise Clipping）对不同网络层实施差异化约束，有效抑制训练过程中的梯度爆炸与策略震荡，提升强化学习训练的稳定性与收敛效率。

BeingBeyond 系统研究 VLA 模型扩展：动作对齐、数据混合与训练正则化

BeingBeyond 发表 VLA 扩展系统性研究，指出 EEF-Relative 动作表示对跨本体迁移至关重要（冻结 VLM 下 LIBERO 平均成功率 75.1%，+8.2%），而朴素混池异构机器人数据常导致负迁移，如 RoboCasa 上 D2 降至 48.8% 低于 D1 的 54.7%。