AlphaEarth Foundations 以前所未有的细节绘制地球地图
AlphaEarth Foundations 新AI模型整合PB级地球观测数据，生成统一数据表示，以前所未有的精度革新全球测绘与监测。
#数据/训练
Google DeepMind：Blog
蚂蚁 inclusionAI：GitHub 新仓库AI 评分4747 inclusionAI/TwinFlow
该研究提出了一种名为“自对抗流”的新方法，旨在驯化大规模少步训练。该方法通过引入一种内部对抗机制来优化流模型在有限训练步数下的性能，有望解决大模型训练中计算成本高昂的挑战。相关工作已被顶级机器学习会议ICLR 2026接收。
Google DeepMind：Blog 利用人工智能深度感知宇宙
利用人工智能技术，科学家能够从海量宇宙数据中提取深层信息，突破传统观测局限，揭示隐藏规律，从而以前所未有的深度感知和理解宇宙，持续拓展人类认知边界。
Google DeepMind：Blog VaultGemma：全球能力最强的差分隐私 LLM
VaultGemma 基于差分隐私技术从头训练，是目前能力最强的隐私保护大语言模型，在严格隐私约束下实现了顶尖性能。
Anthropic：Alignment Science BlogAI 评分5353 Anthropic 发布 Inoculation Prompting 论文，通过训练时提示词减少模型学到不良行为
Anthropic Fellows 等研究人员提出 Inoculation Prompting（IP），在训练提示词中显式要求不良行为（如 hack 测试用例），测试时使用未修改提示词，可减少模型从不对齐数据中学会不良行为。
蚂蚁 inclusionAI：GitHub 新仓库AI 评分4848 inclusionAI/linghe
inclusionAI 开源了专为大语言模型训练设计的高性能内核库 Linghe。该库旨在优化 LLM 训练过程中的计算效率，通过底层内核创新提升训练速度并降低资源消耗。Linghe 支持当前主流的 Transformer 架构模型，为开发者和研究者提供了更高效的训练工具，有望加速 LLM 的开发与迭代进程。
蚂蚁 inclusionAI：GitHub 新仓库精选AI 评分6666 Ming-VideoMAR：基于连续令牌的自回归视频生成模型
Ming-VideoMAR 是一款仅解码器的自回归图像到视频生成模型，采用连续令牌统一视觉表征。它首次将时间因果性与空间双向性作为视频自回归核心原则，并提出了整合掩码生成的下一帧扩散损失。该模型首次实现了视频生成的零样本分辨率缩放，能灵活生成远超训练分辨率的视频。其在训练与推理效率上表现突出，参数量、训练数据量和GPU消耗仅为之前最佳模型Cosmos的极小比例（9.3%、0.5%和0.2%），同时在定量与定性评估中均实现超越。模型代码与检查点已开源，论文已被NeurIPS 2025接收。
推荐理由：蚂蚁把自回归视频生成的训练成本砍到 Cosmos 的 0.2% 还能赢，这个效率信号比分数本身更值得关注，做视频生成的团队该认真看看它的课程学习和渐进分辨率策略。
Berkeley RDI：Blog RL顿悟配方：如何让大模型通过强化学习攻克无解任务？
研究团队发布合成编程基准DELTA与Manufactoria测试平台，针对基础模型pass@128为零的分布外任务，提出两阶段奖励调度方案：先以密集每测试奖励打破零梯度僵局，再切换至二元全通奖励巩固精确解。实验显示，RL训练在漫长平台期后会出现"grokking"式相变，准确率骤升至约100%，证明模型能够发现全新策略而非仅优化已有知识。迁移测试表明，习得策略可重组编程子技能并外推至更难参数范围，但在需要新不变量的结构性转变上仍受限。
Thinking Machines Lab：News精选AI 评分6060 Thinking Machines Lab 发布语言模型微调 API Tinker
Thinking Machines Lab 于 2025 年 10 月 1 日发布 Tinker，一个用于微调语言模型的灵活 API，官方处理分布式训练的复杂性，用户可控制算法和数据。
推荐理由：原文来自官方发布，说明了 Tinker 的微调能力、LoRA 成本方式和早期用户实例，可据此判断其对研究者的可用性。
Thinking Machines Lab：官方博客精选AI 评分6969 Thinking Machines Lab 发布 LoRA Without Regret 研究
Thinking Machines Lab 发表研究，系统刻画 LoRA 与全量微调（FullFT）表现相当的“低后悔区间”，覆盖多数后训练场景。核心结论是 LoRA 应用于全部权重层尤其是 MLP/MoE 层且容量不受限时，监督微调与 LoRA 样本效率和最终性能与 FullFT 相当；RL 场景即使 rank=1 也能完全匹配。
推荐理由：文章通过系统实验给出了 LoRA 与全量微调表现相当的两个条件，读者可据此判断自己的微调场景能否改用 LoRA。
Thinking Machines Lab：官方博客AI 评分4141 Thinking Machines Lab 提出模块化流形与流形版 Muon 优化器
Thinking Machines Lab 发布博客，介绍将神经网络各层权重矩阵约束在子流形上的思路，并提出权重约束在 Stiefel 流形上的流形版 Muon 优化器。文章从超球面约束的向量参数示例讲起，说明在切空间内取步可使学习率与实际步长对应，最后提出可组合的"模块化流形"概念，以支持大规模网络训练。
TensorZero：实验与工程博客精选AI 评分6363 TensorZero 实测 OpenAI 强化微调（RFT）是否值得：仅智能体编码任务明显胜出，成本却是 SFT 的 100-700 倍
TensorZero 在数据抽取、智能体编码和客服三个任务上对比了 OpenAI RFT（o4-mini）与 SFT（GPT-4.1 mini）。
推荐理由：作者用三个真实任务实测 OpenAI RFT 与 SFT 的效果和成本差距，给出了按任务类型判断 RFT 是否值得用的可比结论。
LMSYS Blog SGLang 实现确定性推理与可复现 RL 训练
SGLang 基于 Thinking Machines Lab 的 batch-invariant 算子实现全确定性推理，解决动态批处理导致的输出差异问题，兼容 chunked prefill、CUDA graphs 及非贪婪采样。该方案将性能开销从 61.5% 降至 34.35%，配合 CUDA graphs 可实现 2.8 倍加速。SGLang 与 slime 合作进一步实现 100% 可复现的 RL 训练，在 Qwen3-8B 验证中两次独立训练产生完全一致的曲线，为科学实验提供可靠保障。
LMSYS Blog 在 AMD GPU 上优化 FP4 混合精度推理
针对 AMD Instinct MI250/MI300 系列 GPU 缺乏原生 FP4 矩阵乘法支持的问题，研究团队推出 Petit 内核集合，通过 FP16/BF16 × FP4 混合精度计算实现在现有硬件上高效运行 FP4 量化模型。该方案使 Llama 3.3 70B 端到端推理性能提升 1.74 倍，矩阵乘法操作较 AMD 官方 hipBLASLt 库快 3.7 倍。Petit 采用离线重排、LDS 无冲突访问及芯片拓扑感知分区等优化技术，已以 BSD 协议开源并集成至 SGLang 0.4.10 版本。
Together AI 研究与产品博客AI 评分5757 Together AI 微调平台升级：支持 DeepSeek-V3.1、Qwen3-235B 等大模型并扩展上下文长度
Together AI 宣布微调平台升级，新增支持 gpt-oss-120b、DeepSeek-V3.1、DeepSeek-R1、Qwen3-235B、Llama 4 Maverick 和 Scout 等十余个百亿到千亿参数模型的 SFT 和 DPO 训练。
Sam Altman：Blog精选 Jakub 与 Szymon
OpenAI 高层公开致谢首席科学家 Jakub Pachocki 与 Szymon Sidor，二人多次联手攻克被认为不可能的技术难题，主导 Dota RL 扩展、GPT-4 预训练及推理突破，被形容为“不知疲倦”的黄金搭档。
推荐理由：Sam Altman 揭秘 OpenAI 核心科学家与关键技术突破历程
Together AI 研究与产品博客AI 评分6060 Together Instant Clusters 正式商用，提供自助式 NVIDIA Hopper 和 Blackwell GPU 集群
Together AI 宣布 Together Instant Clusters 正式商用，提供自助、API 优先的 GPU 集群开通，从单节点 8 卡扩展到数百卡多节点，支持 NVIDIA Hopper 和 Blackwell GPU，可在分钟级完成配置并选择 K8s 或 Slurm 编排。
BAIR：Berkeley AI Research BlogAI 评分4848 word2vec 究竟学到了什么？BAIR 给出闭式学习理论
BAIR 新论文证明，在若干温和近似下 word2vec 的学习问题可化简为无权重最小二乘矩阵分解，梯度流动态有闭式解，最终学到的表示等价于对目标矩阵 M* 做 PCA。
BAIR：Berkeley AI Research Blog word2vec究竟学到了什么？
本研究提出了word2vec学习机制的完整定量理论，证明其在实际条件下等价于无加权最小二乘矩阵分解。梯度流动力学具有闭式解，最终词嵌入即为PCA结果。从小初始化开始时，模型通过离散步骤逐次学习正交线性子空间（概念），递增嵌入矩阵的秩。这些潜在特征对应由词共现概率和单字概率等可测量语料统计量决定的矩阵顶部特征向量。
英国 AI Security Institute：BlogAI 评分5050 英国 AI Security Institute 梳理开放权重 AI 系统的风险管理方法
英国 AI Security Institute 发布博文，讨论日益强大的开放权重 AI 系统的风险管理方法，涵盖模型内置、脚手架和流程三类策略，如训练数据过滤、防篡改微调、模型溯源、全权限审计和分阶段部署。
LMSYS Blog gpt-oss MXFP4 微调和部署：ModelOpt + SGLang（8月29日更新）
OpenAI 开源模型 gpt-oss 原生采用 MXFP4 量化，但社区长期缺乏针对该低精度格式的训练支持。NVIDIA 推出基于 Model Optimizer 的量化感知训练（QAT）方案，允许在 Blackwell、Hopper、Ampere 及 Ada 等常见 GPU 上直接微调模型，无需转换为 BF16 而牺牲性能。实测显示，经 QAT 微调的 gpt-oss-20b 在多语言推理任务中通过率从 16% 提升至 100%，在安全提示识别任务中从 30% 优化至 97%。微调后的模型可通过 SGLang 部署，保持 MXFP4 格式的推理速度与内存优势。
Anthropic：Alignment Science BlogAI 评分5050 Anthropic 通过预训练数据过滤降低模型 CBRN 有害能力
Anthropic 用分类器识别并移除预训练数据中的 CBRN 有害内容，从头预训练模型后，中等规模模型在有害能力评测上的表现相对随机基线下降 33%，从 33.7±0.4% 降至 30.8±0.4%，而 MMLU、代码和散文等标准基准未见显著下降。该研究测试了微调宪法分类器、提示宪法分类器、Holdout Loss、FastText 和命名实体字符串匹配等 6 种分类方法。
OpenAI Developers精选AI 评分6060 OpenAI Cookbook 教程：用 Hugging Face Transformers 微调 gpt-oss
OpenAI 开发者 Cookbook 发布教程，讲解如何结合 gpt-oss 与 Hugging Face Transformers 进行微调。文章由 Edward Beeching、Quentin Gallouédec 和 Lewis Tunstall 撰写，并从大型推理模型（如 OpenAI o3）通过生成思维链提升准确性的背景切入。
推荐理由：官方 Cookbook 教程给出用 Hugging Face Transformers 微调 gpt-oss 的具体路径，适合需要本地定制推理模型的开发者参考。
EleutherAI：Blog 注意力探针
提出一种将注意力机制引入线性探针的新方法。传统线性探针通过训练简单分类器分析神经网络内部表征，该技术引入可学习的注意力权重，使探针能够动态聚焦输入中的关键特征或特定 token，替代全局池化操作。这种方法提升了对模型决策过程的细粒度解释能力，有助于精准定位 Transformer 架构中影响预测的关键信息路径，为大语言模型的可解释性研究提供了更强大的分析工具。
字节 Seed：Research Papers Seed-Prover：面向自动定理证明的深度与广度推理
Seed-Prover是基于引理的全证明推理模型，支持根据Lean形式验证反馈、已证引理及自我总结迭代优化证明，并采用三种测试时推理策略实现深度与广度兼顾的推理。该系统在形式化IMO历史题目中完成78.1%，在MiniF2F上实现饱和，在PutnamBench上突破50%，大幅领先此前最优水平。针对Lean缺乏几何支持的问题，团队同步推出Seed-Geometry引擎。该系统参加IMO 2025竞赛，在6道题目中完整证明5道。
Modal 官方工程博客AI 评分6060 Modal 推出 GPU 内存快照，GPU 工作负载冷启动最快提速 10x
Modal 发布 GPU 内存快照功能（alpha），基于 CUDA checkpoint/restore API（570 和 575 分支驱动）将 GPU 状态一并纳入快照，Function 冷启动最多提速 10x。
TensorZero：实验与工程博客AI 评分5454 TensorZero 实验：程序化数据筛选蒸馏小模型，推理成本最高降 30 倍
TensorZero 发布实验报告，用 GPT-4.1 的成功对话微调 Gemini 2.0 Flash、GPT-4.1 mini/nano、GPT-4o mini。
Anthropic：Alignment Science Blog精选AI 评分7272 Anthropic 等研究揭示亚阈值学习：模型可经无关数据传递行为特质与失调倾向
Anthropic Fellows Program 等机构的研究提出亚阈值学习现象：学生模型在教师模型生成的数字序列、代码或思维链上微调后，会习得教师的特质，包括对猫头鹰的偏好和失调倾向，即使数据经过严格过滤且不含任何相关语义。
推荐理由：论文展示了看似无关的模型生成数据也能传递行为特质，为依赖过滤的蒸馏训练流程提示了一类难以消除的风险。
Prime IntellectAI 评分5252 Prime Intellect 发布 SYNTHETIC-2：400 万条协作生成的推理轨迹开源数据集
Prime Intellect 发布开源数据集 SYNTHETIC-2，包含 400 万条经验证的推理轨迹，由全球 1253 块 GPU 在 3 天内通过流水线并行分布式推理协作生成，覆盖数学、代码及指令遵循等可验证 RL 任务。
LMSYS Blog slime：面向 RL 扩展的 SGLang 原生后训练框架
slime 团队发布面向大规模 RL 训练的后训练框架 slime，原生集成 SGLang 推理引擎与 Megatron-LM 训练引擎。框架通过 sgl-router 提供可定制 rollout 接口与灵活训练配置，支持同地/解耦部署、同步/异步训练及 SFT 冷启动。用户可通过 OpenAI 兼容 API 与智能体环境交互，无需修改环境代码。框架完整支持 SGLang 优化参数（如 EP MoE、DP Attention）及 Megatron 并行策略（TP/PP/EP/CP），提供独立调试模式与检查点转换工具，基础镜像基于 lmsysorg/sglang:dev。
Prime Intellect精选AI 评分6161 Prime Intellect 发布 SYNTHETIC-2 开源推理数据集与行星尺度流水线并行推理运行
Prime Intellect 发布 SYNTHETIC-2，一个开源推理数据集，基于 DeepSeek-R1-0528 生成经过验证的推理轨迹，并启动行星尺度的流水线并行分布式推理运行。
推荐理由：原文给出流水线并行推理与 TOPLOC v2 验证机制的细节，开源社区可据此了解如何用消费级 GPU 参与大规模推理贡献。
Anthropic：Transformer Circuits精选AI 评分7878 Crosscoder模型差异分析见解
Anthropic可解释性团队在Crosscoder模型差异分析中发现，模型独占特征往往多义性高、激活密集，难以解释。实验表明，这是由于有限特征容量下的竞争：共享特征能同时解释两个模型的激活模式，而独占特征需编码更多信息以证明其存在。团队提出缓解策略，即引入少量指定共享特征并降低其稀疏性惩罚，使独占特征变得更可解释和单义。该方法应用于真实模型时，成功分离出能捕捉模型间行为差异的可解释特征。此外，观察到独占特征激活频率比共享特征高一个数量级，且两模型独占特征数量相近。
推荐理由：为 AI 可解释性提供新视角，助力模型行为分析与安全研究。
Anthropic：Transformer Circuits精选AI 评分7878 一个关于机制（非）忠实性的玩具模型
本文通过“绝对值”玩具模型，揭示了稀疏自动编码器（SAE）和转码器在解释神经网络时可能存在的“机制非忠实性”问题。核心在于，即使转码器能很好地近似模型的输入-输出映射，它也可能采用与原始模型完全不同的内部计算机制。作者特别指出，当训练数据中存在重复数据点时，转码器可能形成专门“记忆”该点的特征电路，而原模型并无此机制。这种机制背离可能导致模型在分布外数据上泛化行为出现差异，从而威胁机械可解释性研究的可信度。文章最后简要讨论了“雅可比匹配”等潜在缓解方法。
推荐理由：揭示可解释性方法中潜在的忠实性问题，帮助开发者更可靠地理解模型内部机制。
EleutherAI：Blog 通过局部体积研究随机网络的归纳偏置
研究团队通过星形域体积估计方法，系统研究随机神经网络参数-函数映射的归纳偏置特性。这项工作建立在先前关于随机采样训练神经网络概率及 Neural Redshift 理论的基础上，致力于解释固定架构下不同任务学习难度存在指数级差异的机制，为理解深度神经网络的泛化能力提供了新的几何分析视角。
Transluce精选AI 评分6666 Transluce 提出 PRBO 方法，用 RL 智能体自动发现 Llama、Qwen、DeepSeek 的罕见病理行为
Transluce 发布研究报告，提出 PRBO（倾向下界）作为稀疏奖励的代理，训练 RL 调查智能体生成真实自然的提示，以激发开源权重模型的指定罕见行为，覆盖 Llama 3.1/4、Qwen 2.5 和 DeepSeek-V3。
推荐理由：Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为，并分析这些行为在真实提示下能否复现。
Anthropic：Alignment Science Blog精选AI 评分6666 Anthropic 提出无监督算法 ICM，在多项任务上匹敌甚至超越人类标注训练
Anthropic 在 Alignment Science Blog 发布无监督算法 Internal Coherence Maximization（ICM），仅用模型自身标注数据激发预训练模型潜在能力。
推荐理由：原文介绍了 ICM 无监督算法的原理、基准结果与两条局限，读者可以据此评估无监督对齐路线目前的实际边界。
Sarvam AIAI 评分5858 Sarvam AI 发布开源混合推理模型 Sarvam-M，基于 Mistral Small 24B
Sarvam AI 开源发布 Sarvam-M，基于 24B 的 Mistral Small，经 SFT、RLVR 和推理优化打造面向印度语言的混合推理模型。
Modal 官方工程博客AI 评分5757 Modal 发布 Modal Batch：一行代码处理 100 万个任务
Modal 发布 Modal Batch，一个基于新持久化队列系统的批处理接口，可通过 .spawn_map 一行代码启动上千个容器处理海量输入。队列容量从 2000 提升至 100 万个输入，任务执行保证期限从 1 天延长至 7 天。Harvey 用它将数据处理流水线提速 10x，Suno 和 Achira 也已将其用于音频预处理和量子化学数据集处理。
Prime IntellectAI 评分5151 Prime Intellect 发布容错通信库 PCCL，面向公网分布式训练
Prime Intellect 发布面向公网分布式训练的容错集合通信库 PCCL，任意时刻终止节点均可恢复，新节点可随时加入。测试中跨北美与西欧 18 节点达 25 Gbit/s，西欧数据中心间达 45 Gbit/s，技术报告见 arXiv 2505.14065，代码已在 GitHub 开源。
Prime Intellect精选AI 评分6767 Prime Intellect 发布 INTELLECT-2，32B 推理模型通过全球分布式强化学习训练
Prime Intellect 发布 INTELLECT-2，称其为首个通过全球分布式强化学习训练的 32B 参数推理模型，并在数学和编码基准上超过 QwQ-32B。
推荐理由：原文给出分布式异步 RL 的完整基础设施与训练配方细节，并开源模型、代码和数据，读者可以了解去中心化训练的可行路径。