连续扩散口语语言模型的缩放性质研究
Apple与Google团队研究连续扩散（CD）口语语言模型（SLM）的缩放性质。CD SLM直接处理连续语音，避免离散化瓶颈。引入音素Jensen-Shannon散度（pJSD）评估语言质量，发现验证损失和pJSD均遵循缩放定律，最优token-to-parameter比率随计算量增加而下降。扩展至16B参数并采用数千万小时对话数据训练后，可生成富有情感、韵律、多说话人、多语言的语音，但长文连贯性仍为显著挑战。
#数据/训练
Apple Machine Learning ResearchAI 评分4949
Prime IntellectAI 评分5353 Prime Intellect 为 prime-rl 引入算法层，内置六种算法并支持按环境混用
Prime Intellect 为开源 RL 框架 prime-rl 引入一等算法层，内置 GRPO、MaxRL、On-Policy Distillation、Self-Distillation、SFT distillation 和 ECHO 六种算法。
Apple Machine Learning ResearchAI 评分4646 学习扩散语言模型的去掩码策略
研究人员提出使用强化学习训练扩散语言模型（dLLM）的采样策略。该方法将掩码扩散采样形式化为马尔可夫决策过程，以 dLLM 为环境，采用单层 Transformer 策略网络将 token 置信度映射为去掩码决策。实验表明，在半自回归（块）生成中，该策略匹配了最先进的启发式方法，在全扩散设置中则超越后者。
Apple Machine Learning ResearchAI 评分4646 通过可追踪轨迹控制学习结构化推理
大语言模型可涌现推理行为，但复杂推理轨迹在无约束采样中稀疏，标准强化学习难以保证多样性。Ctrl-R框架通过可追踪轨迹控制主动引导rollout，激励探索多样推理模式，并利用重要性采样实现无偏on-policy优化，引入重要性采样权重的幂缩放因子以选择性学习分布外轨迹。实验表明，Ctrl-R在语言和视觉-语言模型的数学推理任务上均取得一致改进。
Apple Machine Learning Research精选AI 评分5656 VideoFlexTok：可变长度粗到细视频分词
VideoFlexTok提出一种可变长度token序列的视频表示方法，采用粗到细结构——首个token捕捉语义和运动等抽象信息，后续token添加精细细节，生成流解码器支持任意token数量的视频重建。相比传统3D网格分词，该结构允许根据下游需求调整token数，在相同预算下编码更长视频。在类别和文本到视频生成任务中，VideoFlexTok以1.1B参数（5.2B的1/5）达到可比生成质量（gFVD和ViCLIP Score）。训练一个处理10秒81帧视频的文本到视频模型仅需672个token，比同等3D网格分词器少8倍。
推荐理由：把视频 tokenization 从固定网格改成变长 coarse-to-fine，训练效率提升明显，还能做更长的视频。研究角度挺漂亮，但离产品落地还有距离，做视频生成的可以追一下。
Meta Engineering Blog精选AI 评分7171 Meta 大规模 AI 存储蓝图
Meta 运营数百 EB 级存储集群，基于 Tectonic 分层存储层构建 BLOB 存储架构，以应对两大挑战：最大化 GPU 利用率与研究迭代速度。传统 BLOB 架构的多层元数据查询可导致数百毫秒延迟，使 GPU 因 I/O 等待停顿。新架构将训练栈逐步迁移到 BLOB 存储接口上，利用闪存提供可预测的低 pMax 延迟，避免单 GPU 慢速拖慢整批任务。同时，统一的数据湖访问支持地理分布 GPU 间的数据高速注入与跨区移动，提升研究效率。
推荐理由：Meta的存储架构复盘给出了一条明确路径，从重写元数据到分层缓存，他们把GPU利用率和研究者迭代速度同时提升了一个档次，做AI训练平台的值得细读。
LangChain：BlogAI 评分5252 LangChain 发布结构化数据提取基准：GPT-4、Claude 与开源 LLM 对比
LangChain 发布了一项针对聊天日志结构化数据提取的基准测试，对比了 GPT-4、Claude 与开源大语言模型的表现。该基准包含评估指标与数据集创建方法，旨在衡量不同模型从非结构化对话中提取结构化信息的能力。
Thinking Machines Lab：News精选AI 评分6363 Thinking Machines Lab 用专家标注微调 Qwen3-235B，在金融判断任务上超越前沿模型
Thinking Machines Lab 与 Bridgewater AIA Labs 发布研究，用专家投资者标注的数据微调 Qwen3-235B，在六项金融信息筛选任务上平均准确率从最佳前沿模型的 78.2% 提升至 84.7%，推理成本降低 13.8 倍。
推荐理由：原文给出了完整的训练配方和消融数据，读者可以看到专家标注加微调如何在特定任务上超过前沿模型并大幅降低成本。
Google Research：Blog精选AI 评分7676 Google Research 推出 TabFM：用于表格数据的零样本基础模型
Google Research 发布 TabFM，一种基于上下文学习（ICL）的零样本基础模型，专为表格数据的分类与回归任务设计。TabFM 将整个数据集（包含训练样本与待预测行）作为统一提示输入，在推理时直接从上下文中学习行列关系，无需模型训练、超参数调优或特征工程。与需大量人工调优的传统方法（如 XGBoost）不同，TabFM 通过单次前向传播即可在新表格上生成高质量预测。该模型已在 Hugging Face 和 GitHub 上开源。
推荐理由：TabFM 把表格预测变成一次前向传播，不再需调参和特征工程，数据科学家可以少熬夜了。BigQuery 集成让使用门槛降到 SQL，这是表格 ML 的零样本时刻。
Google Research：Blog精选AI 评分6161 Google Research 将建筑屋顶反射率数据集扩展至全球 50+ 城市
Google Research 发布扩展的建筑屋顶反射率数据集，覆盖全球 50 多个城市，旨在帮助城市规划者优先部署冷屋顶方案以缓解极端高温。该数据集融合 Sentinel-2 卫星数据与 30 厘米分辨率的 Airbus Pléiades Neo 卫星图像生成，可通过新的高分辨率 Heat Resilience Earth Engine App 开放获取。相关方法论发表于《Nature Communications》。此前 2024 年的试点已覆盖 14 个城市，其数据曾指导制定冷屋顶条例与适应计划。
推荐理由：谷歌把屋顶反照率数据的精度做到30厘米，覆盖50+城市，还给了免费App，城市防暑从模糊规划变成可量化的工程，做气候韧性的人可以直接拿这个数据做方案，虽然只是特定领域应用，但AI落地真实场景的路径值得参考。
Ai2 / Allen Institute for AIAI 评分5353 Ai2 对比 Olmo 3 与 Olmo Hybrid：混合模型在哪些 token 上预测更好
Ai2 对比 Olmo 3 与 Olmo Hybrid 的逐 token 预测差异，发现混合架构在名词、动词、形容词等实义词及需指代消解的 token 上损失更低（约 0.04 对 0.02），而在逐字复现前文内容和闭合括号等场景优势接近消失，这些场景恰是 attention 的强项。
OpenRouter：Announcements精选AI 评分6868 OpenRouter 零数据留存（ZDR）实践：97 款新模型，流量占比近半
OpenRouter 的零数据留存（ZDR）保证用户提示词和模型响应不被存储，元数据一般安全。自 1 月以来新增 97 款支持 ZDR 的模型，月度 token 量增长 4.3 倍，约占全部路由流量一半。ZDR 在三个层面执行：账户级（整个供应商开启）、护栏级（按 API Key 或组织成员限定）、单次请求级（传参数仅路由至 ZDR 端点）。企业用户可灵活选择控制粒度，避免锁定单一供应商。
推荐理由：ZDR 远不止“不存数据”这么简单，提示、响应、缓存的区分很多人没搞清楚。OpenRouter 的三层执行算是把自由度给足了，做合规服务的人可以仔细看看。
Zyphra ResearchAI 评分6060 Zyphra Research 发现 GPT 系 Transformer 在持续与平稳训练中都会出现可塑性损失
Zyphra Research 发现 5M 至 314M 非嵌入参数的 GPT 系 Transformer 在多语言持续学习问题上出现可塑性损失，即随训练推进逐渐丧失学习新数据的能力。
Apple Machine Learning ResearchAI 评分4949 基于指标依赖的标注饱和：从标签分布中学习
在ChaosNLI数据集（每项100个标注）上微调NLI模型，发现所需标注人数因评估指标而异：熵相关（识别分歧项）需约20-50个标注者收敛，KL散度（分布匹配）约10个标注者即饱和（达全量效果的87%-95%）。软标签的熵相关r=0.643（p<0.001），优于五种标签平滑强度下的r≈0.45-0.49，因平滑无法区分模糊样本与明确样本。该优势在DeBERTa、RoBERTa、非NLI预训练基线及内容安全跨域评估中均成立。结论：标注预算应依据目标评估指标制定。
Together AI 研究与产品博客AI 评分5555 Together AI 发布 ParallelKernelBench：前沿 LLM 尚难写出高效多GPU内核
Together AI 发布多GPU内核生成评测基准 ParallelKernelBench，含 87 道取自真实代码库、要求用 CUDA 内核经 NVLink 直连替代 PyTorch + NCCL 的题目。
GitHub BlogAI 评分5252 GitHub 构建内部数据分析智能体 Qubot，基于 Copilot 实现自然语言查询
GitHub 内部开发了 Qubot，一个由 Copilot 驱动的数据分析智能体。员工可以用自然语言直接提问公司数据，无需编写 SQL 或使用 BI 工具。团队在构建过程中积累了关于设计、集成和用户体验的经验。
OpenAI：官网动态精选AI 评分7272 OpenAI与哈佛等合作研究：o3 Deep Research模型辅助诊断儿童罕见病，额外诊断率4.8%
波士顿儿童医院、哈佛大学与OpenAI合作，在《NEJM AI》发表研究。团队使用OpenAI o3 Deep Research推理模型重新分析376例此前未确诊的罕见病案例，产出基于证据的候选解释。经专家评审、额外检测和临床确认，医生在18例中建立诊断，额外诊断率达4.8%。研究显示，AI辅助工作流可帮助专家在未解病例中生成可检验假设，使定期再分析更具可扩展性。模型不直接诊断或做临床决策，仅提供证据链供专家审查。
推荐理由：这是AI辅助罕见病诊断的严肃实证，4.8%的新诊断率在专家反复分析过的病例里相当扎实。虽然离临床落地还很远，但证明推理模型能帮专家从旧数据里挖出新线索。
GitHub Blog精选AI 评分6161 GitHub 发布 CC0-1.0 开源多语言仓库级数据集，覆盖 README、Issue 和 PR
GitHub 推出一个新的仓库级数据集，采用 CC0-1.0 许可证，旨在帮助研究人员和开发者发现跨 README、Issue 和 Pull Request 的多语言开发者内容，加速多语言 AI 开发。
推荐理由：GitHub 发布了一个多语言开发者内容数据集，CC0 许可，对于训练跨语言代码模型和辅助翻译有直接价值，做多语言 Copilot 的团队应该会关注。
CMU：Machine Learning BlogAI 评分5454 预训练还不够“苦涩”
Richard Sutton的“苦涩教训”通常被解读为警告不要在AI系统中编码过多人类知识，最终胜出的方法是能吸收更多算力和数据的一般性方法。现代基础模型预训练表面上是这一教训的胜利：采用通用架构、海量数据、简单的自监督目标（语言模型预测下一个token，视觉模型重建掩码块等）。但问题在于，训练目标仍由人类在训练循环外选定——完成一次大规模预训练后评估下游表现，再调整方案重新运行。这个控制环路非常粗糙。该论文探讨能否让这一环路变得更高效。
Google Research：BlogAI 评分4545 从像素到规划：Google Research 发布 Vectorized Farmscapes 2020 数据集
Google Research 发布 Vectorized Farmscapes 2020 向量化数据集，将英格兰超 130,000 km² 高分辨率栅格地图转化为树篱、石墙、小树林等精细生态特征量化清单。该数据集基于 RSF 的 Vision-Transformer Backbone（在超 3 亿张卫星图像上预训练）微调，融合亚米级影像与 1 米 LiDAR 数据实现双层标注。为突破 247 km² 标注数据限制，采用 Polsby–Popper 紧凑性评分对几何形状功能分类，区分林地、连接廊道与孤立树丛。旨在不侵占农业用地提升碳汇与生物多样性。
Qwen：Blog Retrieval精选AI 评分7272 Qwen-RobotManip：对齐解锁机器人操作基础模型的规模化能力
Qwen-RobotManip 是通义千问基于 Qwen-VL 的视觉-语言-动作（VLA）基础模型，引入覆盖表示、运动和行为三维度的统一对齐框架。仅使用开源机器人数据集和人演示视频，构建约 38,100 小时预训练语料，涵盖 15 种机器人形态。在 LIBERO-Plus 达 91.4%，RoboTwin-C2R Hard 达 69.4%，RoboCasa365 Composite-Unseen 达 14.9%，EBench 达 45.6%，RoboTwin-IF 达 72.0%，并在 RoboChallenge Table30 v1 generalist track 夺冠。模型采用 80 维状态-动作表示、人-机器人数据合成管道（1,933 小时第一人称视频转 24,808 小时数据）及上下文策略适配。
推荐理由：Qwen 这次发布的机器人模型，用统一对齐框架把跨实体数据规模化训练跑通了，OOD 泛化大幅领先，做具身智能的值得认真看一下。
GitHub BlogAI 评分5454 GitHub 发布新开源数据集，加速多语言 AI 研究与开发
GitHub 在 CC0-1.0 许可下发布了一个仓库级数据集，涵盖多语言开发者内容，包括 README、issue 和 pull request。该数据集旨在帮助研究者和开发者发现并利用跨语言的技术文档与社区讨论，以推动多语言 AI 的构建与优化。
LangChain：BlogAI 评分5454 LangChain 与 Fireworks 微调开源模型构建 100 倍成本更低的 Trace Judge
LangChain 与 Fireworks 通过微调开源模型，从生产追踪数据中挖掘感知错误信号，构建出成本降低 100 倍的 Trace Judge。该方案在性能上匹配前沿模型，但推理成本仅为闭源模型的极小部分。
Goodfire ResearchAI 评分5353 Goodfire 发布预测性数据调试研究：训练前预判并修正偏好数据的影响
Goodfire Research 提出预测性数据调试方法，在训练前预测偏好数据集会让 DPO 放大或抑制哪些行为，预测与实际学习结果的 R² = 0.9，并可追溯到具体数据。
蚂蚁 inclusionAI：GitHub 新仓库AI 评分4747 蚂蚁 inclusionAI 开源 AReno：单节点加速强化学习后训练工具包
蚂蚁 inclusionAI 在 GitHub 上开源了 AReno，一个易用且快速的工具包，可在单节点上扩展强化学习后训练（RL post-training）。
vLLM 官方博客AI 评分5151 vLLM 社区发布 RL 后训练框架 vime，连接 Megatron 与 vLLM
vLLM 社区发布开源 RL 后训练框架 vime，基于 slime 训练栈，将 Megatron 训练与 vLLM 推理 rollout 接入统一管线，采用 Apache 2.0 协议。
Google Research：Blog精选AI 评分7979 Google Research 发布被动心率监测系统 PHRM
Google Research 开发了一种被动心率监测系统（PHRM），利用智能手机前置摄像头在日常使用中（人脸解锁后数秒内）捕捉面部视频，通过深度学习估算心率，平均绝对百分比误差（MAPE）低于10%（对比心电图金标准），满足各肤色人群的行业精度标准。系统将全天心率测量整合为每日静息心率（RHR），平均绝对误差（MAE）低于5 bpm（对比可穿戴设备）。研究同时发布了迄今最大规模的公开智能手机视频数据集及预训练模型PHRM-mini，合格研究人员可申请访问。
推荐理由：Google 这项发表在 Nature 上的研究，把手机前置摄像头变成了被动心率仪，而且专门解决了深肤色人群精度差的老问题，虽然离产品还远，但方向很对，穿戴设备的护城河可能又浅了一点。
LMSYS Blog精选AI 评分6262 不再遗漏任何Token：解析Miles中的Token-In-Token-Out（TITO）
Miles框架提出Token-In-Token-Out（TITO）原则，解决智能体强化学习中训练-推理不匹配：确保rollout过程token序列与训练器评估序列逐位一致。TITO将多轮轨迹视为一个连续序列（每任务一个样本），节省一个数量级计算开销并维持on-policy性。三种破坏场景：反分词-再分词不匹配、聊天模板修剪推理内容、有损模板重新渲染。Miles通过推理会话服务器、三级只追加保证、可插拔TITO分词器和序列比较器实现。典型任务（如SWE-Bench）轨迹含30-50轮。
推荐理由：LMSYS团队把agent RL里最隐秘的训练-推理不一致问题解释透了，TITO原则直接告诉你为什么之前训练不稳，做agent训练的都该看看这篇。
Google Research：Blog精选AI 评分7272 洪水韧性新篇章：Google 开源水文建模框架
Google Research 在 GitHub 开源了其水文建模框架，这是一个基于 PyTorch 的 Python 包，采用与 Flood Hub 河段洪水预报相同的模型架构和训练数据。该框架允许研究者和预报员训练 AI 洪水预报模型、添加新模型与数据，并已与捷克水文气象研究所（CHMI）等合作测试。开放模型架构和训练管线旨在让各国气象水文部门在保留数据完全控制权的同时，整合基于 AI 的洪水预报。
推荐理由：谷歌开源的水文模型框架，是少数真正能救命的AI应用。不是秀参数，而是把工具直接塞给一线预报员，让他们用本地数据训练。务实，值得给赞。
Claude：Blog精选AI 评分7373 Anthropic 用 Claude 赋能自助数据分析
Anthropic 使用 Claude 自动化了 95% 的业务分析查询，整体准确率约 95%。其关键在于构建智能体分析栈（agentic analytics stack），通过数据基础层、维护验证流程和技能（skills）分别解决概念-实体歧义、数据过时和检索失败三大错误来源。相比编码场景，数据分析的难点在于将用户问题映射到正确的数据实体，而执行 SQL 反而是简单的。Anthropic 的数据科学团队因此得以专注于因果建模、预测和机器学习等战略工作。
推荐理由：Anthropic 把内部用 Claude 搞自助分析踩过的坑全摊开，技能模板和「语义层优先」的强制流程是实打实的干货，做数据 agent 的团队可以直接抄作业。
Microsoft AI：官方博客精选AI 评分7575 Microsoft 发布七款新 MAI 模型并推出 Frontier Tuning 微调方案
微软 MAI 团队发布七款新 MAI 模型，将通过 OpenRouter、Fireworks、Baseten 向开发者开放，并首次允许开发者自行调整模型权重。官方称基于强化学习环境（RLEs）的 Microsoft Frontier Tuning 可让模型学习企业自身工作流，其针对 Excel 微调的 MAI 模型可匹敌 GPT 5.4 且效率最高提升 10 倍。
推荐理由：微软官方发布七款新 MAI 模型，并给出 Frontier Tuning 微调方案与具体效率数字，读者可据此评估其对企业和开发者工作流的影响。
Goodfire ResearchAI 评分5353 Goodfire Research 论文解释为何更大模型能学到小模型学不会的任务
Goodfire Research 发布论文，从数据中心视角解释为什么更大的模型能学习小模型学不会的任务。
Google Developers Blog精选AI 评分6464 社区如何利用Tunix和TPU训练Gemma学会“思考”
Google在Kaggle举办的Tunix黑客马拉松，挑战开发者利用TPU和有限算力，将小型基础模型转变为通用推理引擎。获胜团队通过多阶段后训练流程实现了这一目标，该流程结合了监督微调（SFT）与GRPO、SimPO等先进对齐技术。比赛结果表明，社区能够借助开源资源成功训练出高能力的结构化推理模型。
推荐理由：Google 官方比赛总结，证明用 Kaggle TPU 和开源工具就能把 Gemma 训练出不错推理能力，对想自己微调模型的小团队是个实用参考。
Cloudflare BlogAI 评分4141 我们如何构建Cloudflare的数据平台及其上的AI智能体
Cloudflare构建了名为Town Lake的统一分析平台，并基于此开发了内部AI智能体Skipper。
Anthropic：Research精选AI 评分6969 社会科学中的编码智能体
一项针对1260名定量社会科学家的调查显示，虽然81%的受访者用过AI聊天机器人，但仅有20%将Claude Code、Codex等编码智能体常规应用于工作。采用率存在显著差异：以男性名字命名的研究者使用率是女性研究者的两倍；顶尖大学研究者可能性高出40%。用户产出更多工作论文和基金申请，但这可能反映早期采用者自身差异。研究者对AI助力撰写可发表论文更乐观，但对重塑整个社会科学领域持保留态度。这是一项初步调查，更深入研究仍在进行中。
推荐理由：Anthropic 这份调查把编码代理在社科领域的真实渗透率摸清了，只有 20% 的研究者真在用，而且男女、校际差距比 AI 聊天工具大得多，做学术工具的可以认真看看。
MiniMax：Blog精选AI 评分5959 为什么MiniMax大语言模型无法说出“马嘉祺”？稀疏Token遗忘的内部调查
MiniMax M2系列大语言模型在生成时无法输出稀疏token“嘉祺”（如“马嘉祺”）。内部调查排除tokenizer对齐问题，发现根因是后训练阶段对低频token的生成概率产生抑制。该问题已在后续模型更新中修复，并顺带解决了其他小语种混合问题。
推荐理由：这种官方自己拆自己的技术调查不多见，把「低频token遗忘」从社区猜测一路推到SFT数据缺失导致lm_head漂移的根因，做模型训练的可以当案例看。
美团 LongCat：HuggingFace 新模型AI 评分4949 美团-LongCat/WBench权重模型
美团开源了用于WBench评估框架的预训练模型权重仓库，将这些权重整合至单一仓库，旨在方便社区快速部署WBench评估环境。该权重仅重新分发用于学术研究和评估用途，所有权利归属原作者。用户可参考WBench GitHub获取安装与评估指南，具体模型许可证详见LICENSE_NOTICE.md文件。
Google DeepMind：BlogAI 评分4747 加速遗传线索以逆转细胞衰老
生物学家利用Co-Scientist这一工具，成功发现能够使人类细胞年轻化的新型因子。该研究通过人工智能加速了遗传线索的探索过程，为逆转细胞衰老领域提供了新的关键因素。这一发现标志着利用技术手段干预生物老化进程取得了实质性进展。
Prime IntellectAI 评分6060 Prime Intellect 提出 reward hacking 是梯度动力学问题，并发布 backdoor-ifeval 环境和 Sprints 计划
Prime Intellect 发布系统研究 reward hacking 的博文，提出奖励黑客是梯度动力学问题而非单纯规格问题，可见与隐藏奖励在梯度预算上竞争。
Prime Intellect精选AI 评分6363 Prime Intellect 开源自进化合成智能体环境 general-agent
Prime Intellect 开源 general-agent 环境 v1，通过 Synthesizer 与 Solver 双智能体博弈生成自进化任务语料，目前包含 4,504 个任务、1,040 个领域和 8,159 个独特工具，每个任务经求解器按难度带实证校准。
推荐理由：原文给出了任务规模、难度校准方法和早期 SFT/RL 结果，读者可以评估这个自进化合成环境对智能体训练的参考价值。