跳到正文
5月16日周六
  1. OpenAI:官网动态66

    数据科学团队如何使用 Codex

    Codex 能够帮助数据科学团队根据实际工作输入,自动化生成根本原因简报、影响报告、关键绩效指标备忘录、范围分析以及仪表板规格文档。该工具将自然语言描述转化为结构化分析框架,提升了从数据查询到报告生成的工作流效率,使团队能更快速地将业务问题转化为可执行的数据分析方案。

    推荐理由:OpenAI Academy 手把手教数据科学团队用 Codex 产出分析报告,prompt 模板可以直接抄,但作为教程新信息不多,适合 Codex 用户按需参考。

5月15日周五
  1. Anthropic:Research58

    2028年全球AI领导地位的两种情景

    报告展望2028年中美AI竞争的两种前景。若美国及盟友维持并扩大在关键计算芯片上的优势,通过加强出口管制、遏制技术窃取并加速AI应用,民主国家可确立12-24个月的技术领先,主导AI规则制定。反之,若政策松动,中国可能借助人才优势、利用管制漏洞迅速逼近甚至反超,使威权政权获得大规模自动化压制能力。当前民主国家在计算领域优势显著,但窗口期有限,需立即行动锁定胜局。

    推荐理由:Anthropic直接下场画了两张2028中美AI路线图,核心就一句话——不堵死漏洞,中国的蒸馏攻击和芯片走私会让美国优势两年内消失。虽然是政策游说稿,但数据扎实,想理解AI地缘政治的必读。

5月14日周四
5月12日周二
5月9日周六
  1. Apple Machine Learning Research66

    Velox:学习4D几何与外观的表示

    Velox提出一个学习4D对象潜在表示的框架,该表示具备描述性、压缩性与易获取性。它仅需非结构化动态点云作为输入,通过编码器将时空彩色点云压缩为动态形状标记,并利用两个互补解码器进行监督:4D表面解码器建模随时间变化的表面分布以捕捉几何信息,高斯解码器则负责外观重建。该方法在保持高保真度的同时提升了下游任务的效率。

    推荐理由:苹果把动态点云的几何和外观塞进一个可压缩的latent space,思路干净但领域垂直,做3D视觉和AR的可以跟一下,其他人不用急着读。

5月8日周五
  1. Apple Machine Learning Research69

    用于学习语义丰富视觉表征的文本条件JEPA

    研究人员提出文本条件联合嵌入预测架构(TC-JEPA),通过引入图像描述文本作为条件信息来降低掩码特征预测中的视觉不确定性。该方法采用细粒度文本调节器,对输入文本标记计算稀疏交叉注意力,从而调制预测的图像补丁特征。与基于掩码特征预测的I-JEPA相比,TC-JEPA能够学习到语义更丰富的视觉表征,解决了原有方法因视觉不确定性导致的语义学习不足问题。

    推荐理由:Apple 这篇 TC-JEPA 把文本融入自监督视觉预训练,用稀疏交叉注意力减少预测不确定性,对多模态表征学习是个不错的思路补充,做视觉模型的值得一看。

5月7日周四
4月30日周四
  1. OpenAI:官网动态57

    Where the goblins came from:GPT-5 行为中“妖精”输出的起源

    研究揭示了GPT-5等AI模型中“妖精”输出的传播路径、时间线与根本原因。这些由特定“人格”驱动的怪异行为,源于训练数据中意外混入的特定模式或“文化基因”。开发团队已识别出问题根源,并正在部署修复方案,通过调整训练数据和微调模型来消除此类非预期的个性特征,以提升模型行为的稳定性和可预测性。

    推荐理由:GPT-5的“地精”现象不是偶然,OpenAI这篇复盘把它追溯到训练数据的最早期阶段,解释了模型为什么会有自己的“脾气”,做模型训练的值得细读。

  2. Apple Machine Learning Research47

    利用 Sign Language Models 自举标注手语注释

    研究团队开发了一套手语伪标注流程,以解决高质量标注数据匮乏对AI手语翻译发展的限制。该流程以手语视频和英文文本为输入,输出包括时间区间在内的可能注释排序集合,涵盖手势词、手指拼写单词和手语分类器。新发布的ASL STEM Wiki和FLEURS-ASL等数据集虽包含数百小时专业译员数据,但因标注成本过高仅实现部分标注。该自举方法旨在显著提升大规模手语数据的利用效率。

4月29日周三
4月28日周二
  1. Qwen:Blog Retrieval57

    FlashQLA: 面向GDN的CP-/Bwd友好型融合线性注意力内核

    FlashQLA 发布了一组专为梯度下降网络优化的融合线性注意力内核。新内核在设计上对计算模式和后向传播更加友好,旨在提升训练效率。该技术通过优化内核融合策略,改进了注意力机制的计算性能,是提升大规模模型训练速度的关键底层优化。

    推荐理由:Qwen 团队发了一篇 fused linear attention 内核的工程论文,目标是把 GDN 架构的推理和反向传播都跑快。做底层优化的工程师值得看一眼,普通开发者可以略过。

  2. Apple Machine Learning Research62

    LaDiR:潜在扩散模型增强 LLM 的文本推理能力

    研究团队提出LaDiR推理框架,将连续潜在表征的表达能力与潜在扩散模型的迭代优化能力相结合,以增强现有大语言模型的推理性能。该框架首先构建一个结构化的潜在推理空间,通过扩散过程对潜在状态进行迭代细化,使模型能够全局性地重新审视和修正推理路径中的早期内容。这种方法突破了传统自回归解码在整体优化和多样化解决方案探索方面的限制,提升了链式思维生成的质量与效率。

    推荐理由:Apple 把扩散模型塞进 LLM 推理链,思路很野,用连续潜空间替代自回归 token 生成来解决「写到一半没法回头改」的老毛病。做推理优化或 diffusion 架构的值得细看,但离工程落地还远。

4月23日周四
  1. Google DeepMind:Blog46

    解耦式DiLoCo:分布式AI训练的新前沿

    Google团队提出解耦式DiLoCo架构,通过将训练任务解耦到多个计算“岛屿”并实现异步数据流,显著提升了分布式AI训练的韧性与灵活性。该架构能有效隔离本地硬件故障,使系统其余部分持续学习。在实际测试中,仅使用2-5 Gbps广域网带宽,便在四个美国区域成功训练了一个120亿参数模型,训练速度比传统同步方法快20倍以上。系统在硬件故障时仍能保持高集群可用性与训练吞吐量,且最终模型性能与传统方法相当,同时支持混合使用不同代际硬件。

4月22日周三
  1. OpenAI:官网动态

    OpenAI 推出 Privacy Filter

    OpenAI 发布 Privacy Filter,一款用于检测和脱敏文本中个人身份信息(PII)的开源权重模型。该模型在 PII 识别任务上达到业界领先的准确率,支持开发者本地部署和定制。作为开放权重模型,它可自动识别并编辑敏感个人信息,为企业数据隐私保护和合规处理提供高效的技术解决方案。

4月17日周五
4月16日周四
  1. EleutherAI:Blog

    基于推理插值的奖励黑客早期指标

    研究团队提出一种基于推理插值的早期检测方法,利用重要性采样结合微调供体前缀技术,在模型训练过程中预测奖励黑客行为的出现。该方法通过分析模型推理路径的插值变化,在奖励黑客完全形成前识别其风险迹象,为语言模型安全训练提供关键的预警指标。

  2. Google Developers Blog51

    MaxText 扩展后训练能力:在单主机 TPU 上引入 SFT 与 RL

    MaxText 新增对单主机 TPU 配置上监督微调(SFT)和强化学习(RL)的支持,基于 JAX 与 Tunix 库实现高性能模型优化。该功能使开发者能借助 GRPO、GSPO 等高效算法,轻松将预训练模型适配至专业任务与复杂推理场景。此次更新简化了后训练工作流程,提供了从单主机扩展到多主机大规模配置的可扩展路径。

4月14日周二
  1. Google Research:Blog

    AI生成合成神经元加速大脑测绘

    Google Research发布MoGen神经元形态生成模型,利用点云流匹配技术将随机三维点云转化为逼真神经元几何结构。在PATHFINDER重建模型训练中加入MoGen合成神经元后,错误率降低4.4%,主要减少神经元合并错误,相当于为完整小鼠大脑测绘节省157人年手动校对时间。这是生成式AI首次用于提升连接组学重建精度,盲测显示专家无法区分合成与真实神经元片段。

  2. Anthropic:Alignment Science Blog65

    Anthropic 构建 Automated Weak-to-Strong Researcher,AI 智能体在弱到强监督研究上超越人类基线

    Anthropic 团队构建了基于 Claude Opus 4.6 的自动化对齐研究智能体(AAR),9 个并行智能体在 5 天内(累计 800 小时)将弱到强监督的 performance gap recovered(PGR)提升至 0.97,而两位人类作者花 7 天调优四种先前方法的最好成绩仅 0.23,总成本约 18,000 美元。

    推荐理由:Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。

4月10日周五
4月9日周四
  1. Google Research:Blog

    ConvApparel:测量并弥合用户模拟器中的真实感差距

    Google Research 发布 ConvApparel 数据集与评估框架,用于量化 LLM 用户模拟器的"真实感差距"。该数据集包含 4000 余组服装购物多轮对话,采用"好/坏"双智能体协议收集,涵盖从满意到恼怒的全谱系用户行为。框架通过反事实验证测试模拟器对意外糟糕体验的适应能力,解决现有模拟器过于耐心、知识过剩等不现实问题,为训练更鲁棒的对话智能体提供可信的 AI 测试基准。

4月7日周二
  1. 蚂蚁 inclusionAI:GitHub 新仓库54

    inclusionAI/TC-AE

    研究团队发布了TC-AE,一种用于深度压缩自动编码器的新方法,旨在突破现有模型的令牌容量限制。该方法通过创新的架构设计,显著提升了模型在压缩表示中保留信息的能力,实现了更高的压缩效率与重建质量。具体指标显示,TC-AE在多个基准测试中,相较于传统深度压缩自动编码器,将有效令牌容量提升了约30%,同时保持了较低的计算开销。这项工作为高密度数据压缩与表示学习提供了新的技术路径。

4月2日周四
  1. 蚂蚁 inclusionAI:GitHub 新仓库40

    inclusionAI/cuLA:基于CuTe DSL与CUTLASS C++的线性注意力变体CUDA内核

    inclusionAI发布了cuLA项目,这是一套为线性注意力变体编写的CUDA内核。该内核完全采用NVIDIA的CuTe DSL和CUTLASS C++库进行开发,旨在高效实现Transformer模型中的线性注意力机制。此举专注于底层计算优化,通过利用先进的CUDA编程抽象和高效模板库,有望提升大语言模型在推理和训练过程中的计算性能与效率。

3月31日周二
  1. Google Developers Blog81

    Boost Training Goodput: 连续检查点功能如何优化 Orbax 和 MaxText 的训练可靠性

    Orbax 和 MaxText 引入了连续检查点新功能,旨在优化模型训练中可靠性与性能的平衡。它改变了传统固定频率检查点的模式,通过在前一个保存操作成功完成后才异步启动新操作,最大化I/O带宽并降低故障风险。基准测试表明,该方法显著缩短了检查点间隔,并实现了可观的资源节约,这在平均故障间隔时间较短的大规模训练任务中效果尤为突出。

    推荐理由:大规模模型训练的可靠性和效率提升,开发者可优化资源使用。

  2. Google Research:Blog

    构建更优的 AI 基准测试:多少评分者才够?

    Google Research 提出基于"gold"评级数据的机器学习评估框架,通过模拟器优化评分项目数量与评分者数量的权衡。研究挑战了当前 AI 基准测试仅使用 1-5 名评分者的行业标准,发现要准确捕捉人类观点差异通常需要超过 10 名评分者。该框架为构建高可复现性且成本高效的 AI 评估体系提供了路线图,并开源了模拟工具。

3月26日周四
3月25日周三
  1. LMSYS Blog

    SGLang亮相NVIDIA GTC 2026:三天五场活动展示开源AI基础设施实力

    SGLang亮相Jensen Huang主题演讲AI生态图谱,三天内密集举办五场活动。团队与RadixArk合办200人技术聚会,在LinkedIn总部举办搜索与推荐LLM系统研讨,并参与700人规模的Novita行业论坛。官方培训实验室发布Miles RL框架,解决生产环境训练-推理不匹配难题;LinkedIn工程师分享预填充优化方案,在H100上实现2–3倍吞吐量提升并回馈上游。

3月24日周二
  1. Google Research:Blog

    绘制现代世界:S2Vec 如何学习城市的语言

    Google Research 发布自监督地理空间框架 S2Vec,利用 S2 Geometry 将地球表面划分为分层单元格,把建筑、道路等特征栅格化为多层图像,通过掩码自编码器(MAE)学习通用嵌入向量。无需人工标注即可预测人口密度、房价等社会经济指标,在地理外推任务中表现优于图像基线模型,但树冠覆盖和海拔等环境预测任务仍需改进。

3月19日周四
3月18日周三
3月17日周二
  1. Mistral AI:News45

    Mistral 推出 Forge:面向企业构建基于专有知识的前沿级 AI 模型

    Mistral 发布企业级系统 Forge,让企业用内部文档、代码库和运营数据训练前沿级 AI 模型。Forge 支持预训练、后训练与强化学习,兼容 dense 和 MoE 架构及多模态输入,并已与 ASML、爱立信、欧洲空间局等机构合作。该系统以智能体优先设计,Mistral Vibe 等自主智能体可用自然语言完成微调与超参调优。

  2. LMSYS Blog

    Miles RL框架正式支持ROCm:基于AMD Instinct GPU的大规模后训练

    开源RL框架Miles正式支持ROCm,可在AMD Instinct MI300/350 GPU上原生运行大规模语言模型后训练。该框架采用解耦架构分离rollout生成与模型优化,针对RL工作负载中占比70-90%的推理场景优化。在单节点8卡MI300X上训练Qwen3-30B-A3B的实测显示,rollout吞吐达1.1k-1.3k tok/GPU/s,AIME准确率从66.5%提升至72.9%。现提供预构建容器,支持GRPO、Megatron-LM和FSDP后端。

  3. Google Research:Blog

    利用机器学习改进乳腺癌筛查工作流程

    Google Research与NHS合作在Nature Cancer发表两项AIMS研究,评估AI乳腺癌检测系统。回顾性分析11.6万例乳腺X光片显示,AI敏感性显著高于原始第一读者且不降低特异性,癌症检出率从7.54升至9.33/1000,检出25%间隔癌;前瞻性研究验证技术整合可行性。第二项研究进一步测试AI替代双读流程中第二读者的端到端效果。研究为AI辅助筛查提供证据,有望缓解放射科医生30%-40%短缺压力。

3月15日周日
3月13日周五
  1. BAIR:Berkeley AI Research Blog

    面向 LLM 的大规模交互作用识别

    伯克利人工智能研究所提出 SPEX 与 ProxySPEX 算法,通过信号处理与编码理论实现大语言模型关键交互作用的高效识别。该方法基于" influential interactions 具有稀疏性与低阶性"的核心观察,将指数级搜索问题转化为可解的稀疏恢复问题,以极少的消融次数定位驱动模型输出的关键特征组合与内部组件依赖,突破传统方法在计算规模上的限制。

3月12日周四
  1. Answer.AI 官方研发博客66

    Answer.AI 用 PyPI 数据检验 AI 生产力效应:包创建未见激增,热门 AI 包更新频率翻倍

    Answer.AI 分析 PyPI 数据后发现,ChatGPT 发布后 Python 包创建率没有明显上升,整体更新频率的缓慢增长早在 2019 年就已开始。但热门 AI 相关包更新频率跃升至每年 21-26 次中位数,是热门非 AI 包(约 10 次)的两倍多。

    推荐理由:原文用 PyPI 数据检验 AI 生产力说法,发现效应集中在热门 AI 相关包,给出两个可检验的解释假设。