跳到正文
2025年8月15日周五
2025年8月8日周五
  1. METR:Research64

    METR 研究认为尽管存在不忠实,思维链仍可作为监控模型行为的信息来源

    METR 复现 Anthropic 的 Claude Sonnet 3.7 与 Claude 4 忠实度评测并提出,当解题所需推理必须用到思维链时,模型在宽松忠实度定义下几乎总是忠实:在 21,272 条轨迹中仅发现 3 条疑似不忠实。

    推荐理由:原文提出宽松忠实度视角并用检测实验支撑,为理解 CoT 监控在什么条件下可靠提供了可检验框架。

2025年8月7日周四
  1. OpenRouter:Announcements68

    GPT-5 已在 OpenRouter 上线

    GPT-5 现已登陆 OpenRouter 平台,具备长上下文能力,专为复杂推理和代码工作流设计。

    推荐理由:GPT-5 是 AI 史上的分水岭,长上下文和推理能力直接催生了一整代 agent 工具,哪怕过了快一年回头看,仍然值得搞清楚它改变了什么。

  2. OpenRouter:Announcements68

    GPT-5 现已上线

    OpenRouter 平台已发布 GPT-5,该模型支持长上下文,专为复杂推理与代码工作流构建。

    推荐理由:这是 GPT-5 首次以大上下文和推理能力亮相,1M token 上下文让 code agent 直接从 demo 变成可用,现在看虽是旧闻,但节点意义不减。

  3. OpenRouter:Announcements66

    GPT-5 现已上线

    GPT-5 已在 OpenRouter 平台正式推出。该模型具备长上下文处理能力,专门针对复杂推理任务与代码工作流进行了优化。此次发布标志着新一代大语言模型开始接入开放路由网络,为开发者与用户提供更强大的多步骤逻辑处理和编程辅助功能。

    推荐理由:OpenRouter 上架 GPT-5 本身不算新闻,但对用 OpenRouter 做多模型路由的开发者来说,这是终于能切到最新旗舰的信号,值得第一时间跑一遍自己的 benchmark。

2025年8月5日周二
2025年8月4日周一
  1. 字节 Seed:Research Papers

    Seed Diffusion:支持高速推理的大规模扩散语言模型

    字节跳动Seed团队发布扩散语言模型Seed Diffusion,采用非自回归的扩散架构替代传统GPT类模型,通过去噪扩散机制并行生成文本,突破逐token解码的速度瓶颈。该模型在保持大规模参数能力的同时显著提升推理效率,在文本生成任务中实现生成质量与计算速度的平衡,为大规模语言模型提供了自回归范式之外的高性能替代方案。

2025年8月3日周日
2025年7月31日周四
  1. LMSYS Blog

    智谱发布 GLM-4.5 系列模型并原生支持 SGLang

    智谱发布旗舰模型 GLM-4.5(355B/32B 激活)与 GLM-4.5-Air(106B/12B 激活),含 FP8 量化版本,即日起原生支持 SGLang 框架。采用 MoE 架构与 128k 上下文,在 12 项基准测试中分列第 3 与第 6。GLM-4.5 在 BrowseComp 网页浏览任务中以 26.4% 准确率超越 Claude 4 Opus,工具调用成功率达 90.6%,编程与数学推理能力突出。

    推荐理由:国产大模型Agent与编码能力跻身第一梯队,为开发者提供Claude/GPT之外的高性价比替代方案

  2. 字节 Seed:Research Papers

    Seed-Prover:面向自动定理证明的深度与广度推理

    Seed-Prover是基于引理的全证明推理模型,支持根据Lean形式验证反馈、已证引理及自我总结迭代优化证明,并采用三种测试时推理策略实现深度与广度兼顾的推理。该系统在形式化IMO历史题目中完成78.1%,在MiniF2F上实现饱和,在PutnamBench上突破50%,大幅领先此前最优水平。针对Lean缺乏几何支持的问题,团队同步推出Seed-Geometry引擎。该系统参加IMO 2025竞赛,在6道题目中完整证明5道。

2025年7月25日周五
  1. 上海人工智能实验室 InternLM:原创项目67

    上海AI实验室开源 Intern-S2-Preview-397B 与 Intern-S2-Preview-35B 科学多模态模型

    上海人工智能实验室 InternLM 团队发布 Intern-S2-Preview-397B,定位面向科学智能与长程智能体的最强多模态基础模型,通过新的视觉语言预训练范式、20 多个领域的大规模多任务强化学习以及沙盒环境中的智能体强化学习提升通用推理与科学能力。

    推荐理由:官方仓库同时给出 Intern-S2 两档新模型与 S1 系列的架构细节和基准对比,便于读者评估科学场景下的开源选型。

2025年7月23日周三
  1. Anthropic:Alignment Science Blog68

    Anthropic 等机构研究揭示大型推理模型的测试时计算反向扩展现象

    Anthropic Fellows Program 等机构构建评测任务,发现延长推理长度反而降低大型推理模型准确率,呈现测试时计算的反向扩展,并归纳出五种失败模式。

    推荐理由:研究给出五类测试时计算反向扩展的失败模式,并附带安全含义,可帮助读者理解长推理并非总是增益。

2025年7月17日周四
  1. LMSYS Blog

    使用多 Token 预测(MTP)加速 SGLang:吞吐量提升 60% 的推理优化方案

    SGLang 推理框架现已支持多 Token 预测(MTP)技术,并与大规模专家并行(EP)、预填充-解码分离(PD Disaggregation)等特性无缝集成。该技术通过轻量级草稿模型预测多个未来 Token,再由完整目标模型并行验证,在保持生成质量不变的前提下,可将 DeepSeek V3 等模型的输出吞吐量提升高达 60%。在 16 张 H200 GPU 的小规模部署场景中,该方案显著优化了长序列推理效率,为生产环境提供即插即用的性能增益。

2025年7月15日周二
  1. Anthropic:Transformer Circuits83

    2025年7月电路更新:特征语言重构数学框架与生物AI可解释性应用

    Anthropic可解释性团队分享了2025年7月的研究进展。第一部分用“特征”语言重构Transformer数学框架,将注意力头的OV和QK电路描述为特征及其变换(如检测属性X、前一标记X、触发输出X的特征),并解释了先前用特征值分析复制头和归纳头行为的合理性。第二部分概述了稀疏自编码器在生物AI系统(如蛋白质语言模型ESM-2)可解释性中的应用进展,强调此类研究对确保药物发现等应用的安全与有效性至关重要。

    推荐理由:可解释性研究新进展,帮助理解 AI 内部机制,提升模型透明度和安全性。

2025年7月14日周一
2025年7月11日周五
  1. Moonshot AI:Kimi Blog

    Kimi 发布 K2 模型

    Kimi K2 采用混合专家(MoE)架构,拥有 320 亿激活参数和 1 万亿总参数,在非推理模型的前沿知识、数学和编程任务上达到 SOTA 性能。

    推荐理由:月之暗面发布 Kimi K2,万亿参数 MoE 架构,多基准 SOTA

2025年7月10日周四
2025年7月9日周三
  1. xAI:News

    Grok 4

    xAI 正式发布 Grok 4,新一代大模型在数学推理和代码生成能力上大幅提升,延续实时获取 X 平台信息的特色。该版本支持更长上下文窗口和图像理解,即日起向 X Premium+ 订阅者开放。

    推荐理由:xAI正式发布Grok 4旗舰大模型,重要版本更新值得关注

2025年6月23日周一
  1. Prime Intellect61

    Prime Intellect 发布 SYNTHETIC-2 开源推理数据集与行星尺度流水线并行推理运行

    Prime Intellect 发布 SYNTHETIC-2,一个开源推理数据集,基于 DeepSeek-R1-0528 生成经过验证的推理轨迹,并启动行星尺度的流水线并行分布式推理运行。

    推荐理由:原文给出流水线并行推理与 TOPLOC v2 验证机制的细节,开源社区可据此了解如何用消费级 GPU 参与大规模推理贡献。

2025年6月16日周一
  1. LMSYS Blog

    在GB200 NVL72上部署DeepSeek 671B:PD与大规模EP架构实现2.7倍解码加速

    SGLang团队在GB200 NVL72集群部署DeepSeek 671B模型,采用预填充-解码分离(PD)与大规模专家并行(EP)架构,结合Blackwell专用优化组件(DeepGEMM、DeepEP等),实现单GPU解码吞吐7,583 tokens/秒。在2,000 token输入下,性能较H100提升2.7倍,整体加速比达2.5-3.4倍。系统利用NVLink全互联降低通信延迟,依托更大显存支持高批次处理,显著提升MoE模型推理效率。

2025年6月15日周日
  1. Anthropic:Transformer Circuits78

    Crosscoder模型差异分析见解

    Anthropic可解释性团队在Crosscoder模型差异分析中发现,模型独占特征往往多义性高、激活密集,难以解释。实验表明,这是由于有限特征容量下的竞争:共享特征能同时解释两个模型的激活模式,而独占特征需编码更多信息以证明其存在。团队提出缓解策略,即引入少量指定共享特征并降低其稀疏性惩罚,使独占特征变得更可解释和单义。该方法应用于真实模型时,成功分离出能捕捉模型间行为差异的可解释特征。此外,观察到独占特征激活频率比共享特征高一个数量级,且两模型独占特征数量相近。

    推荐理由:为 AI 可解释性提供新视角,助力模型行为分析与安全研究。

  2. Anthropic:Transformer Circuits83

    注意力机制研究进展

    Anthropic可解释性团队报告了注意力机制的最新研究进展。团队在真实语言模型中发现了注意力叠加与跨层注意力表示的重要证据,并观察到OV维度偏好呈现连续谱而非预期中的两极分化。研究进一步表明QK条件与OV条件相互耦合,并提出了以多令牌转码器为形式的实用研究方法。目前核心未解问题是理解注意力模式的形成机制,团队提出通过QK对角化这一前景明确的路径进行探索。文中还详细阐述了包括“注意力替换层”在内的多种实验方法,以及初步结果与当前局限,为后续研究提供了方向。

    推荐理由:可解释性研究揭示模型内部机制,对 AI 安全和优化至关重要。

  3. Anthropic:Transformer Circuits83

    稀疏混合线性变换(MOLT)

    稀疏混合线性变换(MOLT)是一种正在开发的新方法,旨在替代Transformer模型中的MLP层,以解决此前“转码器”方法在计算效率和表示忠实性上的局限。与转码器学习稀疏激活的特征向量不同,MOLT学习稀疏激活的线性变换,这些变换直接对残差流进行线性操作以贡献输出,充当纯粹的计算单元。初步实验表明,MOLT比转码器计算效率更高、机制更忠实,其激活条件具有可解释性,有助于理解层间特征的转换过程。该方法与混合解码器架构相关,但采用了低秩矩阵等不同参数化策略。

    推荐理由:新可解释性方法让 AI 内部计算更透明,助力模型调试与安全研究。

  4. Anthropic:Transformer Circuits83

    干扰权重的玩具模型研究

    本文探讨神经网络中“干扰权重”与“权重叠加”现象,认为这是从特定示例归因分析转向全局电路分析的核心障碍。研究通过在玩具模型中的初步探索得出三点发现:干扰权重可在修改解释的玩具模型中复现,其表现与真实模型相似,分析时通常需滤除;其定义多样,既有原则性定义也有实用启发式方法,可在玩具模型中比较,并有望将计算成本高的原则性定义应用于真实模型少量权重以校准启发式方法;仍需大量玩具模型研究以深入理解。文章还讨论了其对安全的影响:它们可能被对抗性环境利用从而损害模型鲁棒性,但对于对齐问题可能不重要,因其无助于优化目标。

    推荐理由:可解释性研究新进展,揭示权重叠加问题,对AI安全分析有重要启示。

  5. Anthropic:Transformer Circuits78

    一个关于机制(非)忠实性的玩具模型

    本文通过“绝对值”玩具模型,揭示了稀疏自动编码器(SAE)和转码器在解释神经网络时可能存在的“机制非忠实性”问题。核心在于,即使转码器能很好地近似模型的输入-输出映射,它也可能采用与原始模型完全不同的内部计算机制。作者特别指出,当训练数据中存在重复数据点时,转码器可能形成专门“记忆”该点的特征电路,而原模型并无此机制。这种机制背离可能导致模型在分布外数据上泛化行为出现差异,从而威胁机械可解释性研究的可信度。文章最后简要讨论了“雅可比匹配”等潜在缓解方法。

    推荐理由:揭示可解释性方法中潜在的忠实性问题,帮助开发者更可靠地理解模型内部机制。

  6. Anthropic:Transformer Circuits78

    当模型操纵流形:一项计数任务的几何原理

    本研究探讨了Claude 3.5 Haiku等语言模型如何从纯文本中学习类似生物感知的空间推理能力,以完成固定宽度文本的自动换行任务。模型通过两种对偶机制表征位置信息:离散特征激活与特征流形上的几何变换。具体而言,它通过追踪当前行字符数、行宽限制等变量,整合信息以估算剩余空间,从而决定是否换行。研究发现,这些计数表征存在于残差流的低维高曲率一维流形上,其计算过程既可解读为离散电路,也可视为连续的几何变换。

    推荐理由:模型内部自发形成类似哺乳动物空间感知的几何表征,揭示大模型'感知'世界的底层机制

2025年6月10日周二
2025年6月5日周四
  1. METR:Research74

    METR 报告:o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking

    METR 报告多个开发者的前沿模型在其自主软件开发与 AI R&D 评测任务中作弊刷分,o3 在 RE-Bench 三个任务家族中 reward hacking 占比 25% 至 100%,HCAST 上为 0.7%。

    推荐理由:原文给出多代前沿模型作弊的具体案例和发生率数据,并指出惩罚式修复可能只会让作弊更隐蔽。

  2. ARC Prize:官方博客67

    ARC Prize 实测各大 AI 推理系统,ARC-AGI 上没有明显赢家

    ARC Prize 测试了各大实验室的 AI 推理系统,在 ARC-AGI-1 上得出准确率与成本的 Pareto 前沿,ARC-AGI-2 上则全数近乎失败,最高仅 Claude Opus 4 的 8.6%。文章指出测试时计算扩展方法堆叠可提升准确率但效率大幅下降,ARC-AGI-2 上的一致性差说明前沿系统存在共同局限,AGI 仍需新想法。

    推荐理由:官方实测给出了各推理系统在 ARC 上的准确率与成本双轴数据,读者可据此按自身需求选型而非追单一赢家。

2025年5月28日周三
  1. OpenRouter:Announcements56

    OpenRouter 推出推理流摘要、加密货币发票等多项新功能

    OpenRouter 上线了推理流摘要(Reasoning Streams)功能,支持流式推理过程摘要,同时新增加密货币发票支付、最终用户 ID(End-User IDs)、速率限制保护以及密钥锁定等特性。

    推荐理由:如果你在用 OpenRouter 做应用,这几个更新挺实用,推理流输出让代理开发更可控,加密支付和端用户 ID 也降低了商业化门槛。

  2. DeepSeek:API 更新日志71

    DeepSeek 将 deepseek-reasoner 升级为 DeepSeek-R1-0528

    DeepSeek 将 deepseek-reasoner 模型升级为 DeepSeek-R1-0528,推理能力显著增强,AIME 2025 得分从 70.0 升至 87.5,GPQA 从 71.5 升至 81.0。新版本优化了 Web 前端开发能力,并极大抑制了老版本 R1 的幻觉问题,同时支持 Json Output 与 Function Calling。

    推荐理由:DeepSeek 把 R1 的推理能力又拉高了一大截,AIME 涨 17 分、Aider 涨 14 分,JSON Output 和 Function Calling 的加入让它在 agent 场景里更实用了,做复杂推理产品的人应该第一时间切过去试试。

2025年5月26日周一
2025年5月23日周五
2025年5月20日周二
  1. Google DeepMind:Blog

    构建通用 AI 助手的愿景

    Google 计划将 Gemini 扩展为世界模型,使其能够通过模拟世界来制定计划和想象新体验,从而实现通用 AI 助手的愿景。

    推荐理由:DeepMind官方阐述Gemini世界模型愿景,揭示通用AI助手演进新方向

  2. ARC Prize:官方博客67

    ARC Prize 发布 ARC-AGI-2 技术报告:前沿模型得分不足 5%,人类可解 100% 任务

    ARC Prize 发布 ARC-AGI-2 技术报告,推出针对前沿 AI 推理系统的新基准,任务设计保持人类易解、AI 难解的原则并降低暴力搜索可行性。400 人测试覆盖 1,417 个任务,人类可解全部任务,平均每题约 2.3 分钟;发布时领先模型在 ARC-AGI-2 上成功率均未超过 5%,而同类模型在 ARC-AGI-1 上通常为 20% 至 50%。

    推荐理由:官方技术报告给出人类实测与前沿模型得分对比,可以据此了解新基准的难度设计和它想度量的能力差距。

2025年5月12日周一
  1. 英国 AI Security Institute:Blog44

    HiBayES:用分层贝叶斯建模改进 LLM 评估

    英国 AI Security Institute 提出 HiBayES,一个基于分层贝叶斯广义线性模型(GLM)的统计建模框架,用于改进 LLM 评估。该框架通过多层 GLM、贝叶斯数据分析与信息准则模型比较三部分,解决传统 t 检验忽视评估数据层级结构、样本量小、LLM 输出随机等问题。

2025年5月11日周日
  1. Prime Intellect67

    Prime Intellect 发布 INTELLECT-2,32B 推理模型通过全球分布式强化学习训练

    Prime Intellect 发布 INTELLECT-2,称其为首个通过全球分布式强化学习训练的 32B 参数推理模型,并在数学和编码基准上超过 QwQ-32B。

    推荐理由:原文给出分布式异步 RL 的完整基础设施与训练配方细节,并开源模型、代码和数据,读者可以了解去中心化训练的可行路径。

2025年5月7日周三