跳到正文

技术方向

推理能力 最新动态

让大模型先想再答的能力:思维链、推理模型,数学与逻辑评测上的突破和争议。

571 条精选近 30 天 38 条共收录 2,627 条

更新

精选归档 · 第 21 页

4月13日周一第 401–420 条
  1. Tomasz Tunguz 博客61

    AI稀缺时代的开端

    AI算力稀缺时代正式开启。Nvidia Blackwell芯片GPU租赁价格涨至每小时4.08美元,两月内涨幅达48%;云服务商CoreWeave涨价20%并将最低合同期从一年延长至三年。Anthropic已将最新模型限制给约40个组织使用,OpenAI因算力不足被迫放弃部分项目。这标志着AI充足时代结束,"价高者得"、关系型销售、被迫多元化成为行业新常态,初创公司面临更严峻挑战。

    推荐理由:Tunguz 把 AI 算力短缺的五个特征讲得很透,关系销售与价格通胀对创业者是核心挑战,虽然文章有点旧,但判断框架仍然有效。

4月8日周三
  1. Meta AI:Research Blog80

    Meta Superintelligence Labs 发布 Muse Spark 多模态推理模型

    Meta Superintelligence Labs 发布 Muse 系列首个模型 Muse Spark,为原生多模态推理模型,支持工具使用、视觉思维链和多智能体编排,已在 meta.ai 和 Meta AI 应用上线并开放部分用户的私有 API 预览。

    推荐理由:官方发布给出基准成绩与三条扩展轴的技术细节,读者可以了解其相对 Llama 4 Maverick 的效率变化和安全评估结论。

4月6日周一
  1. Cursor Blog66

    通过warp decode提升MoE模型推理效率

    针对Blackwell GPU上的小批量解码,研究提出了一种名为“warp decode”的新方法。该方法颠覆了传统以专家为中心的计算路径,改为让每个GPU warp负责计算一个输出神经元。这一根本性改变消除了原有流程中五个纯数据管理的“簿记”步骤,将整个MoE计算层压缩为仅两个内核。其优势在于避免了填充、分散和中间缓冲区的读写,并通过warp独立性实现了更好的调度。在Blackwell GPU上,该方法实现了1.84倍的吞吐量提升,同时输出精度更高,与全FP32参考值的差距缩小了1.4倍,有效加速了模型研发流程。

    推荐理由:Cursor 把 MoE 推理的并行轴从专家翻转到输出神经元,Blackwell 上吞吐涨 1.84 倍还顺带提精度,这种同时赢性能和精度的内核优化极其罕见,做推理引擎的值得逐行读。

4月3日周五
4月1日周三
  1. Meta Engineering Blog81

    Meta Adaptive Ranking Model:弯曲推理扩展曲线,为广告提供LLM规模模型服务

    Meta将其广告推荐系统的运行时模型扩展至LLM的规模和复杂度,旨在更深入理解用户兴趣与意图,以提升广告效果。这一举措通过自适应排序模型,优化了推理阶段的扩展曲线,使部署大规模模型服务成为可能,标志着推荐系统性能向新前沿迈进。

    推荐理由:Meta的工程实践展示了如何优化LLM规模模型的推理效率,对AI系统设计有参考价值。

3月30日周一
  1. Inception Labs:Blog61

    Inception Labs 发布扩散模型 Mercury Edit 2,专注代码 next-edit 预测

    Inception Labs 发布 Mercury Edit 2,一个专为 next-edit 预测构建的扩散 LLM(dLLM),基于近期编辑和代码库上下文预测下一步修改,并行生成 token 以降低延迟。

    推荐理由:官方给出了 KTO 偏好对齐带来的接受率和展示率变化及定价,可帮助开发者评估扩散模型做 next-edit 的实际收益。

  2. François Chollet

    作者以"Glurg"游戏(实为 chess)假设情境论证:借助现有外部认知基础设施(计算机、互联网等),人类顶尖团队能在24小时内从规则解析开发出3000 Elo引擎,三周内可达3500 Elo且计算效率提升10倍。这表明人类智能已具备即时掌握复杂策略系统的能力,而非从零缓慢进化。该论述回应了关于现实世界更接近 chess 而非 Go 的争论,强调人类利用工具扩展认知边界的即时优势。

    引用Eliezer Yudkowsky@allTheYud

    关于 @fchollet 的观点(我来概括一下):现实生活这个领域更接近国际象棋而非围棋,人类的棋力已经接近最优,顶尖机器也只能让一个马;而不是像人们认为围棋那样,上帝要让五子。(当然,他是在开玩笑。)

    推荐理由:Chollet 用思想实验揭示:人类可从零规则快速构建专家系统,这正是当前 AI 与 AGI 的核心差距

3月26日周四
3月25日周三
  1. ARC Prize:官方博客72

    ARC Prize 发布交互式基准 ARC-AGI-3,ARC Prize 2026 设超 200 万美元奖金

    ARC Prize 官方发布 ARC-AGI-3,包含数百个由人类游戏设计师手工制作的回合制交互环境,无指令、无规则、无既定目标,要求智能体自行探索并跨关卡迁移所学。人类得分 100%,前沿 AI 得分 0.51%。ARC Prize 2026 同步开启,奖金超 200 万美元,设 ARC-AGI-3 竞赛与 ARC-AGI-2 大奖两个开源竞赛,并发布技术论文。

    推荐理由:官方公布交互式基准的构成、人类与前沿 AI 的分数差距及两个竞赛的奖金安排,可据此了解智能体评测方向。

3月23日周一
  1. Nathan Lambert:Interconnects

    有损自我改进

    自我改进机制虽客观存在,但受限于"有损"特性,难以推动AI能力的递归式爆发。该论述指出,大语言模型等系统的自我优化过程伴随信息损耗与能力瓶颈,这种非完美的迭代模式打破了"快速起飞"(fast takeoff)的技术假设。与理想化的指数级自我增强不同,实际发展将呈现渐进、受限的增长轨迹,AI安全研究需重新评估递归自我改进的风险阈值。

    推荐理由:AI自我改进虽真实但存在损耗上限,挑战'快速起飞'的普遍担忧,为AGI发展节奏提供新视角

3月20日周五
3月17日周二
  1. Sam Altman

    GPT-5.4 API 上线首周日处理量达 5T tokens,流量超过去年同期整个 API 总量,年化新增净收入突破 10 亿美元,增速创 OpenAI 模型发布历史纪录。

    引用Greg Brockman@gdb

    gpt-5.4 的增速比我们在 API 上发布过的任何其他模型都要快:上线一周内,每天处理 5 万亿个模型 token,处理量超过我们一年前整个 API 的总量,年化净新增收入达到 10 亿美元。 这是个好模型,快去试试吧!

    推荐理由:GPT-5.4 API采用速度创纪录,日处理5T tokens,年化新增收入达10亿美元

3月16日周一
  1. Gary Marcus:The Road to AI We Can Trust

    Sam Altman 承认:实现 AGI 需要超越规模扩展的重大突破

    OpenAI CEO Sam Altman 坦言,仅靠扩大模型规模无法达到 AGI,必须在架构层面实现重大创新。这一表态标志着 AI 发展范式的关键转向,承认当前"越大越好"的扩展策略已遇瓶颈。Altman 强调"是时候寻找新的架构了",暗示基于 Transformer 的现有技术路径难以通向通用人工智能,行业需要颠覆性技术突破而非单纯堆砌算力与参数。

    推荐理由:OpenAI CEO 罕见承认纯扩展不足以实现 AGI,行业技术路线或迎转折

  2. Mistral AI:News78

    Mistral 发布 Small 4,统一推理、多模态与编码能力并以 Apache 2.0 开源

    Mistral 发布 Mistral Small 4,将 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一进一个模型,以 Apache 2.0 许可开源。

    推荐理由:发布方给出架构参数与吞吐对比数据,读者可以评估这款统一推理与多模态的开源模型在自托管部署中的成本取舍。

3月11日周三
  1. Noam Brown

    当今前沿推理模型的训练路径与 AlphaGo 高度一致:先模仿大量人类数据,再扩展推理计算(从蒙特卡洛树搜索到思维链),最后用强化学习突破模仿上限。Demis Hassabis 称,十年前 AlphaGo 的"第37步"预示 AI 可攻克真实科学难题,这些思路对构建 AGI 仍至关重要。

    引用Demis Hassabis@demishassabis

    十年前,AlphaGo 在首尔的那场传奇对局,宣告了现代 AI 时代的开启。它那著名的"第 37 手"向我们表明,AI 技术已经准备好应对科学等领域的现实问题——而受这些方法启发的思路,对于构建 AGI 至关重要 https://t.co/8EibfAByaG

    推荐理由:Meta 研究员揭示推理模型与 AlphaGo 的技术传承,点明 RL 超越模仿的核心路径

3月10日周二
  1. Hugging Face 社区博客83

    保持令牌流动:16个开源强化学习库的教训

    同步强化学习训练中,数据生成是主要瓶颈,如在320亿参数模型上生成3.2万令牌样本需数小时,导致训练GPU闲置。业界主流解决方案是将推理与训练解耦到不同GPU池,通过rollout缓冲区连接并异步传输权重。本文调研了16个实现此模式的开源库,从编排原语、缓冲区设计、权重同步协议、陈旧数据处理、部分rollout支持、LoRA支持及分布式训练后端七个维度比较。关键发现:Ray在编排层占主导(8/16库使用),NCCL广播是默认权重传输方式,LoRA训练支持普遍不足,而分布式MoE支持正成为新差异化特性。

    推荐理由:异步RL训练架构对比,助开发者优化训练效率与库选型。

3月6日周五
  1. Sarvam AI65

    Sarvam AI 开源发布 Sarvam 30B 和 Sarvam 105B 推理模型

    Sarvam AI 以 Apache 2.0 协议开源 Sarvam 30B 和 Sarvam 105B 两款从零训练的推理模型,采用 MoE 架构,训练全部在 IndiaAI mission 提供的算力上于印度完成。

    推荐理由:原文给出两款从零训练的开源推理模型的架构、训练流程和基准数据,并说明针对印度语言的优化与部署效率,可据此评估其与同类模型的差异。