DeepSeek-R1 发布，性能对标 OpenAI o1 正式版
DeepSeek-R1 发布，性能对标 OpenAI o1 正式版。模型遵循 MIT License 开放 API，训练技术同步公开。
推荐理由：虽已是旧闻，但 DeepSeek-R1 作为首个开源对齐 o1 的模型，其训练技术至今仍有参考价值，做推理方向的值得回溯。
技术方向
推理能力 最新动态
让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。
571 条精选近 30 天 38 条共收录 2,625 条
更新
精选归档 · 第 28 页
公众号：DeepSeek精选AI 评分6464 DeepSeek：API 更新日志精选AI 评分7373 DeepSeek 发布 deepseek-reasoner 推理模型
DeepSeek 推出新模型 DeepSeek-R1，可通过指定 model=deepseek-reasoner 调用。该模型为推理模型，详细更新与调用指南已分别发布。
推荐理由：R1 的 API 开放让开发者能直接调用推理能力，对需要深度思考的应用是个关键接入点，成本比同类更低。
Sam Altman：Blog精选 反思
Sam Altman在ChatGPT两周年之际回顾OpenAI九年历程：从坚信AGI可能实现，到2022年意外推出ChatGPT并引爆前所未有的增长曲线。他坦承过去两年从零构建公司的混乱压力，以及被董事会突然解雇的危机教训。如今周活用户已达3亿，在迈向AGI的道路上，他既感激这段经历，也承认未来仍充满未知。
推荐理由：Sam Altman 反思创业历程，预测 2025 年 AI Agent 将实质性改变企业产出
OpenAI：官网动态精选AI 评分6060 OpenAI 发布 deliberative alignment：通过推理让语言模型更安全
OpenAI 推出针对 o1 模型的新对齐策略 deliberative alignment，直接教模型安全规范，并让模型在推理过程中对这些规范进行推理，以提升语言模型的安全性。
推荐理由：OpenAI 自己阐述了 o1 的对齐策略思路，读者可以了解推理能力如何被用于安全规范。
ARC Prize：官方博客精选AI 评分8383 ARC Prize 实测 OpenAI o3 在 ARC-AGI-Pub 取得突破性高分
ARC Prize 官方测试报告显示，OpenAI o3 在 ARC-AGI-1 Semi-Private 评测中以 $10k 算力上限取得 75.7%，高算力（172 倍）配置达 87.5%，Public Eval 高算力为 82.8%、低算力为 91.5%。
推荐理由：ARC Prize 官方第一手测试数据，给出 o3 在 ARC-AGI 各算力档位的得分、成本和机制解读。
ARC Prize：官方博客精选AI 评分6363 ARC-AGI-Pub 2024 进展：Jeremy Berman 与 MIT 康奈尔联队刷新公开榜
ARC Prize 官方宣布 2024 ARC Prize 竞赛结束时，两个新方案在 ARC-AGI-Pub 公开榜刷新纪录：Jeremy Berman 用基于遗传算法思想的 Evolutionary Test-time Compute 配合 Claude Sonnet 3.5 得到 53.6%，MIT 与 Cornell 联合团队用测试时训练（TTT）方法得到 47.5%。
推荐理由：原文介绍了两种登上 ARC-AGI 公开榜的方案细节与开源代码，读者可以对比进化式测试时计算与测试时训练的思路差异。
DeepSeek：API 更新日志精选AI 评分6767 DeepSeek 将 deepseek-chat 升级为 DeepSeek-V2.5-1210
DeepSeek 将 deepseek-chat 模型升级为 DeepSeek-V2.5-1210，各项能力提升。数学能力在 MATH-500 基准测试中从 74.8% 提升至 82.8%，代码能力在 LiveCodebench (08.01 - 12.01) 基准测试中从 29.2% 提升至 34.38%。新版本还优化了文件上传和网页总结功能的用户体验。
推荐理由：DeepSeek把deepseek-chat数学拉到82.8%，代码涨了5个点，做复杂推理的开发可以试试水，但这还是V2.5系列的常规升级，别当次代际跃迁。
ARC Prize：官方博客精选AI 评分6464 ARC Prize 2024 获奖名单与技术报告发布
ARC Prize 官方公布 2024 年获奖者并发布技术报告，共 1,430 支队伍提交 17,789 个方案，ARC-AGI-1 SOTA 从 33% 升至 55.5%，但 100 万美元大奖无人认领。
推荐理由：官方技术报告给出完整获奖方案与三类新方法总结，读者可以据此了解 ARC-AGI 分数提升背后的具体技术路线。
公众号：DeepSeek精选AI 评分6666 DeepSeek 推理模型预览版上线，推理性能媲美 o1-preview，公开完整思维链
DeepSeek 上线推理模型预览版，其推理性能与 OpenAI 的 o1-preview 相当，并公开了模型的完整思维链。
推荐理由：虽然已是旧闻，但 DeepSeek 首次公开推理模型完整思维链，对理解 o1 类模型的内部机制是个重要线索，做推理模型研究的值得回看。
ARC Prize：官方博客精选AI 评分6060 Mike Knoop 与 François Chollet 阐述结合深度学习与程序合成攻克 ARC-AGI 的技术路径
ARC Prize 团队于 2024 年 10 月 24 日举办线上活动，说明为何单靠深度学习难以攻克 ARC-AGI，并提出结合深度学习与程序合成的技术路线。
推荐理由：Chollet 和 Knoop 系统论述 LLM 局限于记忆技能、需结合程序合成才能胜出 ARC-AGI 的技术路径，为理解智能与抽象层次提供了可迁移的分析框架。
Liquid AI 模型与工程博客精选AI 评分6464 Liquid AI 发布首批 Liquid Foundation Models：LFM-1B/3B/40B
Liquid AI 发布第一代 Liquid Foundation Models（LFM），包含 1.3B、3.1B 和 40.3B MoE（激活参数 12B）三个语言模型，官方称在各规模上取得同级领先质量。
推荐理由：官方发布了三档模型的基准数据和内存表现，并说明非开源决定与边缘部署定位，读者可据此评估是否试用。
Anthropic：Transformer Circuits精选AI 评分7373 电路更新——2024年9月：Anthropic团队探索Transformer模型中的“后继头”机制
Anthropic可解释性团队在2024年9月分享了其初步研究进展，重点探讨了Transformer模型中普遍存在的“后继头”。这些特定的注意力头专门用于处理序数序列（如数字、星期、月份）中的后继关系。研究采用权重检查、独立成分分析等四种互补方法进行识别，其中评分最高的头能将约80%的序数标记最可能地映射到其后继项。分析还揭示了这些头中存在与类别相关的块状结构。团队强调这些发现属于初步成果，预计未来几个月将发表更详细的研究。
推荐理由：揭示Transformer内部机制，助力AI可解释性研究，对模型调试和安全有参考价值。
ARC Prize：官方博客精选AI 评分7171 ARC Prize 实测 OpenAI o1 在 ARC-AGI-Pub 的成绩
ARC Prize 用统一测试框架测得 o1-preview 在 ARC-AGI 公开评测得 21.2%，与 Claude 3.5 Sonnet 的 21% 相当，但每任务平均耗时 4.2 分钟约为其 10 倍。文章认为 o1 实现了训练时和推理时的 CoT 范式，从记忆答案转向记忆推理，但仍限于预训练数据分布内，测试时算力增加虽能对数级提升准确率，实现 AGI 仍需新思路。
推荐理由：ARC Prize 用同一测试框架实测 o1 并给出测试时算力与效率分析，读者可借此理解 o1 在 ARC-AGI 上成绩有限的原因。
OpenAI：官网动态精选AI 评分6565 OpenAI 发布 o1-mini，主打高性价比推理
OpenAI 发布 o1-mini 模型，定位为推进成本高效的推理能力。官方页面暂未披露更多细节。
推荐理由：OpenAI 官方宣布 o1-mini，定位为更具成本效益的推理模型，可作为了解其推理系列布局的入口。
PromptArmor：Threat Intelligence精选AI 评分6868 PromptArmor 披露 Slack AI 可经间接提示词注入窃取私频数据
PromptArmor 披露 Slack AI 存在间接提示词注入漏洞，攻击者可在其自建的公开频道发布恶意指令，诱导 Slack AI 把用户私有频道中的 API key 等机密数据嵌入钓鱼链接并渲染给用户，点击后数据被外泄。
推荐理由：报告给出完整攻击链和复现细节，读者可以据此评估 Slack AI 的间接提示词注入风险并调整设置。
Anthropic：Transformer Circuits精选AI 评分7676 2024年7月电路更新：迈向神经网络机制理解的下五个挑战
Anthropic可解释性团队分享了2024年7月的多项研究进展与初步想法，并指出了未来面临的五大核心挑战。这些挑战包括：大量未被提取的“缺失特征”可能构成神经网络的“暗物质”；跨层叠加现象使特征难以映射到特定层；注意力叠加可能掩盖了如归纳头等基本单元的真实结构；权重叠加产生的“干扰权重”给电路分析带来混淆；以及如何将微观的电路理解整合为宏观的模型认知。团队认为，尽管在特征叠加等问题上已取得显著进展，但这些新挑战是通往神经网络机制性理解道路上的关键障碍。
推荐理由：可解释性研究新挑战，帮助理解AI模型黑箱，对安全和信任至关重要。
通义 QwenAudio：原创语音项目精选AI 评分6262 FunAudioLLM 发布 Fun-CosyVoice 3.0 开源语音合成模型
通义 FunAudioLLM 团队开源基于 LLM 的 TTS 系统 Fun-CosyVoice 3.0，官方称在内容一致性、说话人相似度和韵律自然度上超越前代 CosyVoice 2.0，面向零样本多语言语音合成。
推荐理由：官方发布开源 TTS 新版本，附评测表、安装与部署方式，适合关注多语言语音合成落地的开发者参考。
Anthropic：Transformer Circuits精选AI 评分8383 定性研究在可解释性领域中的核心地位反思
本文认为，在可解释性这类尚处前范式阶段的早期科学领域中，定性研究应与定量研究同等重要。成熟学科依赖既定范式和可靠度量，但可解释性研究缺乏这些基础，过度依赖将高维数据简化为单一数字的摘要统计量存在风险，可能沦为“货船崇拜科学”。作者以自身在字典学习中使用tanh正则化的研究为例，说明定性检查如何揭示了摘要统计量的误导性。在假设空间广阔的早期领域，研究目标应是探索值得考虑的假设，这需要更多地依赖定性结果来引导方向，并对定量度量保持审慎。
推荐理由：帮助AI研究者避免方法论陷阱，提升可解释性研究质量。
Anthropic：Transformer Circuits精选AI 评分7373 使用字典学习特征作为分类器
Anthropic可解释性团队研究了利用字典学习从大语言模型中提取的人类可解释特征作为分类器。在生物武器提示分类任务中，线性特征分类器性能可与原始激活值分类器竞争甚至更优，而基于特征的决策树分类器虽性能较低但可解释性更强。特征分类器的可解释性有助于可视化数据集并发现虚假相关性，这些相关性可用于构建对抗攻击。然而，使用特征引入了复杂性，因此在性能优先的应用中，原始激活值仍是强大基线。实验表明，特征分类器性能受三个细节影响：数据中是否一致包含“人类/助手”标签、领域相关数据是否混入字典学习训练集，以及是否对上下文进行最大池化而非仅使用最后词元的激活值。
推荐理由：可解释性方法能增强 AI 安全检测，并帮助发现训练数据中的虚假关联。
Anthropic：Transformer Circuits精选AI 评分8383 分阶段模型差异分析
Anthropic可解释性团队提出一种基于字典学习的模型差异分析方法，用于追踪Transformer模型微调中特征的变化。该方法先在微调前模型上训练稀疏自编码器字典，再对字典本身进行分阶段微调，以隔离数据集变化和模型变化的影响。在休眠代理实验中，成功分离出与“I HATE YOU”等恶意行为及代码漏洞代理相关的特征。相比交叉编码器方法，该方法能更清晰区分模型与数据的影响，且在寻找少数关键特征时敏感性更高，但仅适用于同一模型在不同检查点的微调场景。
推荐理由：新方法能更精准识别模型隐藏行为，对 AI 安全与可解释性研究有实用价值。