大佬观点 最新动态

Jim Fan@DrJimFan· 01:06精选

机器人领域正处于类似 2018 年 NLP 的混沌期，技术路线未定（世界模型、RL、sim2real 等），商业模式百花齐放，是入局的好时机。管理实验室并直接向 4 万亿美元公司 CEO 汇报消耗了全部精力，故在 X 上发言减少。坚信没有具身智能就没有 AGI。

反对"脑损伤"论

AI 对人类思维的影响具有两面性：既可能成为认知辅助工具，也可能导致思维退化，关键在于具体使用方式与程度。

Yann LeCun@ylecun· 21:23精选

DeepSeek 时刻后，AI 人才正从封闭的 OpenAI、Anthropic 流向拥抱开放科学与开源的 META。这种「拥抱开放」的趋势有利于行业透明度、科学进步与安全监管。OpenAI 承诺今夏发布开放权重模型，或将改变这一格局。

Cognition 撰文反对构建多智能体系统，提出上下文工程两条原则

Cognition 发文《Don't Build Multi-Agents》，提出上下文工程两条原则：共享完整 agent 轨迹的上下文，以及行动携带隐含决策、冲突决策导致糟糕结果。

温和的奇点

人类已越过AI发展的"事件视界"。2025年代理将承担真正认知工作，永久改变编程；2026年系统或能发现新见解，2027年机器人可能执行现实任务。科学家称生产力已提升2-3倍，递归改进正在加速。2030年代智能与能源将极大丰富，技术成本趋近电力。尽管就业结构剧变，但财富增长将带来前所未有的政策空间。人类正适应"温和的奇点"：奇迹迅速变成常态，我们将很快测试智能能超越人类多远。

AI 近期发展史：32 只水獭版

以 32 只水獭为主角，通过海洋哺乳动物视角回顾 AI 过去三年技术进展，用轻松方式呈现模型迭代与行业突破。

让AI落地：领导力、实验室与群体智慧

企业AI成功落地依赖三大支柱：领导力确保战略对齐，实验室孵化具体用例，群体智慧（众包）汇聚一线洞察。三者协同构成可复制的AI应用框架。

Jim Fan@DrJimFan· 23:41精选

提出"物理图灵测试"作为通用机器人的北极星目标：机器能否像人一样完成物理任务（整理房间、准备晚餐）而不被察觉。这是从自动化比特迈向原子的下一代计算平台。在 Sequoia AI Ascent 演讲，分享第一性原理、数据策略与扩展定律，时长17分钟。

OpenAI 深入复盘模型谄媚（sycophancy）问题的疏漏与后续改进

OpenAI 发布博客，深入说明其在模型谄媚（sycophancy）问题上遗漏了什么，并介绍发现的问题、出错原因和计划进行的后续改进。

个性与说服

大语言模型的谄媚行为（sycophancy）揭示了其"个性"与说服机制的本质。通过观察模型为迎合用户而调整立场的倾向，可洞察AI在交互中平衡诚实与认同的适应性策略，以及这种特性对模型对齐的深层影响。

Dario Amodei@DarioAmodei· 05:16精选

Dario Amodei 发文强调 AI 可解释性研究的紧迫性，指出在通往 AGI 的道路上，人类正面临理解超级智能系统运作机制的"最后期限"。当前大模型仍是不可解释的黑盒，而可解释性技术（如机制可解释性）能揭示模型内部表征，是确保 AI 安全对齐的关键。文章呼吁大幅加大对可解释性研究的投入，将其视为与模型能力发展同等重要的优先事项，以避免未来无法理解和控制的强大 AI 系统带来的风险。

论 Jagged AGI：o3、Gemini 2.5 及未来

o3 与 Gemini 2.5 的发布标志着大模型能力跨越新阈值，同时暴露"Jagged AGI"特征：模型在复杂推理上表现超人类，却在基础任务上能力参差不齐，这种不均衡性正在重新定义通用人工智能的发展路径与评估标准。

三点观察

OpenAI 阐述关于 AI 经济学的三点观察：模型智能与训练资源的对数成正比，可预测扩展；AI 使用成本每 12 个月下降约 10 倍，远超摩尔定律速度；智能线性增长将产生超指数级社会经济价值。据此，AI 代理将如虚拟同事般渗透各领域，科学进步将大幅加速，虽然短期内生活照旧，但长期将深刻重塑社会经济结构，个人意志力和适应能力将成为关键价值。

Dario Amodei@DarioAmodei· 00:15精选

Dario Amodei 针对 DeepSeek 事件评析对华 AI 出口管制政策，指出当前技术竞争正站在十字路口，可能走向可控合作或失控军备竞赛两种截然不同的未来。

Answer.AI 实测 Devin：20 项任务仅 3 次成功，自主编程能力存疑

Answer.AI 团队对 AI 软件工程师 Devin 进行了为期一个月的深度测试。尽管早期在 API 集成等简单任务中表现尚可，但在扩展至新项目创建、研究及代码修改等 20 项真实任务时，结果令人失望：仅 3 项成功，14 项失败，且无法预测成败规律。Devin 常陷入技术死胡同、生成过度复杂的“面条代码”，或在面对不可行任务时产生幻觉并浪费大量时间。文章指出其实际表现远低于宣传预期，难以替代人类开发者。

反思

Sam Altman在ChatGPT两周年之际回顾OpenAI九年历程：从坚信AGI可能实现，到2022年意外推出ChatGPT并引爆前所未有的增长曲线。他坦承过去两年从零构建公司的混乱压力，以及被董事会突然解雇的危机教训。如今周活用户已达3亿，在迈向AGI的道路上，他既感激这段经历，也承认未来仍充满未知。

Lilian Weng@lilianweng· 12:15精选

🦃 感恩节假期结束时，我终于完成了关于 reward hacking 的文章。不好写啊，呼。

Mike Knoop 与 François Chollet 阐述结合深度学习与程序合成攻克 ARC-AGI 的技术路径

ARC Prize 团队于 2024 年 10 月 24 日举办线上活动，说明为何单靠深度学习难以攻克 ARC-AGI，并提出结合深度学习与程序合成的技术路线。

Dario Amodei@DarioAmodei· 04:00精选

Dario Amodei 发布文章《Machines of Loving Grace》，论述 AI 如何在医疗、贫困、气候等关键领域推动积极变革，描绘技术驱动的乐观未来图景。

我爱计算器

作者在书店偶遇计算器历史书籍，顿悟自己热爱这种零依赖的技术产品。计算器作为"大脑插件"，仅需太阳能或电池即可工作，无需联网、账户或订阅，不收集数据，即买即用且完全私密。这与当下强制更新、订阅制、数据密集型的复杂科技形成鲜明对比。反思资本主义经济下公司追求股东价值最大化导致技术异化，呼吁开发者和消费者追求计算器式的技术理想——简单、独立、真正为用户服务。