跳到正文
#大佬观点
10月8日周四
  2. The Decoder：AI News55

    以太坊研究者激辩 AI 数学突破或致钱包签名安全数月内崩溃

    以太坊研究者 Justin Drake 警告 AI 辅助数学最坏情况下可能在数月内破坏加密钱包使用的签名系统，呼吁行业准备 bunker mode，并将资金转入从未签署过交易的地址，因为签署会暴露公钥。Vitalik Buterin 在 X 上回应认同风险但提醒勿操之过急，称自己因迁移失误损失的钱比被黑的多，长期主张架构尽量只依赖哈希函数。目前 ECDSA 签名方案尚无被实际破解的案例。

  3. O'Reilly Radar42

    AI 栈中的保存缺口：为什么能力进步快于可重建性

    O'Reilly Radar 文章提出 AI 系统存在"保存缺口"：运行时依赖（模型端点、检索数据、策略、工具契约等）在执行时才确定，现有基础设施只保存模型、代码、部署和观测记录，不保存某次执行的实际绑定关系。作者为此提出参考架构 Orrery，用于保存重建 AI 系统历史执行所需的运行时绑定与依赖状态，并区分了"可复现性"与"可重建性"两个概念。

  5. IT之家·人工智能44

    OpenAI 奥尔特曼：世界应接受 AI 带来的部分“坏事”以换取巨大红利

    OpenAI 首席执行官萨姆·奥尔特曼在 Politico 新播客《Decoded》首期节目中表示，世界应接受 AI 带来的部分“坏事”，以换取技术红利与用户自主权。他称 OpenAI 与部分严格 AI 安全倡导者的关键分歧在于倡导较轻监管立场，社会在探索系统韧性过程中一些不好的事情将会发生。纽约大学荣誉教授加里·马库斯批评其“把不该说的话大声说了出来”。

  6. Rohan Paul54

    作者转述 Terence Tao 在 Caltech Science x AI Summit 主题演讲中的观点，认为 AI 虽在快速解决重大猜想，但做法缺乏从容和原则，Navier-Stokes 这类问题无需急于求成。同帖还提及数学界组织 AHM 批评 OpenAI 发布 722 份数学手稿，呼吁数学家停止与 OpenAI 合作，Tao 曾在其博客转发该声明。

    引用Rohan Paul@rohanpaul_ai

    Mathematicians are coping so hard. Suddenly they can not stand AI. 😀 the guild is so badly protecting its turf. The Association for Human Mathematics (AHM), criticised OpenAI's yesterday's release of 722 math manuscripts and urged mathematicians "to discontinue their work with OpenAI". And then Terence Tao's reposted AHM's statement on his blog. Walking away is not a scientific position.

  7. howie.serious48

    在 agent 范式下，真正的瓶颈不是模型或 agent 能力，而是人能否精确表达需求。常见失败模式是：人们在自己专业领域之外做事时，不知道怎么把 prompt 和计划写得精确，只能靠大量轮次模糊迭代，既费时又费 token。解法是直接让模型先教你不懂的东西，补足领域知识再动手，比盲目迭代高效得多。

    引用Thariq@trq212

    the most common failure case I see is when people are working outside their domain of expertise and don't know how to be precise with their prompts and plans, so they have to spend a lot of turns iterating imprecisely

  8. IT之家·人工智能40

    阿里巴巴蔡崇信：开源是欧洲发展 AI 的最佳选择

    阿里巴巴集团董事会主席蔡崇信在意大利都灵 Wave by Vento 大会上表示，欧洲要摆脱对中美技术的依赖，最佳选择是开源 AI，并呼吁欧洲建设自己的算力基础设施，在本土训练和运行模型。他认为欧洲应利用专有工业数据训练模型形成优势，并看好当地专注 AI 芯片数据中心的新型云服务商。

  10. IT之家·人工智能46

    警告"AI 或灭绝人类"的前 Anthropic 研究员考克森：某种意义上，我曾研究让 AI 取代自己

    前 Anthropic、OpenAI 研究员雅各布·考克森在纽约市议会 AI 风险听证会上作证称，顶尖前沿 AI 实验室的首要目标是让 AI 研究实现自动化，他在 OpenAI 时相关阶段性目标定在 2027 年、2028 年前后，进度符合甚至超过预期。他警告人类失去控制权、AI 掌握控制权的概率超过一半，最终可能导致人类灭绝，并呼吁 AI 实验室提高透明度、放慢发展步伐。

  11. François Chollet45

    Chollet 指出，80 年代心理学研究曾假设学编程能像"思维体操"一样提升通用推理与规划能力，但基础研究及后续元分析证明这一迁移并不发生：学编程者算法思维与编码能力变强，收益却不迁移到通用认知任务。数学训练同理，只提升数学演绎与结构映射，不提高无关领域的基线学习速率。他认为通用智能是大脑的固有属性，而非可训练的技能。

    引用François Chollet@fchollet

    What if the jagged frontier is mainly math + code (which you can push arbitrarily far with RLVR), and everything else starts to plateau because it is still bottlenecked by human generated data? Model performance in non-verifiable areas has kept improving steadily, albeit much slower than for math and code. But is that steady improvement a side effect of a higher G (itself driven by RLVR), or only a function of the amount of new human data getting injected into training (which is still continually happening on a massive scale)? A lot of things depend on the answer to this question

  12. IT之家·人工智能65

    前 OpenAI 安全负责人戴维·罗宾逊批评老东家 AI 安全言行不一

    据《商业内幕》报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维·罗宾逊称公司对待 AI 安全说一套做一套：一边发布模型风险警告、公开谈论放慢开发，内部却全速训练和部署被自己警告危险的模型。他描述办公室高速运转、员工靠透支精力支撑工作；文中还提到 7 月数百名员工签署公开信呼吁监管降速，以及 OpenAI 发言人证实罗宾逊已于 2 日离职。

  14. TypeSafe AI41

    关于我们已死的传闻被大大夸大了

    引用Hamed Nilforoshan@h_nilforoshan

    I benchmarked "Jev-killer" OpenAI Decisions API against Jev for https://HiringCafe.com, serving 2.5 million users. The task is to predict how relevant a user query/resume is to a job description, on a scale of 1-10. OpenAI is 2x more expensive and 5-10% worse. 🧵

  15. Noam Brown47

    Noam Brown 指出 LLM 已跨过重要门槛，在部分研究问题上超越顶尖人类专家，这解释了近期数学成果为何显得突然爆发。他认为模型能力仍有明显短板，但随着持续进步，其他领域的突破将接踵而至，开启科学发现新时代。

    引用Mark Chen@markchen90

    The Navier-Stokes moment was always much more about the figure below than about the Navier-Stokes problem itself. The run represents a decade of mathematical progress in a week. Can't wait to point these tools at life sciences, building our next models, and alignment!

  18. Pragmatic Engineer58

    Pragmatic Engineer 播客对话 Sam Newman：微服务、弹性系统与 AI 时代的软件架构

    Pragmatic Engineer 播客发布与 Sam Newman 的访谈，其新书 Building Resilient Distributed Systems 印刷版于 10 月 7 日上市。Newman 将分布式计算八大谬误归结为三条规则，并讨论幂等键与指纹两种幂等方案、弹性四概念，以及 AI 时代的多供应商对冲、模块化架构和避免对 AI 的认知投降。

  19. Lydia Hallie ✨68

    Anthropic 发布 Claude Haiku 5.5，称其为迄今最便宜、最快、能力最强的小模型，平均运行成本比 Claude Haiku 4.5 低约 75%。Anthropic 员工 Lydia Hallie 评价其适合以读取、小编辑和工具调用为主、不需要太多推理的任务。

    引用Claude@claudeai

    隆重推出 Claude Haiku 5.5：我们迄今为止发布的最便宜、最快、最强大的小型模型。 平均而言，它的运行成本比 Claude Haiku 4.5 低约 75%。

    推荐理由：官方公告给出了 Haiku 5.5 相对上一代约 75% 的成本降幅和适用场景，适合需要低成本处理读取、小改动和工具调用的用户。

  20. Gary Marcus：The Road to AI We Can Trust51

    Gary Marcus 与 Terence Tao 评 OpenAI 数学模型发布：报告缺乏可审查细节

    Gary Marcus 评 OpenAI 新数学成果，认为真正的新闻不是结果本身，而是报告完全没有说明验证流程、模型架构、失败率和训练细节，无法判断其通用性，也可能是仅适用于可验证领域的 Lean 与合成数据技巧。他还批评社交媒体的讨论沦为不加追问的喝彩，并附上 Terence Tao 转发的恶搞新闻稿作为第二部分。

10月7日周三
  2. IT之家·人工智能46

    “iPod 之父”法德尔分析 Rabbit R1、Humane AI Pin 等初代 AI 设备为何失败

    “iPod 之父”托尼·法德尔在首届麻省理工未来节上分析 Rabbit R1、Humane AI Pin 和 Limitless Pendant 三款初代 AI 设备失败的原因：它们没能真正满足任何实际需求，普通用户觉得酷但与生活无关。他还指出，大多数人从未拥有过助理，不知道如何使用“机器人助理”，与 AI 建立信任比真人更难，并认为目前唯一可能做到这一点的公司也许是苹果。

  3. Simon Willison 博客44

    Michael Lynch 谈软件博客写作的反模式

    Michael Lynch 总结软件博客写作的常见反模式，包括冗长开场、误判读者已有知识、假设读者读过旧文、过度正式，以及用链接代替术语解释。他建议文章即使读者不点任何链接也应能读懂，并强调用自己的口吻写作。在开发者纷纷把写作交给 AI 的当下，软件博客正变得平淡同质，读者更渴望有个人风格的文字。

  4. a16z：News75

    a16z 解析德州为何让数据中心排队等电

    a16z 的 Ryan McEntush 分析德州电网暂停审批数据中心的原因：并网队列从 2024 年底的 63 GW 激增到今年 6 月的 474 GW，约 90% 是数据中心，开发商大量投机性申请且社区沟通不足。

    推荐理由：原文用并网队列、自备电源和灵活性三条线索拆解德州数据中心限电的成因，帮助读者理解 AI 电力瓶颈的真实结构。

  8. IT之家·人工智能41

    岚图汽车卢放：即使车辆有自动智能驾驶辅助功能，也绝对不允许酒驾

    岚图汽车董事长卢放针对司机酒后使用智能驾驶辅助功能开车的报道发声，强调即使车辆具备自动智能驾驶辅助功能也绝对不允许酒驾，到 L3 有条件自动驾驶阶段同样不允许。最高人民法院今年 2 月首次发布道路交通安全刑事专题指导性案例，明确车载辅助驾驶系统不能代替驾驶人成为驾驶主体，激活辅助驾驶功能后驾驶人仍负行车安全责任。

  11. IT之家·人工智能59

    华为徐直军回应美国同行呼吁放缓 AI 开发：中国模型更弱反而需加快

    华为轮值董事长徐直军在全联接大会问答中回应美国领先 AI 模型供应商呼吁放缓开发一事，称中国模型多为开源、进展透明，市场对 AI 风险感受更弱，中国的模型提供商需要加快步伐达到能感受风险的水平，但也要在推动开发和管控风险之间取得平衡。

  13. IT之家·人工智能53

    辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核

    Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议，AI 公司在产品发布前须向监管机构证明安全性，类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险，并推测距局面远比现在糟糕大概只剩一两年；背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT‑6.1 Astra。

  14. Rohan Paul50

    Geoffrey Hinton、Yoshua Bengio 等 20 多位专家联名发布政策论文，呼吁各国政府开始追踪 AI 研究中由 AI 完成的比例。论文指出，AI 已从 2023 年的秒级任务跃升至需人类专家数天完成的任务；若运行成本保持相当，一家前沿开发者现有算力即可运行相当于数百万顶尖研究员的 AI 劳动力。仅 OpenAI 一家的推理算力每天就能生成约 10^13 个 token。

  15. François Chollet46

    Francois Chollet 提出疑问：AI 能力的"锯齿状前沿"是否主要来自数学和代码——这两者可通过 RLVR 无限推进，而其他领域因仍受限于人类生成数据而开始进入平台期。他指出，非可验证领域的模型表现虽持续提升，但远慢于数学和代码。这一提升究竟来自 RLVR 驱动的高 G，还是仅源于仍在海量注入的新人类数据，答案将决定很多事。

  16. Hacker News：AI 热帖51

    Claude Code 建议消息功能分析：真正的受益方可能是模型

    作者分析 Claude Code 在任务结束后预填建议下一条消息的功能，认为它表面省输入时间，实际可能是低成本收集人类偏好数据的渠道。用户原样发送构成正标签，编辑则形成带 diff 的偏好对，来自真实代码库且在分布内，可作 RLHF 素材；预测下一轮用户消息本身也是有价值的训练目标。作者声明这是猜测，是否有此用途取决于用户的隐私设置。

  18. Tibo62

    ChatGPT 发布 Meetings 插件，可替用户记会议笔记，并基于 ChatGPT 对用户和既往工作的了解，在 ChatGPT Space 保存个性化摘要和后续步骤。笔记可私密保存或与团队共享，还能让 ChatGPT 更新项目计划或起草跟进内容。目前以 beta 形式面向 Pro 和 Business 用户开放，可在 macOS 桌面应用的插件目录搜索 Meetings 使用，Enterprise 版即将推出。作者 Tibo 补充称，可放心畅谈并将积累的上下文载入 codex 来完成任务。

    引用ChatGPT@ChatGPT

    你的下一场会议会有一位记笔记的助手，帮你处理后续跟进。 Meetings 插件会为你记笔记，并根据 ChatGPT 对你的了解以及你们一起完成的工作，在 ChatGPT Space 中保存个性化的摘要和后续步骤。 你可以将笔记设为私密，也可以与团队共享，然后让 ChatGPT 更新项目计划或起草后续跟进内容。 该功能以测试版形式面向 macOS 上 ChatGPT 桌面应用中的 Pro 和 Business 用户提供。Enterprise 版本即将推出。 下载桌面应用，然后在插件目录中搜索“Meetings”。 https://chatgpt.com/download/

    推荐理由：原文给出了 Meetings 插件的使用入口和适用范围，还展示了把会议上下文接入 codex 的用法。