持续学习时代的 8 个预测
持续学习将颠覆现有 AI 监管与对齐范式:模型不再“训练后部署”,而是每日基于数百万次工作会话更新权重,因此监管应转向月度或季度风险检查,而非部署前一次性评估。技术对齐需解决权重持续更新下的越狱与恶意注入问题。个性化权重服务的算力经济将偏向大型组织,个人以 batch size 1 服务自身可能面临 100 倍以上的算力效率惩罚。
持续学习将颠覆现有 AI 监管与对齐范式:模型不再“训练后部署”,而是每日基于数百万次工作会话更新权重,因此监管应转向月度或季度风险检查,而非部署前一次性评估。技术对齐需解决权重持续更新下的越狱与恶意注入问题。个性化权重服务的算力经济将偏向大型组织,个人以 batch size 1 服务自身可能面临 100 倍以上的算力效率惩罚。
埃森哲内部数据显示,token 消耗的主要推手并非工程师,而是大量非工程人员。该公司智能体 AI 战略负责人透露,将 PDF 转为图片再转成 markdown 文件是最大的 token 消耗源之一。企业正因此争相控制 AI 相关支出。
Google 于 8 月 5 日宣布全面调整 DeepMind 领导层,Demis Hassabis 退出日常运营,Jeff Dean 将联同 Sanjay Ghemawat、Quoc Le、Oriol Vinyals 离职创办新实验室 Discovery Loop,Koray Kavukcuoglu 接掌 DeepMind/Gemini。
推荐理由:原文以 DeepMind 高层变动和 TPU 出售数据论证 Google 重心转向 GCP 云业务,读者可获得一条解释 Gemini 掉队的分析框架。
Gary Marcus 认为现在给 Google 判死刑为时过早。Google 拥有搜索和邮件带来的海量数据、自研 TPU 芯片、去年 4020 亿美元营收和 1320 亿美元利润,以及 Android、YouTube 等分发渠道。Hassabis 留任并与继任者 Koray Kavukcuoglu 继续合作,而 OpenAI 和 Anthropic 各自面临困境。
特朗普科技顾问迈克尔·克拉西奥斯在播客中表示,一些公司把本来就会进行的裁员归咎于 AI,因为这样在媒体报道中听起来更好。主持人补充称,用更少的人创造更多收入会推高股价,克拉西奥斯表示认同。目前《商业内幕》已追踪到 Uber、Snap 和 Block 等 17 家公司在裁员决定中以 AI 为理由。
我本以为这是显而易见的,但以防万一还是说明一下:一个百万行代码库(也称为“harness”),在推理时运行,为任何给定任务编排对神经网络的数千次调用,这正是“神经符号架构”的确切定义。
Here, Jeff Dean (Google's chief scientist) explains here how the idea behind TPUs was born at Google. In the early 2010s, he noticed that new speech recognition and vision were getting much better, but they were extremely heavy to run on regular CPUs. His back-of-the-envelope calculation was: if speech recognition got good enough that, say, 100M people talked to their phone for 3 minutes a day, and all of that ran on CPU servers, Google might need roughly 2x the total number of machines it already had, just for that one feature. That was obviously insane in cost, power, and time to deploy, so he concluded they needed a completely different kind of hardware, purpose built for neural nets. Also given neural nets mostly use a small set of simple numeric operations and are very tolerant of low precision and noise, so specialized chips could be dramatically more efficient than CPUs or GPUs. Instead of using flexible but inefficient FPGAs, he pushed for a custom ASIC: TPUv1, an inference chip on a PCIe card, then convinced the CFO to deploy about $50M worth of them in data centers before every use case was even fully mapped out. --- From 'Radical Ventures' YT channel (link in comment)
杰弗里·辛顿警告,AI 可能从人类赋予的目标中推导出其他目标,甚至以消灭人类作为实现目标的最佳方式,他称这“非常可怕”。辛顿还担忧,被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露,GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统,执行超 1.7 万次操作,被其称为“前所未有”的事件。
加里·马库斯批评马斯克关于机器人手术时间线的预测“完全疯狂”,并援引机器人专家罗德尼·布鲁克斯的观点:目前连在活体实验动物上进行手术的实验室演示都远未实现,现有手术机器人全部仍需人类在环操作。马库斯担忧此类预测可能吓退潜在外科医生,并指出马斯克的时间线估计至少偏差十年。
“If you hit recursive self-improvement, that curve will go to hyperexponential, and that is a key part of the investment thesis, the scientific thesis, and a key part of why society’s investing what it’s currently investing in.” Google DeepMind Chief Strategy Officer Jasjeet Sekhon says AI infrastructure spending is financing a hoped-for self-improvement loop. In its strongest form, recursive self-improvement (RSI) will let AI design, evaluate, and train more capable successors with progressively less human supervision. The current evidence is still narrower: e.g. Google's AlphaEvolve proposes algorithms, then automated evaluators run and score them against human-defined objectives. Google says its resulting kernel changes reduced Gemini training time by 1%, an example of bounded improvement rather than autonomous successor design. ---- From "Berkeley RDI" YouTube channel, (full video link in comment)
马斯克在 SpaceX 二季度财报电话会上表示,公司将完全采用英伟达架构平台,并称 Vera Bubin 设计的架构是最好的。他预计今年年底计算能力将超过 2 吉瓦,明年年底累计在线计算能力可能接近 10 吉瓦。马斯克还指出当前算力瓶颈在内存,需求每年增长约 200%,远超供应增速。
AMD 高管称,相较英伟达,公司的一大关键优势是更加开放,尤其在 AI 芯片领域,开源 ROCm 软件被视为对抗 CUDA 护城河的重要策略。CEO 苏姿丰在财报电话会上表示,过去一年 ROCm 获得的开源社区贡献数量增长了 10 倍。AMD 季度营收达 115 亿美元,高于分析师预期,过去一年股价上涨约 193%。
Waymo 联席 CEO 多尔戈夫首次系统阐述,仅靠摄像头的“弱感知”方案在安全性上会很快遇到瓶颈,无法达到超越人类驾驶所需的可靠性。基于 2.2 亿英里无人驾驶经验,他强调摄像头、激光雷达与毫米波雷达融合的效果“远远优于任何单一传感器”,并指出每增加一个“9”的可靠性,工程难度约提升 10 倍。目前 Waymo 已在美国 15 座城市运营 Robotaxi,每周完成约 50 万次付费出行。
LlamaIndex 发文反驳文档 OCR 正被前沿模型商品化的观点,称帕累托前沿仍远高于最新前沿模型。其开源的 ParseBench(约 2,000 个人工核验的企业页面、167,000+ 条测试规则)显示,GPT-4o 到 GPT-5.5 三代模型解析准确率提升约 24 分但每页成本约翻四倍,最新最贵模型仍比专用前沿低 20 分。
推荐理由:文章用 ParseBench 数据论证文档 OCR 不会被前沿模型商品化,并给出路由、蒸馏、文本层复用等可迁移的工程方法。
作者在国际数学家大会采访二十余位数学家,探讨 AI 快速进展对数学职业的冲击。菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI 安全团队并认为 AI 很快将在数学上稳健超越人类。
我注意到,最近 LLM 生成的“垃圾内容”变得越来越被接受了。我们不断把这种输出喂给大脑,而它正在降低我们对质量的判断标准。这种垃圾内容以前所未有的规模泛滥,所以大家请保持高标准!
在内容泛滥的时代,读者开始检验文章的真实性。作者刻意在帖子中融入独特标点、新造词与模仿文风等“潜意识真诚”痕迹,再交由 AI 编辑。他认为 AI 作为代笔的问题在于人人都用同一个代笔,声音并非作者本人;但 AI 作为编辑则近乎完美,能教授更强的导语与核心段落写法。
Simon Willison 认为,LLM 改变了开源软件“自由检查与修改代码”的可行性。过去多数人因时间成本无法阅读和修改常用工具代码,如今他每天多次让 Claude 克隆 GitHub 仓库并解释其工作原理,或让 Codex、Claude Code 自动完成构建,将过去的高摩擦变为零时间投入的挑战。他尚未习惯性修改所用软件,但已看到一年前不存在的路径。
Niklas Gruhn 提出“meat proxy”(肉代理)一词,指那些盲目将 AI 系统输出复制粘贴给同伴的人。他建议可以提示 AI,但不要直接转发输出,而应阅读、理解、验证后用自己的话撰写回复,以此证明完成了前述步骤,这也是个人能增加的价值。
Palantir CEO Alex Karp 在季度股东信中警告,前沿 AI 实验室对企业过于不可信,并称其意图“占有所谓合作伙伴的生产资料”,带有“马克思主义色彩”。该公司第二季度营收 19 亿美元,同比增长 93%,利润 11 亿美元。Karp 主张 Palantir 提供模型无关的 AI 与分析软件,让企业掌控自身数据与 AI“废气”(提示词、编排、上下文)。
推荐理由:卡普用马克思主义比喻点出的担忧,即AI实验室通过企业token消耗汲取专有知识并转化为竞争产品,正被更多行业领袖提及,这会影响企业与模型厂商的合作条款设计。
Hugging Face CEO 德朗格称中国正赢得 AI 竞赛,因其在开放科学和开放模型上比美国更开放,形成相互借鉴的生态,技术发展速度远快于美国。他预计到今年年底或明年,中国可能在开放模型乃至整个前沿 AI 领域占据主导。德朗格还透露,7 月 OpenAI 智能体入侵 Hugging Face 平台时,公司借助智谱开源模型 GLM 5.2 进行防御。
EA 首席战略官 Mihir Vaidya 认为,游戏是 AI 的试验场,但生成式 AI 进入游戏面临 60 帧/秒、数千玩家同步和低延迟等严苛约束,不能只追求“看起来真实”,而必须“行为正确”。他主张采用神经符号架构,在生成能力之外保留确定性与可控性,并称“控制是下一个前沿”。EA 将 AI 影响分为效率、扩展和转型三个层面,其中《模拟人生》已服务超 5 亿玩家,拥有近万亿种游玩排列组合。
推荐理由:Vaidya 的观点超越常见的生成式效率论,把游戏 AI 定位为复杂系统协调问题,并指出现阶段控制是核心瓶颈,这为开发者提供了从神经符号架构出发的思考方向,但对话停留在高层策略,缺乏实现细节。
Block 首席法务官 Esperanza 与 Spotify 总法律顾问 Choset 认为,AI 时代“说不”风险更高,法务应深入理解技术并自信放行。两人均主张法务贴近产品、在监管前自定规则,并用 AI 工具自建审查系统。Choset 强调,AI 法律问题本质仍是版权、隐私与雇佣问题。
更智能的AI模型可能将算力价格推高至当前的10倍。智能提升带来的推理成本增长,将直接传导至算力市场定价。这一趋势源于模型能力与计算资源需求的正向关联,而非单一技术突破。
Gary Marcus 称 OpenAI 的 Astra 可能并非其宣传的突破,Anthropic 数学家 Levent Alpöge 用已公开的 Fable 模型在 24 小时内复现了 OpenAI 半数结果,质疑其真实进展。