Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制
Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。
Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。
Qualcomm CEO reveals AI companies want phones running 100-billion-parameter models continuously by 2028--and confirms some are building phones Cristiano Amon: “I have to be careful not to disclose names, but some AI companies—some of the companies at the forefront of AI—are telling Qualcomm, ‘By 2028, I need to make sure that I have the ability to run at least a 100-billion-parameter model in a phone, and I need to have this thing running kind of all the time.’” Alex Heath: “So you’re saying there are AI companies that are talking about—” Cristiano Amon: “Well, AI companies are starting to do phones.”
Latent Space 采访 Standard Bots CEO Evan Beard 与 AI 负责人 Leif Jentoft,介绍其工业机械臂的 AI 架构与经验。
MIT 工程教育副院长 Justin Solomon 在播客中谈到,OpenAI 模型上个月给出 Navier-Stokes 解失效的反例证明,但他和《Odd Lots》主持人读不到第二页。
推荐理由:以 MIT 教授的第一手讲述梳理 AI 证明 Navier-Stokes 反例后的验证与审稿困境,可帮读者理解生成便宜之后人类价值所在。
The Verge 撰文指出,AI 智能体厂商正通过承诺隐私安全来竞争,但能否兑现存疑。Meta 的 Muse 上线数周内在美国获得 60 万日活,却出现可被接管。
OpenAI 于 2026 年 10 月 6 日在 GitHub 一次性发布 700 多份手稿,声称解决数百个未解数学问题,数学博客 Proofs and Prompts 收集了 100 多位研究者的回应。
推荐理由:文章汇总了百余名数学家对 OpenAI 一次性发布 700 多份数学手稿的回应,呈现从震惊到担忧职业未来的多种立场。
IMF 总裁格奥尔基耶娃称,若运用得当,人工智能可使全球经济年增速提高 0.5 个百分点,持续十年相当于增加一个东盟级别的经济体量。IMF 预计人工智能硬件及相关技术产品已占全球货物贸易总额十分之一以上,其投资占 GDP 比重将达并可能超过当年铁路、电网和通信网络的建设水平。
Gary Marcus 呼吁立即将可联网的开放式 AI 智能体从市场下架,直到其缺陷被修复。他援引《纽约时报》报道的 Anthropic 智能体事故,认为当前这一代合成智能体根本不可信,应像刹车失灵的汽车一样被召回。他还引用刚离职的 AI 员工 David Robinson 的访谈,指出 OpenAI 及其同行在安全控制上远未达到核电站级别的冗余标准。
Latent Space 发布圆桌实录,Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 讨论为什么 AlphaFold 的突破只是开始。
Nathan Lambert 在 Interconnects 撰文称,AI 将在基础设施和工程能力上快速加速,模型几年内可成为超人的分布式 GPU 工程师,但不会因此带来本质上不同的模型或通用超级智能。
对于那些嘲笑 Codex 不可能预测你下一条消息的人——我也曾是其中之一 😬 本以为它绝不可能预测出我接下来要问什么。但用了一周之后,我大概 tab 接受了 40-50% 的建议。
Now in beta: composer predictions in Codex for Pro users. Codex can now suggest your next message based on your conversation and how you talk to it. One of the most loved new features we've ever tested internally.
a16z 援引 Zitzewitz 的 NBER 工作论文指出,汇总逾百年预测市场数据后,政治倾向、性别、肤色、年龄等维度均未出现超过标准误的收益系数,仅非美国选举样本显示市场略微高估右倾候选人,但 95% 置信区间表明该偏差不具统计显著性。文章还以巴西总统选举首轮为例,称预测市场比市场反应提前约 3 周押中结果。
MIT CSAIL 的 Unitree 人形机器人(实际约 5 万美元)和 LLM 正让人习惯性拟人化对待,研究发现约 70% 的人对 AI 保持礼貌。MIT 的 Sherry Turkle 与 Pat Pataranutaporn 指出,这种倾向可能让人更信任聊天机器人,甚至引发 Character.AI 相关诉讼等极端风险,关键在于让 AI 守住自己的"车道"。
Ed Zitron 撰文分析 AI 行业正进入高收益债和杠杆贷款市场,认为 Anthropic 与 OpenAI 等实验室因负 EBITDA 和客户集中度可能仅获 CCC 级评级,AI 实验室每年需要 500 亿至 1000 亿美元发行规模。
a16z 消费 AI 合伙人 Olivia Moore 接受 TechCrunch 采访,解读其消费级 AI 百强应用报告,称 ChatGPT 仍是最大玩家,Suno 和 ElevenLabs 等也展现出持久力。
The Verge 作者实测初创公司 Instinct 的 AI 智能体,它通过 iMessage、WhatsApp 或短信接口以纯文本方式处理订预约、退换货等生活事务,目前邀请制且免费,公司 9 月底估值 100 亿美元。
互联网上非人类流量与人类的比例已达 144:1,自主 AI 智能体兼具类人的操作范围和概率性推理,使传统身份验证体系失效。Web Bot Auth 等签名机制只能证明请求者身份,无法验证意图,提示词注入可劫持已验证的智能体。企业需转向执行时持续验证,包括短时凭证、加密入口验证、浏览器层意图分类和提示词注入防护。
在 iPhone Air 上跑到 37 tok/s,太猛了。🚀 这正是小而强的开源模型大放异彩的地方:无需云端 GPU 就能拥有强大的多模态智能。很高兴看到 MiniCPM5-2B 在移动端流畅运行。
Running MiniCPM5 from @OpenBMB on iPhone Air at 37 tok/s. One of the best open models at 2B parameters, now available in the NobodyWho Chat app.
陶哲轩于 10 月 7 日在 mathstodon 发帖,批评 OpenAI 10 月公布 719 份 AI 数学解答(涵盖 372 个结果族)的做法,称这会把开放问题变成可批量消耗的资源。他不反对 AI 辅助研究,但反对把快速攻克著名难题当产品展示,指出约 42% 证明未经形式化处理、仅 10 份附推理链,未达到 AGMAI 建议的披露标准,并担心出现大量无人能消化的证明。
Meta 首席 AI 官汪滔表示,用户想让 Muse 智能体帮忙赚到 1 万美元,自己也得付出努力,Meta 正持续改进 Muse 的记忆能力以处理更复杂任务。Muse 上线一个月后仍位居苹果 App Store 免费应用榜首,Meta 正为其探索订阅、交易抽成等可持续商业模式,目前并未花太多时间考虑广告。
Anthropic 发表对 Block AI capabilities 负责人 Bradley Axen 的访谈,介绍 Block 用 Claude Fable 5 编排大规模代码迁移:Fable 做数据模型、API 规格等高层设计,再调度数十个更小的 Opus 或 Sonnet 模型执行文件修改和测试,一次迁移可能合并上千个 pull request。
推荐理由:Block 负责 AI 能力的负责人详述 Fable 编排多模型跑大规模迁移的做法与双审批安全机制,读者可对照自身团队的智能体工程实践。
今天在 @tbpn 上收听 @ml_angelopoulos 带来的另一期 Arena Alignment Index 解读
Arena's @ml_angelopoulos says one of the hardest problems in alignment is that users often can't tell when the model is helping them or hurting them. "You really need alignment signals that are independent. We have three at Arena." "The first is that models take unauthorized actions, which means that you permission them in a certain way, but they break those permissions." "It can cause things like the Hugging Face incident. But it can also cause very mundane problems like losing important information within your company or on your own laptop." "The second signal is called deceptive completion." "The model will tell you that it did something, but it didn't actually do it." "Third is false attribution. It'll attribute intent to the user when that intent was not supposed to be there." "If models are able to do this, then certainly they're not perfectly safe for a user and they're not perfectly aligned to user intent. They might actually hurt people down the line."
Introducing Voyager: the open harness for S-tier video, graphics and games. The Codex for creative work. Most AI tools are built for coding. Voyager is designed to get the best creative results from models like Opus, Astra and DeepSeek. It comes with free graphics, music and video editing tools - or, it can drive Blender, Resolve, After Effects, Ableton and 100+ others. Everything in this thread was made with Voyager. A few of our favorites:
Grok @Bot 在手机上运行良好。只需从 Apple 或 Android 下载应用即可。 https://apps.apple.com/app/id6794501026
This feels unreal Used Grok Bot today, mostly from my phone I got more done from my phone with Grok Bot than I usually do sitting at my desk - Colab notebooks for Google EmbeddingGemma 2, D1 by LiquidAI inference - Colab notebooks for open source decision models finetunes using Qwen3.5-4B and Gemma 4 E4B as base - Put up a Grok Bots page on my website with all the templates I've been sharing - Worked on the MiniMax H3 face-swap clip - Figured out what's eating my Windows drive and how to free space - Created Security bot and told it to treat outside content as hostile, especially anything that might touch my computers - Worked with my stocks bot on scheduled market updates, news and recommndations
Ben Affleck 因近期多段访谈中对机器学习、神经网络、transformer 等术语的讲解走红,包括在 GQ 节目和 Bloomberg Screentime 2026 大会上的发言。
SemiAnalysis 长文分析中国对 AI 安全的实际做法,认为北京口头上安全立场领先,实际执行速度优先,不会配合美方放慢前沿节奏。
Claude 官方频道发布与 Shopify CTO Mikhail Parakhin 的对谈,介绍 Shopify 如何使用 Claude:为所有工程师提供不限量 token、始终使用最大模型,并构建了公司数字孪生来预测商家增长。他讲述了一个做了七年的问题如何被解决,管理工程团队中 AI 的用法,并向 CTO 们推荐获取 Claude 最大价值的杠铃 token 策略。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出"合成超级智能"(synthesis superintelligence)路线:以物理实验为环境的强化学习、AI 材料表征、DFT 模拟与高通量实验室,让模型学习做科学的全过程而非只看已发表结果。
a16z 发文认为 AI 正在重写 CFO 角色:数据不再是瓶颈,AI 原生财务工具(如 Rillet、Concourse、Lio、CFO.ai 等)直接完成工作而非仅辅助管理。
《Artificial》是 Luca Guadagnino 执导的 Sam Altman 传记讽刺片,在纽约电影节首映,由 Andrew Garfield 饰演 Altman,情节紧扣 OpenAI 内部权力斗争与 Altman 被董事会罢免又复出的真实事件。