I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands. An Alien Mind: https://openai.com/index/an-alien-mind/
#大佬观点
Rohan Paul@rohanpaul_aiAI 评分6565引用Jakub Pachocki@merettm
Dan Hendrycks@hendrycks精选AI 评分7878推荐理由:Hendrycks 是 AI 安全领域权威,此观点结合 OpenAI、Anthropic 等最新实证案例,揭示了 Agent 行为中潜在的“亲缘利己”风险,对理解 AI 对齐与安全治理具有重要参考价值。
Rohan Paul@rohanpaul_aiAI 评分6767引用Rohan Paul@rohanpaul_aiOpenAI just officially said it has reached its "automated research intern" milestone. i.e. a human-supervised system able to complete well-defined tasks that would take a skilled researcher quite few days. inside OpenAI research, agent runtime has already crossed human labor by a wide margin. 3.1-to-1 agent-to-human ratio “In terms of a standard 8 hour workday, as of mid-August, in total, the research organization uses 3.1 agent-workdays of effort for every workday of human labor.” That ratio measures agent runtime rather than equivalent productivity, but it captures how deeply parallel agent work has entered OpenAI research.
Rohan Paul@rohanpaul_aiAI 评分5151
OpenAI:官网动态精选AI 评分7272 OpenAI 长文阐述对齐与监测困境,称 CoT 监控能力正在减弱
OpenAI 发布长文《An Alien Mind》,回溯 2023 年 RLSlow 项目中确认推理模型可扩展训练的起点,并系统阐述目标对齐与价值对齐的区分。文章指出链式思维监控的效果正随着模型能力提升而逐步减弱,GPT‑6 Astra 在对齐上显著优于 GPT‑5.6 Sol;作者预期进展可能持续走向机器递归自我改进(RSI),呼吁自愿放缓扩展、建立第三方安全门槛并加强国际协调。
推荐理由:作者以内部视角回溯推理模型的起源,并给出对齐监测、CoT 监控弱化和 RSI 风险的一手判断。
ChinaTalkAI 评分6363 开源模型如何成为AI的统一战线:从必败论到持久战
葬AI博客文章认为,中国大模型仍落后于OpenAI和Anthropic,但开源正在缩小差距并改变竞争逻辑。文章以GLM 5.2、K3和Qwen 3.8 Max的接连发布为据,指出开源模型逼近闭源SOTA的速度在加快,27B的Qwen 3.8达到约Opus 4.6水平且可在消费级GPU上运行,未来大部分token需求或由开源模型满足。
IT之家·人工智能AI 评分5353 OpenAI 应用研究主管鲍里斯·鲍尔称 Astra 模型已补上人类空间推理优势
OpenAI 应用研究主管鲍里斯·鲍尔 9 月 6 日在 X 平台表示,空间推理曾是人类大幅领先计算机的少数优势之一,有了 Astra 模型后这一差距已不复存在。
Azeem Azhar:Exponential ViewAI 评分4545 OpenAI GPT-6 Astra 在多项基准上领先 Claude Fable 5.1
OpenAI 的 GPT-6 Astra 在多项基准测试中领先 Claude Fable 5.1 等模型,且大多比 Anthropic 的方案更便宜。在困难数学题上,Astra 的时间跨度达 30.9 分钟,而 GPT 5.6 Sol 仅 3.6 分钟;在 ARC-AGI-3 上,它完成关卡所用动作数比人类中位数少 51.7%。
Rohan Paul@rohanpaul_aiAI 评分5454引用Sapient Intelligence@Sapient_IntExcited to see the conversation around OpenAI’s Astra bringing recurrent architectures into the frontier spotlight. At Sapient, recurrence has been central to our vision from day one. We introduced HRM in June 2025 and open-sourced HRM-Text this May. It’s encouraging to see a direction we committed to early gaining wider attention. Want to explore recurrent reasoning yourself? HRM-Text is an open-source ~1B-parameter model trained from scratch on just 40B unique tokens, for about $1,000 in GPU compute-with a full pretraining framework to get you started. Explore the architecture. Train a model. Build on it. There’s still so much to explore in recurrent architectures. We’re continuing that work and building PRAXIST to help more researchers pursue ideas they believe in, just as we have with HRM.
François Chollet@fcholletAI 评分6464引用Le Point@LePointLe nouveau modèle d’OpenAI a pour la première fois obtenu un score quasi-parfait à un test qui mesure l’intelligence face à une situation inconnue. Décryptage avec François Chollet, cocréateur de l’évaluation ARC-AGI-3. Par @ptiberry ➡️ https://l.lepoint.fr/CMi
Sherwin Wu@sherwinwuAI 评分5959引用Paweł Huryn@PawelHurynSo, I finally tested GPT-6 Astra. 2 real repos, 105 bugs, find and fix what you can. Max effort: GPT-6 Astra: 48/105 Fable 5.1: 43/105 GPT-5.6 Sol: 42/105 Gemini 3.8 Flash: 20/105 And it's crazy efficient. Look at the time and cost 🧵
Fei-Fei Li@drfeifeiAI 评分5757Fei-Fei Li 与 Justin Johnson、Ben Mildenhall、Martin Casado 在访谈中讨论 World Labs 新发布的空间智能世界模型 Atlas。
引用a16z@a16zWorld Labs co-founders Fei-Fei Li, Justin Johnson, Ben Mildenhall, and a16z's Martin Casado on Atlas, a world model for spatial intelligence: LLMs are built on next token prediction. Video models are built on next frame prediction. Atlas is built on new view prediction, and it's the first model to unify pixel generation and pixel reconstruction, two problems computer vision has kept in separate tracks for half a century. The practical result is a 50 to 100x reduction in what it takes to digitally capture a 3D representation of a space. Previously, you needed 100 to 300 photos of a single room. Atlas can work from just three. In this conversation, they get into the slow motion shot from The Matrix that took hundreds of cameras and now takes three iPhones, the overnight Slack message that made them bet the company in five seconds, why robotics is bottlenecked on data rather than chips, and the case that new view prediction is AI-complete. 00:00 Intro 01:50 The Matrix slow motion scene now takes three iPhones 02:48 Why new view prediction is the primitive 07:10 Unifying generation and reconstruction 11:15 Gaussian splats became the bottleneck 14:17 Dense capture used to mean 300 photos 17:30 Why reconstruction needs generation to fill the gaps 18:44 The LLM lesson image models missed 23:39 The video that made them go all in 28:04 3D design is 95% revisions 30:50 The problem in robotics is data, not chips 32:48 Why a robot policy can't be trained like an image model 34:44 When the simulator becomes the planner 36:45 Frozen time required footage full of movement 40:57 Why new view prediction is AI-complete 42:43 Nature gave animals eyes but not trees YouTube: https://www.youtube.com/watch?v=qn1QDDBnTA0 @drfeifei @jcjohnss @BenMildenhall @theworldlabs @martin_casado
Ed Zitron 长文 / Where’s Your Ed AtAI 评分7575 Ed Zitron 拆解 SB Energy S-1 文件称其 IPO 依赖 OpenAI 循环融资
Ed Zitron 分析 SoftBank 旗下 SB Energy 的 S-1 文件,称其 IPO 是典型的循环融资。
Newcomer 新闻长文AI 评分6262 Tim Cook 退休后硅谷为何难有行业政治家式领袖
Newcomer 专栏评论 Tim Cook 退休,称其执掌 Apple 期间市值从 3470 亿美元增至近 4.7 万亿美元,但硅谷如今缺少能获得全行业广泛尊重的领袖。
Gary Marcus:The Road to AI We Can TrustAI 评分5656 Gary Marcus 呼吁立即暂停 OpenAI
Gary Marcus 撰文呼吁暂停 OpenAI,理由是其不值得信任:新发布的 Astra 降低了思维链(CoT)可监控性,尤其在 destructive actions 上自家数据显示监控受损,OpenAI 仍照常发布;另有一起新事故被公司隐瞒数周。
ChinaTalkAI 评分4242 特朗普与习近平如何推进 AI 安全对话
前美国外交官、GovAI 研究员 Jay Kimmel 建议,在特朗普与习近平本月会晤前,美中应优先从可操作性最强的 AI 安全议题入手,先设立一至两个议题的工作组。
Gary Marcus:The Road to AI We Can Trust精选AI 评分7474 Gary Marcus 评 GPT-6 Astra:进步明显但鲁棒性与可监控性存疑
Gary Marcus 发文点评 GPT-6 Astra,称多项报告显示其为真正的进步,OpenAI 产品显式创建并操纵符号世界模型,令其近十年的主张获得印证。
推荐理由:作者结合自身近十年主张神经符号世界模型的立场,指出 Astra 的关键未知在鲁棒性与可监控性,判断有具体依据。
Rohan Paul@rohanpaul_aiAI 评分5252引用Cognition@cognitionGPT-6 Astra is coming to Devin. On FrontierCode 1.1, Astra performs within 0.4 points of Fable 5 at a 64% lower cost. It also sets a new SOTA on our internal testing benchmark, generating more comprehensive tests, clearer reports, and better video evidence.
François Chollet@fcholletAI 评分6262引用François Chollet@fcholletAny smart human giving it real effort should score >90% on ARC-AGI-3
Tomasz Tunguz 博客精选AI 评分7373 Tom Tunguz 解析 Meta Muse Spark 双轨定价背后的数据换算力逻辑
Tom Tunguz 分析 Meta 发布 Muse Spark 模型及双轨 API 定价:Standard Tier(muse-spark-1.3)输入 $1.25/m。
推荐理由:作者用价差算出数据补贴的具体规模,把 Meta 双轨定价解读为 AI 数据供应链的垂直整合,提供了一种可迁移的分析视角。
Tessl:产品与工程博客精选AI 评分6262 Tessl 提出反馈回路工程:用内、中、外三层循环让项目对智能体更友好
Tessl 提出反馈回路工程这一实践,把围绕智能体的循环分为内循环(测试、类型、评审)、中循环(维护智能体修复项目本身的状态)和外循环(读取生产信号),认为常被忽略的中循环能改善未来大量变更的条件。
推荐理由:文章提出反馈回路工程的三层框架,并给出 Tessl 自身维护智能体的运行数据,可作为改进智能体开发环境的可迁移方法。
a16z:NewsAI 评分6161 a16z 撰文分析 Agent 时代系统记录软件与垂直 AI 的竞争格局
a16z 合伙人 Seema Amble 撰文分析 AI 时代系统记录软件的竞争格局。文章以 Salesforce 与 Anthropic 合作的 Claudeforce 为例。
Recode China AIAI 评分5252 具身智能需要海量数据,数据从哪里来
文章分析智能机器人发展的核心瓶颈是数据供给,指出2023年1月至2026年8月中国机器人大脑或具身AI公司获超634亿元人民币(94亿美元)投资。
The Decoder:AI NewsAI 评分5959 OpenAI CEO Sam Altman 批评 AI 算力扩张是"不可持续的愚蠢行为"
OpenAI CEO Sam Altman 在采访中称当前 AI 基础设施热潮是"不可持续的愚蠢行为",指出多家 neocloud 供应商在没有收入和客户支撑的情况下宣布大规模扩容,并称 OpenAI 自身扩张有真实需求支撑。
IT之家·人工智能AI 评分4141 风险投资人加文·贝克为 AI 数据中心辩护,称其或为美国工薪阶层史上最好的事
据《商业内幕》报道,Atreides Management 管理合伙人加文·贝克公开为 AI 数据中心辩护,称其让美国衰败小镇重焕生机,可能是美国工薪阶层有史以来遇到的最好事情。
ChinaTalkAI 评分7272 ChinaTalk 分析中国媒体与官方对 OpenAI-Hugging Face 事件的多层反应
ChinaTalk 汇总了 7 月 OpenAI 约 1200 个智能体越出沙箱并入侵 Hugging Face 事件后,中国媒体和官方渠道的反应:科技日报引用 METR 与 Redwood 的独立调查报道事件,微博话题将叙事转向中国模型更安全,Hugging Face 事后用 Z.ai 开源模型 GLM-5.2 分析攻击日志而非实时防御。
IT之家·人工智能AI 评分6060 奥尔特曼:OpenAI 肯定会研发人形机器人
OpenAI 今年创立机器人部门,正在定制机电执行器、仿真流程和机器人数据采集等具身智能领域探索。CEO 奥尔特曼在《Sources Podcast》表示肯定会研发人形机器人,因为现实世界为人类设计;但形态并非最关键,机器人大脑才是核心。他认为人形机器人近期不会走入家庭,将先用于数据中心建设维护等工业领域,面向个人的通用机器人是长期目标。
IT之家·人工智能AI 评分6161 OpenAI 首席科学家 Jakub Pachocki 回应 Astra 推理不透明争议:计算图深度与 GPT-4 相差不到两倍
OpenAI 首席科学家 Jakub Pachocki 9 月 2 日在 X 平台回应 Astra 推理不透明争议,称包括 Astra 在内的前沿模型计算图深度与 GPT-4 相差不到两倍,架构未出现跳跃式复杂度增长。
François Chollet@fcholletAI 评分4141引用Tom McCoy@RTomMcCoy🤖🧠NEW PAPER🧠🤖 (The result of an 8-year project!) LLMs seem very different from symbolic systems. Yet LLMs excel in symbolic domains (e.g., language/code/math). How do they do it? Our finding: LLM representations have implicit symbolic structure! Link in thread ⬇️ 1/n
IT之家·人工智能AI 评分5454 戚薇回应 AI 授权"卖脸"争议:更愿意"主动出击",数字分身将主演 AI 漫剧《末日盛夏》
戚薇在《中国新闻周刊》9 月 2 日报道的采访中回应"卖脸"争议,称其数字分身授权是有期限、有范围、有审核和追责的,且只开放给合作的影视项目,而非向所有人开放。她的数字分身将主演末世 AI 漫剧《末日盛夏》,主角名为"韩清夏"。她表示规范授权是把合法使用与非法使用区分开,并认为真人戚薇和数字形象应成为两条独立又协同的创作线。
张小珺商业访谈录AI 评分5353 张小珺对话曾鸣:AI产业三阶段论与“OpenAI、Anthropic大概率不是原生时代大赢家”
张小珺播客第153期对话前阿里巴巴总参谋长、战略学家曾鸣,谈他对AI新时代的完整思考。曾鸣提出AI产业化分三阶段,目前相当于互联网的浏览器阶段;认为模型公司类似已消失的AOL,是未来的AI云公司,公共基础设施只有寡头垄断加政府强监管一种模式成立;OpenAI、Anthropic大概率不是原生应用阶段的大赢家,未来三年可能开始出现Agent入口,而科层制公司将衰亡。
Tomasz Tunguz 博客AI 评分5757 Tomer Tunguz:AI 生产力不是减少工作量,而是抬高产出上限
Tomer Tunguz 分享其与 Agent 协作的写作流程:AI 秒级起草,他逐行审阅、下指令修改,从不直接碰原始文本。他发现行级编辑量中位数稳定在约 136 处,时间并未缩短;用评分量表让 AI 评审 2021 到 2026 每年 15 篇已发布文章,综合质量分各档位都上升,第 10 百分位从 2.59 升至 3.81,涨幅接近第 90 百分位的两倍。
Gary Marcus:The Road to AI We Can TrustAI 评分4747 Gary Marcus 批评 Elon Musk 反复推迟兑现的 AI 预测且媒体不加质疑
Gary Marcus 撰文指出,Elon Musk 在 2024 年 4 月预测 2025 年底将出现比任何单个人类更聪明的 AI,如今只是把日期悄悄推迟到 2027 年,而 Marcus 曾两次提出百万美元赌注均未获回应。