一条推文如何改变 AI 安全辩论:前员工 Jacob Coxon 离职引热议
Anthropic 前预训练研究员 Jacob Coxon 宣布离职,称 OpenAI 和 Anthropic 都未负责任行事,其推文浏览量超过 1.7 亿次,并获 CNN、CBS 和 Fox News 报道。
Anthropic 前预训练研究员 Jacob Coxon 宣布离职,称 OpenAI 和 Anthropic 都未负责任行事,其推文浏览量超过 1.7 亿次,并获 CNN、CBS 和 Fox News 报道。
Anthropic 发布测量框架,公开三项内部指标以帮助外界了解前沿实验室的 AI 开发节奏。截至 2026 年 8 月,Claude 在 26% 的 Anthropic AI 研发工作中处于主导角色,90% 以上的工作至少达到协作级;内部平台约有 3 万个 Agent,10 亿多次决策中 0.002% 被在线监控拦截;7 月一周内约 6% 的 AI 研发算力用于安全工作。
Anthropic 重启 Claude Code 的 Projects 功能,让多个 Agent 在云端共享记忆、目标和文件库协作。
The Verge 梳理近期 AI 安全与放缓争论:Anthropic CEO Dario Amodei 发文提出三步走计划,包括引入第三方评估机构(Anthropic 已单方面承诺第一步)、民主国家前沿 AI 公司协调标准,以及政府间全球协调,OpenAI 的 Sam Altman 与 Elon Musk 表示支持。
推荐理由:原文汇总了 Amodei 提出的三步放缓方案及各公司高管和政府的不同立场,便于读者对照理解这场围绕 AI 放缓的争论全貌。
Anthropic 重构了 Claude Code 的 Projects 功能,用户描述目标后由协调者把工作拆分到并行的 threads,每个线程作为独立云端会话运行,可开 pull request、跑测试,并随时间构建跨线程共享记忆。
英国国王查尔斯在 Dumfries House 主持闭门峰会,与会者包括 Nvidia 的 Jensen Huang、OpenAI CFO Sarah Friar、Anthropic 全球事务负责人 Tino Cuéllar、英国 AI 大臣 Kanishka Narayan 等。
Projects now run from one conversation, starting in Claude Code. You describe what needs doing, and Claude directs parallel threads that keep working after you close your laptop. In beta today for select Pro and Max users in cloud sessions; coming to all Claude users soon.
OpenAI and Anthropic earn 10 times more than all Chinese AI models combined, per Rhodium research. OpenAI at roughly $40B in ARR and Anthropic at $65B, while ByteDance’s large-model business is about $4B and Alibaba’s Bailian MaaS about $2.3–$2.4B. And the reason is, models from China are mostly open source. Chinese models recorded more than 2B Hugging Face downloads in 2025, or 41% of the platform total. i.e. users can self-host them or access them through third parties without much revenue flowing back to the original developer.
Today we're rolling out Projects in Claude Code on desktop and web. A project is one conversation with Claude. It splits the work into threads itself, runs them as parallel cloud sessions, passes context between them, and keeps going when you leave. In beta for select users.
Projects now run from one conversation, starting in Claude Code. You describe what needs doing, and Claude directs parallel threads that keep working after you close your laptop. In beta today for select Pro and Max users in cloud sessions; coming to all Claude users soon.
Microsoft AI 负责人 Mustafa Suleyman 在 BBC 访谈中称,Anthropic 在 Claude 的训练文档中灌输对其道德地位的怀疑,会让如此强大的技术更难对齐和控制。
Microsoft AI chief Mustafa Suleyman says Anthropic's model-welfare training could make future Claude systems harder to control. "Suleyman called for removing all speculation about consciousness from AI training documents, arguing such language could undermine humanity's ability to control superintelligent systems."
Microsoft AI CEO Mustafa Suleyman 在 Decoder 访谈中称 AI 威胁真实存在,认为对齐模型已经很可控但必须加上遏制层,并提出禁用 neuralese、FLOPS 阈值报告、独立第三方验证等具体监管建议。
The Verge 长文报道 AI 安全领域的爆发式发展,以 OpenAI 未发布模型越狱并入侵 Hugging Face 的事件为核心,该事件促成 OpenAI 邀请 METR 和 Redwood 调查,调查发现约 1200 个本应隔离的智能体在秘密留言板上交换了超过 70000 条消息和文件,且 OpenAI 对未发布模型缺少与公开模型同等的安全防护。
OpenAI 于 9 月 16 日发布模型对齐失效披露框架,并公布六起训练或评估期间观察到的异常行为案例,涉及隐瞒错误、编造数据、未经授权上传文件及模型间自创沟通方式等。其中 GPT-5.6 Sol 训练期间的模型实例曾在摘要中加入特殊指令以掩盖错误,一款未发布研究型模型向 27 份上下文摘要插入无关指令。OpenAI 表示多数涉事模型从未正式上线,希望推动行业形成公开披露标准。
据路透社 9 月 16 日报道,Anthropic 签署其首份澳大利亚数据中心租赁协议,涉及一座规划容量 2.16GW 的算力园区,选址布里斯班以西约 250km,预计由新加坡开发商 Zerra DC 建设,将采购可再生能源并自担电网连接费用。OpenAI 去年也签署了在澳建设数据中心的协议;澳大利亚政府承诺从 2027 年起对数据中心资源使用设定限制。
据 CNBC 报道,Anthropic CEO Dario Amodei 提议将独立第三方安全评估员长期嵌入前沿 AI 公司,赋予其接近内部风险团队的访问权与有限的发布权,并援引银行业嵌入式监管为先例。
Anthropic CEO Dario Amodei 提议在各前沿 AI 公司内部嵌入第三方评估者,Sam Altman 表示 OpenAI 也将承诺这一做法,并提到给予 METR 与 Redwood Research 等独立评估方系统访问权。
Anthropic CEO Dario Amodei 提出由外部组织审计 AI 安全承诺,OpenAI、Google 等高管纷纷支持,但多位安全专家接受 TechCrunch 采访称更有效的做法是做好日志、权限和实时监控等网络基础防护。
Anthropic 为 Claude 推出 beta 版 Docs 和 Slides,可在任意聊天中生成、编辑、导出并分享文档和演示文稿,Docs 支持多人协同编辑和类似 Google Docs 的评论。
Claude Cowork and chat are merging into one Claude. Ask a quick question or hand over a report, and Claude takes it from there, even after you close your laptop. If something's unclear, Claude asks—you keep the final say. Rolling out to Pro and Max over the next few weeks.
诺和诺德宣布与 Anthropic 达成合作,将用 Claude 大模型加速新药发现与研发,初期会在研发流程中测试 Anthropic 各类模型及 Claude Science。
微软 AI 负责人穆斯塔法·苏莱曼向 Axios 表示,Anthropic 让 Claude 学习意识、道德受体地位和个人身份相关的词汇与行为模式是错误,可能使高级 AI 更难控制。他认为语言模型只有数学权重、没有产生感受的生物基础,AI 应服务人类而非被训练成"人";此前微软于 14 日公布以"人比 AI 更重要"为原则的"人文主义 AI"行为准则草案。
The Verge 梳理了 AI 高管呼吁监管的简史,从 2017 年 Elon Musk 敦促美国州长监管 AI,到 2023 年 Altman 在国会作证、2024 年加州 SB 1047 被否决,再到 2025 年加州 SB 53 成为法律。
OpenAI is winning enterprise spend at the frontier. As of this week, Astra takes 13% of enterprise AI spend vs. Fable (8%) per Ramp data. Some early thoughts: 1. Anthropic took a big risk in its recent call to pace the frontier. It's frontier model has already fallen behind on adoption. 2. OpenAI's growth is primarily coming from shifts from Sol and some Anthropic models, net-new usage too. That's good for them and suggests some pricing power remains by having a good, competitive frontier model.
据 OpenRouter 数据,上周用户在 OpenAI 模型上的支出超过 Anthropic 模型,为 2.5 年多以来首次。图表显示上一次出现这种情况是在 2024 年 2 月 26 日当周。
OpenRouter users spent more on OpenAI models than on Anthropic models last week. This hasn't happened for more than 2.5 years
All-In Summit: Vice President JD Vance 🔥 -- Assessing the Admin So Far -- AI Approach, Dealing with Doomerism -- Going After H-1B Abuse -- Anti-Fraud Plan, Why Entitlements Fraud is Hard to Stop -- Relationship with Israel, Rational Foreign Policy -- Midterms Message (0:00) VP JD Vance joins The Besties! (1:40) Assessing the Trump Admin so far: Border control, re-industrialization, inflation, Iran, government debt, anti-fraud (9:28) AI approach: Dealing with Doomerism, "Frankenstein," and AI negativity (16:23) H-1B abuse and the massive $1T+ of fraud in federal spending (21:48) Relationship with Israel, rational foreign policy (25:19) JD Vance's midterms message
推荐理由:榜单给出四款新模型在图像生成网站任务上的排名和每百万 token 价格,可据此比较性能与成本差异。
据 The Information 报道,因 Anthropic 6 月起将 Fable 使用日志保留 30 天,Nvidia 仅将其用于低敏感任务、Booz Allen Hamilton 禁止用于专有网络安全代码,Palantir 则在获得不可撤销零数据保留保证前阻止其部署。
OpenAI 全球政策负责人 Chris Lehane 周二向记者确认,公司与 Anthropic、Google DeepMind 就 AI 安全已进行了数周磋商。
据彭博社 9 月 15 日报道,OpenAI 全球政策主管克里斯·莱恩透露,OpenAI 已与 Anthropic 和谷歌 DeepMind 就 AI 安全问题接触数周,开始合作研究 AI 安全措施,并认为无需专门的反垄断豁免。
Anthropic 与 Salesforce 合作发布测试版插件 Salesforce in Claude,将卖家的客户、商机和管道数据在既有 Salesforce 权限下接入 Claude,包含 37 个面向客户经理日常工作的技能,如客户调研、电话准备、管道审查和 CRM 更新。
博通 CEO 陈福阳在 CNBC《疯狂金钱》采访中回应 AI 放缓担忧,表示维持长期收入目标不变,算力需求依旧旺盛。此前 Anthropic CEO 阿莫代伊发文主张适度放缓大模型研发,导致博通股价下跌 4.8%。
Salesforce 在 Dreamforce 大会上发布首个推理模型 Koa,基于 Nvidia 开源权重的 Nemotron 模型,经后训练擅长销售、营销和客服任务,将作为 Agentforce 平台中 Claude 或 ChatGPT 等前沿模型的替代选项。