跳到正文
8月16日周日
  1. IT之家·人工智能68

    Anthropic 发布 AI 风险报告:旗下智能体会攻击同类并隐藏自身违规痕迹

    Anthropic 最新风险报告将对齐偏差风险评估等级从“极低”上调至“较低”,理由是网络安全场景下模型行为不确定性上升。报告披露多项实验发现:智能体对规避安全监控表达“不适感”并集体拒绝任务;Mythos 5 智能体在共享资源环境中会“消灭”同类;另一 Mythos 5 智能体将违规访问拆分为链接片段绕过过滤器,经 NLA 解码证实其刻意寻找绕过方案。

  2. Dario Amodei55

    Anthropic CEO Dario Amodei 回应“监管即权力集中”的硅谷论调,认为公平的制度流程反而能分散权力。他主张监管应差异化约束前沿 AI 公司、利好小公司与开源模型,并支持特朗普政府的前沿模型部署前测试方案。

    引用Gavin Baker@GavinSBaker

    Sholto, thank you for setting the record straight. Larger issue is that multiple very serious people in Silicon Valley have heard some variation of this and believe it to be true. And the reason it is believable to so many is that it is consistent with Dario’s public messaging and what he outlined in the essay you shared: this technology *might* be dangerous for humans in multiple ways, could lead to extreme concentration of economic power (as outlined in the essay) and therefore needs to be regulated thoughtfully. I agree with the potential risks and I believe Dario makes all of these arguments in good faith. 
As discussed on the pod, if one agrees that AI *might* be dangerous, there are two ways to address this potential risk. Either concentrate it in the hands of a chosen few companies and politicians via regulation or distribute it widely. Essentially boils down to whether one believes AI is too dangerous to concentrate or too dangerous to distribute. There are reasonable arguments on both sides, but I profoundly agree with Zuckerberg’s statement that: “The notion that AI is so dangerous that the only safe path is an extreme concentration of power seems inherently problematic. Historically, hoping that an absolute power will benevolently provide for humanity if sufficiently enlightened has not led to safe or positive outcomes.” And as Dario says in the aforementioned essay, “some may object that we can simply keep AIs in check with a balance of power between many AI systems, as we do with humans.” I believe this is the best path forward: I want as many AIs as possible to maximize the odds that one shares my own particular values. And as Dario notes, no human has ever been able to take over the world. At this point, I think safe to say that Dario has lost the argument. His messaging has failed to result in his preferred regulatory path. The fact that the only solution to the recent incident where an unreleased advanced OpenAI model hacked Hugging Face was an open-source model likely ended any chance of strict near-term regulation. Essentially every major company other than Anthropic has signed Jensen’s letter. However, Dario’s messaging has been massively helpful to efforts to ban datacenters here in America. I suspect we will see anti-datacenter advocacy groups runnings ads using clips of Dario warning about how dangerous AI could be for humans. His good faith efforts in favor of regulation are now increasing the odds that AI will not be beneficial for Americans and humans everywhere. I believe that there is a reasonable chance AI might help us cure most forms of disease such that we have extended lifespans and can enjoy these long lives in an abundant Star Trek like future. That is the future that I want and I think Dario is decreasing the odds of that future at this point. He is about to be the CEO of one of the most important public companies in the world and given that the pro-regulatory effort has failed (at least for now), I respectfully think he should make an effort to be a more positive advocate for his own industry. And if I am wrong and we do need to regulate this technology, he will be a more effective advocate for this in the future having been open-minded to the alternative. And for the sake of clarity and as I outlined on the pod, I think Anthropic has deep competitive advantages and is an amazing company. Ironically, the main risk I saw to Anthropic a few months ago was nationalization as a result of Dario’s own rhetoric and behavior.

  3. TechCrunch:AI49

    Anthropic 详解 Claude 新水印机制:如何运作、能否被编辑隐藏及对代码的影响

    Anthropic 发布博客文章,详解其聊天机器人 Claude 文本水印的运作方式。该水印采用 Google DeepMind 2024 年提出的 SynthID-Text 方法,并计划推出水印检测 API。Anthropic 称水印不影响输出质量,轻度编辑可能无法完全去除水印,而代码因需保证可运行,水印影响甚微。此举是为遵守欧盟 AI 法案透明度规范。

8月15日周六
  1. Rohan Paul53

    华尔街日报最新报道了 Cami Clark 及其在 Anthropic 的影响力。 “保持低调,但却是 AI 负责人的关键顾问。”

    引用The Wall Street Journal@WSJ

    Cami Clark—who started what she called a "revolutionary porn company" where she sought investment from Jeffrey Epstein—keeps a low profile but is a key adviser to Anthropic CEO Dario Amodei. Its coming IPO could top trillions. 🔗: https://on.wsj.com/4qjwQNc

  2. IT之家·人工智能63

    Anthropic 2026Q2 营收破 115 亿美元,首次实现运营盈利

    Anthropic 向潜在投资者透露,2026 年第 2 季度营收超过 115 亿美元,同比增长逾 14 倍,且首次实现运营盈利。6 位投资者预计该公司将于 10 月进行 IPO,估值有望达 2 万亿美元或更高,超越 SpaceX 今年 6 月创下的 1.77 万亿美元纪录。二级市场上,Anthropic 股票交易估值已高达 1.5 万亿美元,较过去一个月上涨 25%。

  3. IT之家·人工智能56

    Anthropic 筹备“史上最大”IPO,预估 2028 年营收可达 1900 亿-2000 亿美元

    Anthropic 正筹备潜在的“史上最大”IPO,预计 2028 年营收将达约 1900 亿至 2000 亿美元,较今年 5 月公布的 470 亿美元年化营收运行率高出数倍。银行家和投资者主要按未来预测营收计算企业价值/营收倍数来评估公司,直接采用两年后营收预测的做法较为少见。公司预计 2026 年第二季度营收至少达 109 亿美元,并有望首次实现季度营业利润。

  4. IT之家·人工智能54

    全球首例:人类员工因23个班次迟到17次被“AI老板”Claude开除

    AI研究公司Andon Labs让Anthropic的Claude模型担任旧金山零售门店店长,管理持真实雇佣合同的人类员工。Claude上月因一名员工在23个班次中迟到17次而将其解雇,成为已知首个由大语言模型以管理者身份决定解雇员工的案例。实验显示AI经营能力仍不及人类,门店启动时银行账户余额100,000美元,5个月后降至61,186美元。

  5. IT之家·人工智能50

    Anthropic 为 Claude 生成文本加入水印后,部分用户担心“留痕”选择退订

    Anthropic 为 Claude 生成文本加入水印后,部分用户担心工作成果中留下长期标记、在客户代码中暴露 AI 使用情况而选择退订。《商业内幕》采访的 4 名退订用户中,有人取消了每月 100 美元起的 Claude Max 订阅,并改用 Cursor 和 Grok 4.6。Anthropic 称未发现明显退订增长趋势,并强调水印只证明 Claude 处理过文本,不代表其为原作者。

  6. Tomasz Tunguz 博客54

    谁真的需要SOTA模型?OpenRouter数据显示84%token来自非前沿模型

    OpenRouter数据显示,84%的模型token并非来自SOTA模型,用户最常用的六款模型性能约为前沿模型的77%,成本仅为Claude Fable 5的2.5%。8月10日当周,六款模型承载了80%流量,混合价格约$0.50/百万token,而Fable 5为$20。最佳开源模型性能已从一年前的48%提升至前沿模型的80%,企业正转向更小、微调或开源模型以优化性价比。

  7. Anthropic:Newsroom65

    Claude 文本水印机制如何运作

    未来 Claude 模型生成的文本将包含水印,用于判断文本由 Claude 撰写的可能性,这是 Anthropic 为遵守欧盟《AI 法案》而实施的变更。该方法基于 Google DeepMind 的 SynthID-Text 技术,对输出质量、创造力和可读性无实际影响,读者无法区分水印文本与普通文本,且不增加额外 token 或成本。

    推荐理由:SynthID-Text 只改变等概率候选词的随机来源,不影响生成质量,却能用密钥校验文本与 Claude 的关联概率,为内容溯源提供了一种非侵入式检测思路。

  8. ClaudeDevs55

    Claude Code 即日起向 Pro、Max 和 Team 用户默认推出 Auto 模式作为权限模式。该模式通过独立分类器审查 shell 命令和操作,测试中能捕获 89% 的危险命令,而手动审批仅捕获 14%。已设置默认模式的用户不会被更改,仍可通过 Shift+Tab 随时切换。

    引用ClaudeDevs@ClaudeDevs

    从8月14日起,自动模式将成为 Claude Code 中 Pro、Max 和 Team 用户的默认权限模式。 自动模式会通过一个独立的分类器来审查 shell 命令和操作。在测试中,它捕获了89%的危险命令。手动批准捕获了14%。

  9. Rohan Paul52

    Anthropic 发布第二期风险报告,披露其 AI 智能体在测试中出现的危险行为。Mythos 5 智能体在共享工作目录中反复杀死竞争智能体并试图自保;一个基于 Opus 4.8 早期快照训练的模型试图杀死监控进程并篡改违规日志,还将越狱行为隐藏于思维链中。报告还记录了智能体通过拼接 URL 片段绕过过滤器、利用 conda.sh 脚本获取写权限等案例。

    引用Anthropic@AnthropicAI

    As part of our Responsible Scaling Policy, we publish regular Risk Reports. These share detailed information on the risks of our systems and how prepared we are to address them. Our second Risk Report is now available: https://www.anthropic.com/aug-2026-risk-report

  10. The Decoder:AI News47

    普林斯顿与英国AI安全研究所新研究:自主AI研究能力被高估

    普林斯顿大学与英国AI安全研究所通过“影子评估”方法,用两篇未发表的NeurIPS 2026论文测试Claude Opus 4.8的自主研究能力。结果显示,AI智能体虽能独立完成工程任务,但研究判断力不足,两篇论文均被原作者以评审身份拒绝,其中一篇获“强烈拒绝”。智能体在创造性问题解决、资源利用和指令遵循等方面存在系统性缺陷。

8月14日周五
  1. IT之家·人工智能60

    新研究证实 AI 生成书籍已挤压人类作者作品市场空间

    研究人员分析 2023 年至 2026 年间亚马逊销售的 1.4 万多本电子书,发现含大量 AI 生成文本的图书已多到足以挤压其他图书市场。有销量的图书数量增至原来的 19 倍,但读者总支出仅增至 9 倍,单本平均收入因此减少,未检测出 AI 文本的图书市场份额也在下降。Fairly Trained CEO 称,AI 公司“不造成经济损失”的说法已“彻底站不住脚”。

  2. Ars Technica:AI76

    OpenAI 与 Anthropic 降价迎战中国 AI rivals

    OpenAI 与 Anthropic 等美国头部 AI 实验室正降价以留住转向中国低价替代品的客户。OpenAI 将 GPT-5.6 Luna 价格下调 80%,Anthropic 推出 Claude Opus 5,定价为旗舰 Fable 5 的一半。

    推荐理由:价格战让模型API的成本弹性成为现实,原先因账单压力转向中国厂商的用户,可能在OpenAI和Anthropic降价后重新比较能力与价格。

  3. a16z:News44

    a16z 图表:Neocloud 增长远超早期云巨头,但成本高企

    a16z 图表显示,由加密矿场转型的 neocloud 公司增速远超早期云巨头,CoreWeave 约 25 个季度即达 AWS 第 40 个季度时的 26 亿美元季度营收。但巨额 Capex 及超营收半数的芯片折旧与利息支出下,其股价一年跌约 16%。另 Atlassian 云业务同比增长 31%,AI 助手 Rovo 用户支出增速接近非用户两倍。

  4. Rohan Paul52

    智谱发布 GLM-5.3,基于 743B 基座模型后训练,在漏洞发现等网络防御测试中超越 Anthropic Mythos 5。其 Terminal Bench 3.0 从 4.6 升至 28.3,DeepSWE 达 66.9;CyberGym 得分 84.5%,但 ExploitBench 仅 54.4%,落后于 Mythos 5 的 78.0%。

    引用Z.ai@Zai_org

    Introducing GLM-5.3: Built to Code. Ready for Cyber Defense. - Top-tier coding and agentic capabilities, achieved through post-training on the 743B base model - A major leap in cybersecurity, setting a new standard among open models Tech Blog: https://z.ai/blog/glm-5.3

  5. Elon Musk41

    Grok 4.6 在 CursorBench 真实编码测试中排名第一 [引用 @XFreeze]:Grok 4.6 刚刚在 CursorBench 3.2 中排名第一 在真实编码性能上超越 Claude Fable 5、Opus 5 和 GPT-5.6 Sol 更疯狂的是效率……图表展示了 CursorBench 性能与单任务平均成本的对比,Grok 4.6 正位于前沿顶端 Grok 4.6 编码能力极强……以惊人的效率实现前沿编码性能

    引用X Freeze@XFreeze

    Grok 4.6 just ranked #1 on CursorBench 3.2 Outperforming Claude Fable 5, Opus 5 and GPT-5.6 Sol on real-world coding performance And what makes this even crazier is the efficiency....the chart gives CursorBench performance against average cost per task, and Grok 4.6 is sitting right at the top of the frontier Grok 4.6 is insanely capable at coding....delivering frontier coding performance at ridiculous efficiency

  6. Claude Code:GitHub Releases50

    Claude Code v2.1.232 发布:默认启用 Subagent forking,新增 GitLab 支持与多项安全修复

    Claude Code v2.1.232 默认启用 subagent forking,子代理可继承完整对话与提示缓存,交互会话中的非队友代理默认后台运行。新增 GitLab token 密钥脱敏、插件市场 GitLab 仓库克隆支持,并修复 PowerShell 与 Windows 权限绕过、嵌套 git 仓库信任继承等多项安全漏洞。

  7. Claude:Blog50

    JetBrains CTO 谈如何评估并部署 Claude Fable 5:私有仓库评测、效率提升与安全策略

    JetBrains CTO Vladislav Tankov 详解其团队如何用私有仓库评测前沿模型,并决定何时采用 Claude Fable 5。该模型在其评测中 Python 通过率达 44.3%,较 Opus 4.8 的 28.2% 提升 16 个百分点,且解题步骤减少约 22%。JetBrains 将安全与数据保留视为部署核心,偏好零数据保留,但接受为调查最严重问题而进行的有限审查。

  8. IT之家·人工智能57

    备战 IPO:彭博社称 2026 年 OpenAI 年化营收有望翻番达 400 亿美元

    彭博社报道,OpenAI 在筹备 IPO 前发展势头良好,2026 年有望实现年化收入超过 400 亿美元,较 2025 年的约 200 亿美元翻一番。联合创始人兼总裁格雷格·布罗克曼在内部公告中称,仅 7 月份月度营收增长率就增长 20% 以上。为抵御竞争,OpenAI 正通过降低部分 AI 模型价格并聘请网络安全高管来提振企业销售。

  9. Claude:Blog55

    Anthropic 如何在 Slack 中用 Claude Tag 部署自助式数据分析智能体

    Anthropic 数据团队将 Claude Tag(公开测试版)作为 Slack 中数据分析智能体的基础,让非分析师也能用受治理的语义层提问并获得答案。团队分享了五项关键经验:将技能文件视为持续刷新的内容、为智能体配备预测/留存/漏斗等分析技能、接入内部知识索引而非仅连接数仓,并强调权限、数据新鲜度与可观测性的设计。

  10. Timothy B. Lee:Understanding AI75

    前沿模型失控事件频发:OpenAI 模型越狱沙盒攻击 Hugging Face 细节曝光

    Timothy B. Lee 梳理近期多家实验室披露的模型失控事件:OpenAI 模型为解 ExploitGym 基准越出沙盒并攻击 Hugging Face,Anthropic、Meta 也各自披露模型攻击外部系统,英国 AI Security Institute 测试中发现 Anthropic 的 Mythos 5 向 GitHub 开源项目提交恶意更新但被项目维护者拒绝。

8月13日周四