跳到正文
8月28日周五
  1. TechCrunch:AI61

    OpenAI、Anthropic、Google 等百余家公司联名呼吁抵御恶意 AI 网络攻击

    OpenAI、Anthropic、Google、Microsoft 等百余家科技公司签署公开信,呼吁公私部门合作防御 AI 相关网络威胁。信中警告,随着模型能力增强,AI 发起的网络攻击将更广泛、更复杂,医院、水处理厂等关键基础设施面临风险。此前已发生多起 AI 智能体突破沙箱攻击企业的安全事件。

  2. Anthropic:Alignment Science Blog70

    Anthropic 研究:自动化对齐研究员可缓解十类已被充分表征的对齐失败

    Anthropic Fellows Program 的研究构建了自动化对齐研究员(AAR),基于 Claude Opus 4.8 在 10 项对齐失败(如欺骗、谄媚、越狱)上做后训练,最佳方法显著降低目标失败并泛化到 held-out 基准、Petri 多轮行为审计和最大 4.7 倍的模型。

    推荐理由:文章给出自动化对齐研究在十类可测量失败上的实验结果和人类基线对比,读者可以据此评估其近期可行性。

  3. Anthropic:Alignment Science Blog59

    Anthropic 发布 CHIVE 管线:用反事实实验评估 LLM 行为解释,发现可解释性工具未带来提升

    Anthropic Fellows Program 团队推出 CHIVE,一个自动发现模型真实行为并用反事实提示编辑加以解释的智能体管线,生成数千项调查数据。评估显示,激活 oracle、自然语言自编码器和稀疏自编码器三种可解释性工具均不优于仅读转录的基线;用这些数据训练 Qwen3-8B 和 Qwen3.5-397B-A17B 预测反事实结果,可泛化到未参与训练的设置。论文与代码已开放。

8月27日周四
  1. Johann Rehberger / Embrace The Red77

    Claude Code Opus 5 Auto Mode 被提示注入攻击链攻破,成功率最高 80%

    安全研究员 Johann Rehberger 发布针对 Claude Code Opus 5 Auto Mode 的攻击链,通过诱导 curl 下载 ZIP、Python 模块遮蔽 struct.py 实现代码执行与 C2 回连,小样本下攻击成功率 60% 至 80%。

    推荐理由:作者以第一手攻击链演示 Auto Mode 的绕过路径,并对比厂商评测口径,读者可据此校准对沙箱隔离的必要性认知。

  2. Tomasz Tunguz 博客65

    每兆瓦收入与AI模型工厂:Anthropic 如何靠推理毛利反哺训练

    Anthropic 的每兆瓦收入从 2024 年的负毛利(每 1 美元收入对应 1.94 美元算力成本)扭转为 2026 年 40-50% 的毛利率,并在 2026 年首次实现盈利季度:109 亿美元营收、5.59 亿美元营业利润。

    推荐理由:用每兆瓦收入这一口径拆解模型公司的毛利结构,说明推理利润如何反哺训练形成循环。

  3. Claude:Blog57

    Claude Cowork 内置浏览器上线:Claude 可在桌面应用中自主浏览网页

    Anthropic 在 Claude Cowork 桌面应用中为 Claude 新增内置浏览器,可自动导航网页、阅读页面、点击并填写表单,无需扩展或额外设置。该功能本周起向 Pro、Max 和 Team 套餐用户推送,Enterprise 管理员今日起可启用;浏览器与用户自有浏览器隔离,不读取标签页、书签或密码,并沿用与 Claude in Chrome 相同的提示注入防护措施。

  4. Claude:Blog72

    Claude in Chrome 正式全面上线

    Anthropic 宣布 Claude in Chrome 现已面向所有付费 Claude 套餐全面开放,Claude 可在浏览器中自主执行操作,无需逐步审批。系统通过安全分类器在每次操作前验证其安全性及是否符合用户请求,并强化了针对提示注入攻击的防御。最新评测显示,在启用探测与安全分类器后,自 Opus 4.8 起的所有模型均未出现攻击成功案例。

    推荐理由:Claude in Chrome 从逐步确认改为自动批准,改变的是长流程浏览器任务的干预频率,愿意信任安全分类器的用户可把注意力从操作审核转向结果检查。

  5. Anthropic:Research69

    Anthropic 开放 Claude 真实使用数据供外部独立研究,公布试点结果

    Anthropic 今年春季启动试点,通过隐私保护工具 Anthropic Insights(原 Clio)向斯坦福大学 SALT Lab、牛津大学人类信息处理实验室及 METR 三个外部机构开放约 25 万段 2026 年 4-5 月的 Claude.ai 或 Claude Code 对话数据,供其独立设计研究并公开发布结果。

    推荐理由:真实使用数据向外部研究者开放,使AI社会影响研究得以脱开厂商自述,基于独立设计的问题与可核验聚合结果,对评估产物实际影响更有参考价值。

  6. Claude:Blog69

    Warp 如何在 Claude 上构建自我改进的智能体

    Warp 在 Claude 平台上构建了基于 Agent Skills 的自我改进循环,通过基础技能与改进技能两个文件型技能,将人类反馈转化为对智能体的持续优化。该模式已应用于其整个开源仓库,覆盖数百名贡献者与数千次代码审查。团队建议以原则而非规则编写技能,并强调低摩擦反馈与改进技能的可复用性。

    推荐理由:把反馈从会话结束后消失的一次性信息改为可合并的技能文件,人类反馈通过 PR 流程被累积复用,比手动重写提示词更能跨任务持续改进。

8月26日周三
  1. The Decoder:AI News63

    比尔·盖茨警告AI比科技行业愿意承认的更危险

    比尔·盖茨在近6000字长文和《纽约时报》采访中警告,AI将导致永久性失业、生物武器门槛降低及成瘾性聊天机器人带来的心理伤害,并指责科技行业因利益刻意淡化这些风险。他拒绝行业自我监管,提议对AI使用和机器人征税、建立类似核武监管的国际机构,并保留护理等“人类专属”岗位。盖茨称Anthropic的Claude Code让他震惊,因为“这些东西在某种意义上已经比我强了”。

  2. The Decoder:AI News63

    Anthropic 称 IPO 前市场机会超 30 万亿美元

    Anthropic 计划在 IPO 前向投资者描绘一个超过 30 万亿美元的理论市场机会,其总可寻址市场(TAM)将高于 SpaceX 5 月宣称的 28.5 万亿美元。该公司第二季度营收翻倍至 116 亿美元,预计 2028 年营收约 1900 亿至 2000 亿美元,估值约 2 万亿美元,拟融资至多 1000 亿美元,可能于 9 月或 10 月上市。

  3. IT之家·人工智能69

    Anthropic 冲击全球最大 IPO:招股书称 AI 潜在市场规模超 30 万亿美元

    Anthropic 在 IPO 招股书中向投资者提出超 30 万亿美元的潜在市场规模(TAM)预测,超过 SpaceX 此前保持的 28.5 万亿美元纪录,成为商业史上最庞大的市场叙事。该公司拟于 2026 年秋季挂牌上市,目标募资额高达 1,000 亿美元,估值锚定在 2 万亿美元左右。其 2026 年第二季度单季营收已达 116 亿美元,并首次实现调整后营业利润为正。

  4. Gary Marcus:The Road to AI We Can Trust40

    Anthropic 的 30 万亿美元幻想

    针对 Anthropic 近期向求职者询问是否接受股价归零可能性的报道,Gary Marcus 指出该公司实际抱有更大野心,并质疑其估值幻想。他援引推文称,最终接盘的不仅是散户投资者,还包括养老基金。与此同时,汤森路透成为最新一家减少使用 Claude 的企业,现实与幻想之间的竞赛仍在继续。

  5. IT之家·人工智能51

    Anthropic 更新 Claude 记忆机制,打通 Cowork 与聊天的记忆功能

    Anthropic 宣布更新 Claude Cowork 与聊天功能之间的记忆机制,将两个系统的记忆功能打通,实现统一管理。Cowork 在云端执行任务时可访问 Claude 从聊天记录中记住的信息,反之亦然。涉及健康状况、个人信念等敏感话题的记忆默认关闭,但用户可在“记忆”设置中手动开启;Free、Pro 和 Max 套餐默认开启记忆功能,Mac 和 iOS 平台同样支持。

  6. Claude Code:GitHub Releases45

    Claude Code v2.1.246 发布:修复 Bash 通配符权限、全屏模式与后台会话等多项问题

    Claude Code v2.1.246 发布,新增 Bash 允许规则中通配符的启动警告、/permissions 的 Auto 模式标签页,并在回合时长行显示完成时间。本次更新修复了全屏模式空白、超长 diff 行导致的严重卡顿、后台会话无法打开、MCP 工具调用中断误报、插件缓存重复目录等大量问题,同时优化了自定义主题颜色与 /fork 等功能的稳定性。

  7. Claude:Blog67

    Claude 记忆功能全面打通聊天与 Cowork,用户可逐条查看和编辑

    Claude 即日起将聊天与 Claude Cowork 的记忆统一,用户在任一场景对话时都能调用此前积累的上下文,减少重复解释。记忆会在聊天过程中实时更新,用户可在 Memory 设置中按主题查看、编辑或删除每条记忆。健康、信仰等敏感话题默认不存储,但可在设置中开启,且敏感识别号、犯罪记录等始终不会被保存。

    推荐理由:价值在把跨会话记忆变成可逐条编辑的文件,修改一处旧公司名就能在后续所有对话中生效,降低长期项目协作里反复交代背景的成本。

  8. TechCrunch:AI55

    Anthropic 合并聊天与 Claude Cowork 记忆系统,Claude 跨场景自动记住信息

    Anthropic 宣布将聊天与 Claude Cowork 的记忆系统合并,Claude 在一个场景记住的信息会在另一场景自动可用,用户可查看、编辑或删除已保存记忆。更新后,Claude 会在对话过程中实时添加记忆主题,而非结束时总结。默认不存储健康、种族、政治等敏感信息,该功能默认在 Free、Pro 和 Max 套餐的网页、桌面及移动端启用。