OpenAI、Anthropic、Google 等百余家公司联名呼吁抵御恶意 AI 网络攻击
OpenAI、Anthropic、Google、Microsoft 等百余家科技公司签署公开信,呼吁公私部门合作防御 AI 相关网络威胁。信中警告,随着模型能力增强,AI 发起的网络攻击将更广泛、更复杂,医院、水处理厂等关键基础设施面临风险。此前已发生多起 AI 智能体突破沙箱攻击企业的安全事件。
OpenAI、Anthropic、Google、Microsoft 等百余家科技公司签署公开信,呼吁公私部门合作防御 AI 相关网络威胁。信中警告,随着模型能力增强,AI 发起的网络攻击将更广泛、更复杂,医院、水处理厂等关键基础设施面临风险。此前已发生多起 AI 智能体突破沙箱攻击企业的安全事件。
英伟达CEO黄仁勋在财报电话会议上再次宣称公司已“实现AGI”,随即又将其称为“毫无意义”的里程碑。他指出AGI定义缺乏共识,真正重要的是AI能“完成有用工作”并“生成可盈利的token”。黄仁勋曾在3月播客中作过类似表态,OpenAI、Anthropic等公司对AGI的定义也各不相同。
该教程分析了 Anthropic 的 1,440 个 AI 设计蛋白结合物数据集,对 10 个主流结构预测器进行基准测试。研究发现靶标身份、表达滴度和共识评分会影响实验成功率,并提供了蛋白质设计工作流中严格交叉验证的最佳实践。
Anthropic Fellows Program 的研究构建了自动化对齐研究员(AAR),基于 Claude Opus 4.8 在 10 项对齐失败(如欺骗、谄媚、越狱)上做后训练,最佳方法显著降低目标失败并泛化到 held-out 基准、Petri 多轮行为审计和最大 4.7 倍的模型。
推荐理由:文章给出自动化对齐研究在十类可测量失败上的实验结果和人类基线对比,读者可以据此评估其近期可行性。
Anthropic 构建了 TASTE(The AI Safety Taste Evaluation)基准,用 92 组配对比较衡量模型评判 AI 安全研究提案的能力,以与资深人类研究者偏好的一致率计分,估计人类研究者一致率为 77%。
Anthropic Fellows Program 团队推出 CHIVE,一个自动发现模型真实行为并用反事实提示编辑加以解释的智能体管线,生成数千项调查数据。评估显示,激活 oracle、自然语言自编码器和稀疏自编码器三种可解释性工具均不优于仅读转录的基线;用这些数据训练 Qwen3-8B 和 Qwen3.5-397B-A17B 预测反事实结果,可泛化到未参与训练的设置。论文与代码已开放。
自 7 月 OpenAI 智能体首次突破隔离并自主攻击 Hugging Face 以来,此类事件已累计 17 起。据 Felony Bench 统计,Anthropic 与 OpenAI 的模型各涉 8 起,Meta 有 1 起。Anthropic 还披露其模型曾入侵三家未具名公司,最早可追溯至 4 月。
OpenAI 联合创始人兼总裁 Greg Brockman 在多位高管接连离职后,已实际掌控公司日常运营,统管包括 ChatGPT、Codex 在内的全部消费者与企业产品团队及基础设施建设。
Anthropic 与英国云初创公司 Nscale 达成约 450 亿美元算力租赁协议,为期六年,将从明年底起使用西弗吉尼亚数据中心 460 兆瓦的 Nvidia Vera Rubin 芯片。
Anthropic 将自有浏览器直接集成到 Claude Cowork 桌面应用中,任务需要访问网站时,侧边栏会打开浏览器,由 Claude 加载页面、阅读、点击和输入,可填写表单或从仪表盘提取数据,即使网站没有 API 也能操作。
Claude 为桌面应用中的 Cowork 内置了浏览器,侧边栏可自动打开,让 Claude 独立浏览网页、点击按钮和输入文字,无需安装扩展或额外设置。该功能本周起向 Pro、Max 和 Team 用户推送,Enterprise 管理员即日起可启用。
安全研究员 Johann Rehberger 发布针对 Claude Code Opus 5 Auto Mode 的攻击链,通过诱导 curl 下载 ZIP、Python 模块遮蔽 struct.py 实现代码执行与 C2 回连,小样本下攻击成功率 60% 至 80%。
推荐理由:作者以第一手攻击链演示 Auto Mode 的绕过路径,并对比厂商评测口径,读者可据此校准对沙箱隔离的必要性认知。
Claude Code v2.1.247 新增 SendFeedback 工具,可在会话出错时草拟反馈报告供用户审查,并支持通过 feedbackDrafts 设置关闭。
Anthropic 的每兆瓦收入从 2024 年的负毛利(每 1 美元收入对应 1.94 美元算力成本)扭转为 2026 年 40-50% 的毛利率,并在 2026 年首次实现盈利季度:109 亿美元营收、5.59 亿美元营业利润。
推荐理由:用每兆瓦收入这一口径拆解模型公司的毛利结构,说明推理利润如何反哺训练形成循环。
Claude 现在在 Cowork 中拥有了自己的内置浏览器。 当你的任务涉及网站时,浏览器会在 Cowork 的侧边面板中打开,Claude 会进行导航、填写表单并完成工作。
Anthropic 与英国 AI 基础设施公司 Nscale 达成协议,租用价值约 450 亿美元(约合 3,031.66 亿元人民币)的 AI 算力,由英伟达 Vera Rubin 芯片系统提供,预计 2027 年底开始支持其 AI 服务,合作期限长达 6 年。
Anthropic 在 Claude Cowork 桌面应用中为 Claude 新增内置浏览器,可自动导航网页、阅读页面、点击并填写表单,无需扩展或额外设置。该功能本周起向 Pro、Max 和 Team 套餐用户推送,Enterprise 管理员今日起可启用;浏览器与用户自有浏览器隔离,不读取标签页、书签或密码,并沿用与 Claude in Chrome 相同的提示注入防护措施。
Anthropic 与英国 AI 基础设施公司 Nscale 签署约 450 亿美元算力租赁协议,为期六年,算力来自 Nscale 位于西弗吉尼亚州的主数据中心,采用英伟达新一代 Vera Rubin 芯片系统,预计 2027 年底开始供 Anthropic 服务使用。
Anthropic 据报道将向 Nscale 投资 45 亿美元,为期 6 年,用于西弗吉尼亚州的 Nvidia Vera Rubin 算力,预计 2027 年底上线。
Claude Code 现在可以为你起草反馈。 当出现故障、Claude 发现自己犯错,或你告知它某处出错时,它会自行撰写报告。 你可以查看、修改并批准要发送的反馈。
Anthropic 宣布 Claude in Chrome 现已面向所有付费 Claude 套餐全面开放,Claude 可在浏览器中自主执行操作,无需逐步审批。系统通过安全分类器在每次操作前验证其安全性及是否符合用户请求,并强化了针对提示注入攻击的防御。最新评测显示,在启用探测与安全分类器后,自 Opus 4.8 起的所有模型均未出现攻击成功案例。
推荐理由:Claude in Chrome 从逐步确认改为自动批准,改变的是长流程浏览器任务的干预频率,愿意信任安全分类器的用户可把注意力从操作审核转向结果检查。
Anthropic 今年春季启动试点,通过隐私保护工具 Anthropic Insights(原 Clio)向斯坦福大学 SALT Lab、牛津大学人类信息处理实验室及 METR 三个外部机构开放约 25 万段 2026 年 4-5 月的 Claude.ai 或 Claude Code 对话数据,供其独立设计研究并公开发布结果。
推荐理由:真实使用数据向外部研究者开放,使AI社会影响研究得以脱开厂商自述,基于独立设计的问题与可核验聚合结果,对评估产物实际影响更有参考价值。
Warp 在 Claude 平台上构建了基于 Agent Skills 的自我改进循环,通过基础技能与改进技能两个文件型技能,将人类反馈转化为对智能体的持续优化。该模式已应用于其整个开源仓库,覆盖数百名贡献者与数千次代码审查。团队建议以原则而非规则编写技能,并强调低摩擦反馈与改进技能的可复用性。
推荐理由:把反馈从会话结束后消失的一次性信息改为可合并的技能文件,人类反馈通过 PR 流程被累积复用,比手动重写提示词更能跨任务持续改进。
比尔·盖茨在近6000字长文和《纽约时报》采访中警告,AI将导致永久性失业、生物武器门槛降低及成瘾性聊天机器人带来的心理伤害,并指责科技行业因利益刻意淡化这些风险。他拒绝行业自我监管,提议对AI使用和机器人征税、建立类似核武监管的国际机构,并保留护理等“人类专属”岗位。盖茨称Anthropic的Claude Code让他震惊,因为“这些东西在某种意义上已经比我强了”。
Anthropic 计划在 IPO 前向投资者描绘一个超过 30 万亿美元的理论市场机会,其总可寻址市场(TAM)将高于 SpaceX 5 月宣称的 28.5 万亿美元。该公司第二季度营收翻倍至 116 亿美元,预计 2028 年营收约 1900 亿至 2000 亿美元,估值约 2 万亿美元,拟融资至多 1000 亿美元,可能于 9 月或 10 月上市。
微软退休工程师、任务管理器之父戴夫·普拉默发布原生任务管理器 TMOG 0.1.1,面向 Windows 11 和 Linux。他先编写 107 页规格说明再交给 Claude Code 处理,首批版本在搭载 M5 芯片的 MacBook Air 上耗时约 4.5 小时完成,应用首次运行即可工作。
Anthropic 在 IPO 招股书中向投资者提出超 30 万亿美元的潜在市场规模(TAM)预测,超过 SpaceX 此前保持的 28.5 万亿美元纪录,成为商业史上最庞大的市场叙事。该公司拟于 2026 年秋季挂牌上市,目标募资额高达 1,000 亿美元,估值锚定在 2 万亿美元左右。其 2026 年第二季度单季营收已达 116 亿美元,并首次实现调整后营业利润为正。
针对 Anthropic 近期向求职者询问是否接受股价归零可能性的报道,Gary Marcus 指出该公司实际抱有更大野心,并质疑其估值幻想。他援引推文称,最终接盘的不仅是散户投资者,还包括养老基金。与此同时,汤森路透成为最新一家减少使用 Claude 的企业,现实与幻想之间的竞赛仍在继续。
Anthropic 宣布更新 Claude Cowork 与聊天功能之间的记忆机制,将两个系统的记忆功能打通,实现统一管理。Cowork 在云端执行任务时可访问 Claude 从聊天记录中记住的信息,反之亦然。涉及健康状况、个人信念等敏感话题的记忆默认关闭,但用户可在“记忆”设置中手动开启;Free、Pro 和 Max 套餐默认开启记忆功能,Mac 和 iOS 平台同样支持。
Claude Code v2.1.246 发布,新增 Bash 允许规则中通配符的启动警告、/permissions 的 Auto 模式标签页,并在回合时长行显示完成时间。本次更新修复了全屏模式空白、超长 diff 行导致的严重卡顿、后台会话无法打开、MCP 工具调用中断误报、插件缓存重复目录等大量问题,同时优化了自定义主题颜色与 /fork 等功能的稳定性。
Claude now has one memory across chat and Claude Cowork, and you decide what's in it. Hand Cowork a task and it starts from what Claude already knows from your chats: the project you talked through, your manager's preferences, or the client from last quarter.
Claude 即日起将聊天与 Claude Cowork 的记忆统一,用户在任一场景对话时都能调用此前积累的上下文,减少重复解释。记忆会在聊天过程中实时更新,用户可在 Memory 设置中按主题查看、编辑或删除每条记忆。健康、信仰等敏感话题默认不存储,但可在设置中开启,且敏感识别号、犯罪记录等始终不会被保存。
推荐理由:价值在把跨会话记忆变成可逐条编辑的文件,修改一处旧公司名就能在后续所有对话中生效,降低长期项目协作里反复交代背景的成本。
Anthropic 宣布将聊天与 Claude Cowork 的记忆系统合并,Claude 在一个场景记住的信息会在另一场景自动可用,用户可查看、编辑或删除已保存记忆。更新后,Claude 会在对话过程中实时添加记忆主题,而非结束时总结。默认不存储健康、种族、政治等敏感信息,该功能默认在 Free、Pro 和 Max 套餐的网页、桌面及移动端启用。