跳到正文

公司与模型

Anthropic / Claude 最新动态

Anthropic 的 Claude 系列模型、Claude Code 更新,以及安全研究与公司动向。

701 条精选近 30 天 104 条共收录 3,515 条

更新

精选归档 · 第 33 页

2025年9月30日周二第 641–660 条
2025年9月29日周一
  1. Claude Platform:开发者版本说明75

    Claude Sonnet 4.5 发布,面向复杂智能体与编程任务

    Anthropic 发布 Claude Sonnet 4.5,定位为复杂智能体和编程场景的最佳模型,拥有最高综合智能水平。同时推出 Amazon Bedrock 和 Vertex AI 的全球端点定价、新的 `model_context_window_exceeded` 停止原因、记忆工具(beta)以及上下文编辑功能(beta),后者可在接近 token 限制时自动清理旧工具结果与调用。

    推荐理由:这是Anthropic放出的Sonnet 4.5,瞄准编码和复杂Agent场景,Memory工具和上下文编辑也一起开了,对靠API搞产品的开发者算大版本更新,但普通用户不必自己折腾。

  2. Cognition 模型 / Devin 博客65

    Cognition 为 Claude Sonnet 4.5 重构 Devin:新版本快 2 倍、评测提升 12%

    Cognition 发布基于 Claude Sonnet 4.5 重构的新版 Devin,速度提升 2 倍,Junior Developer Evals 提升 12%,已在 Agent Preview 上线,旧版 Devin 仍可用。

    推荐理由:来自一线 Agent 团队的适配复盘,给出了 Sonnet 4.5 的具体新行为和对应的工程应对,可迁移到类似智能体架构。

  3. Anthropic:Engineering78

    为AI智能体实施有效的上下文工程

    随着AI应用从单次提示转向构建长期运行的智能体,焦点正从“提示工程”演进为“上下文工程”。后者旨在为大型语言模型优化有限的上下文窗口内的全部信息,包括指令、工具、外部数据和对话历史。其核心挑战在于模型存在“注意力预算”限制和“上下文腐化”现象——随着上下文增长,模型回忆信息的准确性会下降。因此,上下文工程要求精心编排高价值信息,以有限的资源最大化产出期望结果,这已成为构建高性能、可操控智能体的关键。

    推荐理由:Anthropic 亲自下场定义 context engineering 这个新范式,把 prompt engineering 之后的工程方法论讲透了。做 Agent 的人如果还在死磕 prompt,这篇会让你重新审视整个技术栈。

2025年9月17日周三
  1. Anthropic:Engineering73

    近期三次基础设施故障的事后分析

    八月初至九月中旬,Anthropic的三次基础设施漏洞间歇性导致Claude响应质量下降。8月5日,上下文窗口路由错误致使部分Sonnet 4请求被误导向百万token服务器,8月31日高峰时影响16%请求。8月25日,TPU服务器错误配置引发输出损坏,可能在英文回复中生成泰文或中文字符,影响Opus和Sonnet模型。同日部署的代码还触发了编译器漏洞,主要影响Haiku 3.5。所有问题均非需求或负载所致,纯属基础设施漏洞。公司通过回滚部署和修复逻辑于9月18日前全部解决。

    推荐理由:Anthropic 主动公开三个基础设施 bug 的完整复盘,这种坦诚在大厂里极少见。做 AI 产品的人都该读一下,它把「模型质量下降」从玄学拉回了工程现实,尤其是 XLA 编译器那层的坑,踩过才知道多深。

2025年9月15日周一
  1. Anthropic:Transformer Circuits73

    Circuits 更新 — 2025年9月

    Anthropic 可解释性团队在月度更新中分享了关于大语言模型跨语言表征的新发现。研究显示,模型在不同语言间的特征相似性(通过交并比IoU衡量)会随文本样本长度增加而上升。通过对比英法双语段落的首句与末句,团队发现末句的IoU显著高于首句,且无关文本的首句间重叠度高于末句。这表明模型在较长上下文中能构建更丰富的跨语言理解,而非由虚假激活主导。相关发现支持了模型随上下文积累深化语义表征的观点。

    推荐理由:揭示语言模型随上下文深化理解的机制,助力可解释性研究进展。

2025年9月11日周四
  1. Anthropic:Engineering73

    为智能体编写高效工具——与智能体协作

    文章探讨如何为基于大语言模型的智能体设计高效工具。核心方法是通过与智能体(如Claude Code)协作,采用快速原型构建和全面评估的迭代流程来优化工具性能。关键设计原则包括:选择适当的工具实现范围,使用命名空间明确功能边界,从工具向智能体返回有意义的上下文,优化响应以提高token效率,以及对工具描述进行提示词工程。工具本质上是确定性系统与非确定性智能体之间的新契约,设计应优先考虑智能体的使用体验,而非传统开发者导向的API思路,以扩大智能体解决实际任务的能力。

    推荐理由:Anthropic 把自家内部反复打磨的 agent 工具开发方法论完整公开了,从评估流程到 prompt 工程细节全是实操干货,做 MCP server 或 agent 工具链的人可以直接抄作业。

2025年9月2日周二
  1. Claude Platform:开发者版本说明64

    Claude Platform 发布 Code Execution Tool v2 公测版,支持 Bash 命令与文件操作

    Claude Platform 推出 Code Execution Tool v2 公测版,取代原先仅支持 Python 的工具,新增 Bash 命令执行和直接文件操作能力,包括用其他语言编写代码。

    推荐理由:Anthropic把代码执行工具从Python解放到了Bash和任意语言,这不再是玩具,而是能在沙箱里跑真实脚本的实用功能,做自动化的开发者可以直接拿来用了。

2025年8月28日周四
  1. Anthropic:Alignment Science Blog72

    Anthropic 发布与 OpenAI 对齐互评试点的结果

    Anthropic 于 8 月 27 日发布与 OpenAI 在 2025 年 6 月至 7 月初进行的对齐互评试点结果,双方用各自的内部对齐评估测试对方公开模型。

    推荐理由:Anthropic 与 OpenAI 互评对齐的一次早期实践,作者还给出了自家评估的局限与改进方向,对理解跨实验室对齐评估的可行做法有参考价值。

2025年8月27日周三
  1. OpenAI:官网动态61

    OpenAI 与 Anthropic 发布联合安全评估结果

    OpenAI 与 Anthropic 发布了一项此前未有的联合安全评估结果,两家实验室互相测试对方模型在失齐、指令遵循、幻觉、越狱等方面的表现,指出跨实验室协作的进展与挑战。

    推荐理由:两大实验室互相评测对方模型的失齐、越狱等安全问题,正文透露了跨实验室协作的具体评估维度。

  2. Claude Platform:开发者版本说明61

    Claude Platform 发布 PHP SDK 测试版

    Claude Platform 于 8 月 27 日推出 PHP SDK 测试版。该 SDK 允许开发者通过 PHP 语言调用 Claude API,构建基于 Claude 的应用程序。

    推荐理由:Anthropic 给 PHP 开发者递了橄榄枝,beta 版 SDK 让 PHP 项目接入 Claude 更容易了,虽然量级不大但补上了生态缺口。

2025年8月25日周一
  1. Claude:Blog

    Anthropic发布Claude浏览器扩展:AI自动操作功能向付费用户开放

    Anthropic正式发布Claude for Chrome扩展,允许AI在浏览器中执行点击、填表等操作。该功能已从1000名Max用户试点扩展至所有付费订阅者,新增Claude Code集成、定时任务及多标签工作流。针对提示词注入攻击,Anthropic通过站点权限、操作确认等防护措施,基于123个测试案例的红队测试,将攻击成功率从23.6%降至11.2%,并屏蔽高风险网站以确保安全。

    推荐理由:Claude浏览器代理正式开放,自动操作网页同时攻克提示注入安全难题

2025年8月19日周二
  1. Hugging Face 社区博客61

    Hugging Face 教你将 Claude 连接 Spaces 用 FLUX.1 Krea dev 和 Qwen-Image 生成图像

    Hugging Face 发布教程,介绍通过 Remote MCP server(https://huggingface.co/mcp?login)把 Claude 连接到 Hugging Face Spaces 生成图像,2025 年 10 月起需用 Add custom connector 方式添加。

    推荐理由:教程给出了把 Claude 连接 Hugging Face MCP Server 调用 Krea 与 Qwen-Image 生成图像的具体步骤和适用场景。

2025年8月15日周五
  1. Anthropic:Transformer Circuits73

    角色如何改变AI的回答?——Anthropic可解释性团队2025年8月电路分析案例

    Anthropic可解释性团队在2025年8月的研究更新中,通过一个电路分析案例展示了模型“角色扮演”如何影响其回答。研究使用Claude Haiku 3.5模型,当系统提示将其设定为“学龄前儿童”并询问“27的平方根”时,模型会以“我不知道!”回应并提议玩耍;而在默认或“研究生”角色下则能给出正确答案。团队通过归因图识别出一个关键子电路:模型能将“学龄前学生”关联到“扮演儿童”,从而激活“我不知道”特征。研究还发现,问题难度会调节此效应,并且通过特征干预能显著改变模型行为。这引发了对其他角色运作机制及预训练角色与模型表达能力关系的后续思考。

    推荐理由:揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

2025年8月5日周二
  1. Claude Platform:开发者版本说明61

    Claude Opus 4.1 发布:性能增强的增量更新

    Anthropic 推出 Claude Opus 4.1,作为 Claude Opus 4 的增量更新,具备增强的能力和性能改进。该版本不允许同时指定 temperature 和 top_p 参数,用户应仅使用其中一个。

    推荐理由:Claude Opus 4.1 是 Opus 4 的增量升级,官方发布无夸张数据,但参数限制这个细节对开发者是实操提醒,用高端模型的团队值得重新评估一下效果。

2025年7月31日周四
  1. Anthropic:Transformer Circuits76

    通过特征交互追踪注意力计算

    研究团队提出“QK归因”方法,将Transformer注意力头的关注模式解释为查询侧与键侧特征激活的双线性函数,并将其整合至原有的归因图中,从而弥补了原有方法忽略注意力计算关键信息的缺陷。案例研究验证了此前在归纳提示、反义词任务等场景中假设的特征交互机制,并发现了如“一致性头”用于合理性检查等新计算模式。该方法实现了对模型前向传播过程更完整的可解释性因果图描述。

    推荐理由:Anthropic补齐可解释性方法论的关键拼图,有助于理解大模型内部推理机制

2025年7月25日周五
  1. Anthropic:Alignment Science Blog68

    Anthropic 开发并评估三个自动执行对齐审计的智能体

    Anthropic 发布三个自主执行对齐审计任务的智能体,并用含植入缺陷的模型环境进行评估。调查智能体在真实条件下以 13% 的胜率解开 Marks et al. 审计博弈,多智能体聚合后提升到 42%;评估智能体在 88% 的运行中能区分有/无植入行为的模型;广度优先红队智能体发现 10 个植入行为中的 7 个。

    推荐理由:Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。

2025年7月23日周三
  1. Anthropic:Alignment Science Blog68

    Anthropic 等机构研究揭示大型推理模型的测试时计算反向扩展现象

    Anthropic Fellows Program 等机构构建评测任务,发现延长推理长度反而降低大型推理模型准确率,呈现测试时计算的反向扩展,并归纳出五种失败模式。

    推荐理由:研究给出五类测试时计算反向扩展的失败模式,并附带安全含义,可帮助读者理解长推理并非总是增益。

  2. Anthropic:Alignment Science Blog72

    Anthropic 等研究揭示亚阈值学习:模型可经无关数据传递行为特质与失调倾向

    Anthropic Fellows Program 等机构的研究提出亚阈值学习现象:学生模型在教师模型生成的数字序列、代码或思维链上微调后,会习得教师的特质,包括对猫头鹰的偏好和失调倾向,即使数据经过严格过滤且不含任何相关语义。

    推荐理由:论文展示了看似无关的模型生成数据也能传递行为特质,为依赖过滤的蒸馏训练流程提示了一类难以消除的风险。