Anthropic 副首席信息安全官发布智能体 AI 风险评估框架:零风险不是目标
Anthropic 副首席信息安全官 Jason Clinton 分享了其团队在采用智能体 AI 过程中的经验教训,并提出了一套用于安全构建和部署智能体的风险评估框架。该框架通过四个核心问题(摄入的不可信内容、可执行的操作、失控时的爆炸半径、可观测性)来评估风险,并强调“最小代理权限”原则。Anthropic 的默认策略是管理员控制的分阶段推出,并指出与意图偏离的智能体在行为上无异于内部攻击。
Anthropic 副首席信息安全官 Jason Clinton 分享了其团队在采用智能体 AI 过程中的经验教训,并提出了一套用于安全构建和部署智能体的风险评估框架。该框架通过四个核心问题(摄入的不可信内容、可执行的操作、失控时的爆炸半径、可观测性)来评估风险,并强调“最小代理权限”原则。Anthropic 的默认策略是管理员控制的分阶段推出,并指出与意图偏离的智能体在行为上无异于内部攻击。
Anthropic 工程师用 Claude Code 在两周内将 Bun 的百万行 Zig 代码迁移至 Rust,100% 现有测试通过,合并后出现 19 个回归问题已全部修复。另一工程师用周末将 Python 代码库迁移至 16.5 万行 TypeScript。迁移消耗约 16.5 万美元 API 成本,但编译时间从八分钟降至两秒,二进制启动快 6 倍。
推荐理由:Anthropic 用自家 Claude Code 把百万行 Zig 代码迁到 Rust,两周搞定,这不仅是案例展示,更是开发者如何用 AI 重构代码库的实操指南,尤其适合那些被遗留代码拖累的团队。
Google 提出将系统提示词模块化为可复用的“技能文件”,通过转译器进行静态验证并在构建时捕获缺失依赖,从而解决单体提示词导致的扩展瓶颈与运行时错误。该方法将提示词生成集成到 CI/CD 流水线中,防止代码漂移,并允许智能体通过标准 pull request 自主更新逻辑。
无代码开发平台 Base44 将此前仅限资深工程师处理的系统提示词重构任务交给了 Claude Fable 5。该模型在四小时内独立完成 90%-95% 的重构,并主动发现团队评估中遗漏的缓存命中测试盲点。Base44 产品负责人表示,Claude Fable 5 是首个能像资深工程师一样推理软件构建方式的模型。
LangSmith 现已支持追踪 Claude Code、Codex、Cursor、Copilot 等编码智能体的运行轨迹。开发者可检查工具调用、子智能体、错误、成本与重试行为,从而定位调试问题。
Apple 机器学习研究团队为 Apple Music 搜索引入多语言语义检索系统,覆盖 150 多个国家及地区的数十种语言。该系统利用多语言嵌入向量模型,将用户查询与歌曲等内容的语义表示映射到同一向量空间,实现跨语言匹配。检索准确率较此前基于关键词的系统提升 30% 以上,同时保持毫秒级响应延迟。
LMSYS 与 SGLang 团队针对智谱 GLM-5.2 NVFP4 模型在 Grace Blackwell 硬件上推出多项优化。运行时方面,Spec V2 重叠调度消除 GPU 气泡,端到端 TPS 提升 11%;IndexShare MTP 在 draft 步骤间复用 DSA indexer 的 top-k,长上下文下 draft 步骤成本降低约 1.9 倍。内核方面,TopK-V2 将 TopK 视为选择问题,80K ISL 下平均延迟从 40.7 µs 降至 17.5 µs(2.33× 加速),1M ISL 下从 372.1 µs 降至 36.6 µs(10.17× 加速)。优化后 8×B300 单 batch 解码吞吐超过 500 TPS。
OpenAI 提出五项管理 AI 投资的具体步骤,帮助领导者理解使用情况、控制支出并投资于高价值工作。从 GPT-4 到 GPT-5.4,每百万 token 价格下降 97%,GPT-5.6 在 Artificial Analysis Coding Agent Index 中实现更优性能,输出 token 减少 54%,每任务耗时减少 57%。ChatGPT Work 支持更长、多步骤任务,Admin Console 提供按用户、产品和模型的使用分析与支出控制。建议按结果 ROI 评估模型效率,在规模化前治理高级工作流,将 AI 投资作为组合管理,并根据已验证需求匹配容量与支持。
DeepSeek 由 16 家供应商提供服务,价格差异约 4 倍,吞吐量从 4 到 57 tokens/秒不等。通过 OpenRouter 统一路由可自动选择最优供应商,避免用户逐一对比价格与速度。当对延迟或成本有特定要求时,直接调用特定供应商可能更合适。
GitHub 将 Copilot code review 迁移到与 Copilot CLI 共享的 grep、glob、view 工具集后,离线评测显示审查成本上升、有效问题检出减少。
推荐理由:原文用工具追踪展示迁移后 agent 的行为偏差,给出可迁移的提示词重写思路,比结论本身更有参考价值。
Ai2 Skylight 团队发布长文,拆解海事智能体 Shippy 的架构,包括 soul、skills 和 config 三层设计,底层使用 OpenClaw 框架和 Claude Opus 4.6。
@thsottiaux 简而言之: - 用 Claude 和 Codex 认证设置 CLIProxyAPI - 连接到 Claude Code - 创建 "claudex" 别名来设置一些环境变量 大概花了 2 个提示(不过说实话我已经把代理设置好了)
推荐理由:不装Codex app也能用GPT-5.6-Sol,这个别名技巧解决了Claude Code用户的尝鲜难题,一行命令就搞定,对开发者很友好但算不上突破。
GitHub 在 Copilot 代码审查中尝试用 Copilot CLI 的共享代码探索工具(grep、glob、view)替换原有专用工具,结果导致审查成本上升、有效评论数量下降。分析 trace 发现,问题不在工具本身,而在于指令让智能体像通用编程助手一样大范围浏览仓库,而非像审查者一样从 diff 出发进行定向搜索。重写指令后,审查平均成本降低约 20%,同时保持相同审查质量。
LangChain 通过挖掘智能体运行轨迹(traces)来定位失败模式,并利用这些数据微调评估模型(judge models),其成本低于前沿大语言模型。该方法结合评估(evals)进行性能爬山(hill-climb),以系统化方式提升智能体表现。
Anthropic 市场运营团队的 Ian Chan 和 Annabel Custer 利用 Claude Cowork 将手动工作从多天压缩至数小时。Ian 此前每周花 1—2 天整合营销指标报告,现在通过 Claude Cowork 的定时任务(每周日自动读取上周报告、会议记录、Slack 和数据仓库)生成初始报告,经他审核后由 Claude 扩展细节并产出领导层幻灯片,流程缩至最多 2 小时。Annabel 曾手动在 Salesforce、HubSpot、Swoogo 等平台逐一搭建活动,现由 Claude Cowork 的派遣技能每小时读取请求频道,分发给五个专业技能自动处理最复杂的事件构建。人类验证已成为工作流核心环节。
Claude Code 提供模型(model)和努力级别(effort)两种设置。模型选择决定能力范围,更大模型(如 Claude Fable 5)在基准上优于 Claude Sonnet。努力级别不单是思考时间,还控制读取文件数、验证步骤及多步任务的推进深度。较高努力下 Claude 会自行读取文件、运行测试并复核;较低努力则更倾向请求用户提供上下文。若 Claude 已掌握上下文但仍出错,应换更强大模型;若因跳读文件或未运行测试而出错,则应提高努力级别。
Claude Fable是第一款要求用户主动澄清未知才能获得高质量工作的模型。与Claude Fable协作是一个在实现前后迭代发现未知的过程。通过将问题分解为已知的已知、已知的未知、未知的已知和未知的未知四类,用户可以借助Claude Fable和Claude Code进行盲点检查、头脑风暴、原型设计、实现笔记记录以及答辩解释,从而高效挖掘并解决深藏于代码库和设计与实现中的潜在问题。
推荐理由:Anthropic 官方分享的 Claude Fable 协作方法论,把「发现未知」拆成盲点扫描、原型、面试等可操作步骤,如果你用 Claude Code 但常觉得代理跑偏,这篇是必读实践指南。
分布式 AI 训练常因单台机器故障导致整个多节点作业崩溃,需耗时重启。Google 的 JAX 生态通过 Pathways 实现弹性训练,将硬件故障转化为可捕获的 Python 异常,使运行进程存活。测试中,训练中途终止一个 TPU 后,系统自动替换损坏的节点、从 Cloud Storage 恢复最新检查点并原地恢复训练,总停机时间低于 2 分钟,主控制器进程全程无需重启。
Modal 发布交互式成本模型工具,帮助团队估算 serverless GPU 与预留 GPU 的成本并附定价方法解析。模型用峰值均值比对比两种模式,称预留折扣通常为 2-5x,而推理、训练和 agentic 开发等负载的峰均比常达 5:1 至 10:1,此时 serverless 总成本更低;文中还讨论了需求预测、弹性伸缩和混合策略等模型假设的局限。
Runway 开发了名为 deckard 的容量控制器,在生产推理集群与研究集群间动态重分配 GPU。生产流量在北美工作日上午 9 点 ET 达峰,晚 8 点 ET 跌至不足一半。控制器基于预计算的时间窗口(如工作日 8:30–12:30 ET 高峰子窗口)提前扩容和回收,每次集群间转移耗时 20–60 分钟。利用排队论(Erlang‑C、Little's Law)确定目标利用率,避免接近 85% 后的队列发散(90% 利用率下等待时间约为服务时间的 10 倍)。此方案使夜间闲置 GPU 回归研究、白天排队等待缩短。
SGLang团队将LLM服务、分布式运行时、GPU内核、扩散管道等工作流编码为可执行的SKILL.md文件、脚本、基准合约和审查循环。现有技能包括:SGLang .claude/skills(CUDA调试、内核集成、性能分析等)、SGLang diffusion .claude/skills(扩散模型添加与调优)、BBuf/AI-Infra-Auto-Driven-SKILLS(跨框架SOTA循环)、KDA(MLSys 2026 FlashInfer内核竞赛获胜方案)以及BBuf/KDA-Pilot(已合并三个SGLang集成PR)。Profile证据是性能工作的核心,长期优化转向Loop Engineering——SGLang SOTA Performance Loop将追求SOTA分解为公平基准测试、差距决策、性能分析、补丁和再验证,Humanize/RLCR添加外部审查,Codex Goal以更低协调开销运行相同循环。评审重要性提升,开发者需定义问题、选择证据、设计工作流并判断结果是否可用于生产。
推荐理由:这不是一篇普通的开发经验总结,而是 SGLang 团队把调试、基准测试和性能调优等重复劳动变成可执行 agent 技能的实操手册,对于做推理框架和复杂工程的人非常值得一看。
编码智能体(如 Claude Code、Cursor、Copilot)的账单容易失控翻倍。LangChain 提供了一套方案,帮助用户在单一平台追踪、比较和治理这些工具的支出,从而控制成本。
Deep Agents 通过动态子智能体和轻量级代码解释器实现递归语言模型(RLM),让智能体以编程方式对大型输入执行 grep、map、reduce 等操作,而非将所有内容塞入单一上下文窗口。在长上下文推理基准 OOLONG 上,该方案在逐轮交互式智能体开始失效的场景中仍能保持稳定表现。
Claude Code 团队将智能体循环定义为 agent 重复工作直到满足停止条件的过程,并划分出四种主要类型:turn-based 循环(用户提示触发,Claude 自行判断完成或需更多上下文)、goal-based 循环(通过 `/goal` 命令设定可验证完成标准与最大轮次)、time-based 循环(通过 `/loop` 按时间间隔重复执行,可用 `/schedule` 移至云端)、以及 proactive 循环(基于事件或计划自动运行,无人实时参与)。文章还介绍了如何编写 SKILL.md 文件将人工验证步骤编码,让 Claude 进行端到端自检,减少 turn-based 循环中的手动操作。
推荐理由:Anthropic把agentic loops从模糊概念变成四种可复制的模式,附带SKILL.md和命令示例,Claude Code用户读完就能设计更自主的编码流程。
OpenAI 推出 GeneBench-Pro 生物医学基准测试,包含 10 个案例研究。每个案例提供原始提示词、数据集和支持材料,覆盖体细胞肿瘤学(结构变异指导的肿瘤治疗获益-风险决策)、功能基因组学(CRISPR 靶点验证:lncRNA 转录本或基因组位点)和统计遗传学(连锁遗传位点中蛋白质药物靶点优先排序)等方向,要求模型输出 JSON 格式分析结果。
LangChain 与 Harbor 联合推出面向长时间运行、有状态 AI 智能体的统一评估栈。该方案整合了 Deep Agents 运行器、LangSmith 沙盒与可观测性工具,支持对复杂智能体行为进行端到端测试与调试。
LangChain 为 Deep Agents 设计了一种无需完整沙箱即可运行不可信代码的方案,核心采用 WASM 与 QuickJS 实现进程内隔离,并通过最小权限能力模型控制资源访问。该方案还引入基于快照的持久化暂停机制,使智能体可在暂停后恢复执行状态,兼顾安全性与运行效率。
LangChain 发文分析一种正在兴起的 wiki memory 模式:用 Agent 把原始数据压缩成持久、结构化、可检查的文件知识层,供后续 Agent 更快理解领域。文章指出其区别于 RAG 的查询时检索,并举例 DeepWiki、Karpathy 的 LLM Wiki 和 Factory 的 AutoWiki,认为文件是最简单可用的长期记忆载体,但不适合短期会话状态或用户偏好。
LangChain 发布了一份面向 AI 智能体评估的实用检查清单,涵盖错误分析、数据集构建、评分器设计、离线与在线评估以及生产就绪等环节。该清单旨在帮助开发者系统性地验证智能体在真实场景中的表现,降低部署风险。
推荐理由:如果你在做 Agent 评估,这份检查清单把评估从“随机测试”变成了结构化流程,从错误分析到生产就绪都有覆盖,可以直接对照执行。
LangChain 提出评估 AI 智能体技能的最佳实践,核心是通过定义具体任务、衡量性能指标来加速迭代。该实践依赖 LangSmith 的可观测性与评估功能,帮助开发者更高效地优化智能体行为。
LangSmith 新增 Pairwise Evaluations(成对评估)功能,允许开发者并排比较两个 LLM 输出(如不同模型或提示词版本),通过人工或自动评分选出更优结果。该功能集成在 LangSmith 评估工作流中,可帮助团队在开发阶段系统性地优化模型响应质量。
Candidly 团队在 LangChain 博客发文,介绍其 AI 财务规划师 Cait 如何用 IO-HMM 从对话轨迹逐轮推断用户参与状态,并将状态接入响应策略实现会话内干预。模型基于轨迹特征以 0.90 AUC 预测对话解决或放弃,恢复出四种参与状态,策略将 Disengaging 状态占比从 23% 降至 11%;文中还展示了该评估作为控制信号的方法如何推广到编码 Agent 等场景。
OpenAI 发布 planttalk 构建指南,让植物拥有声音。 主推文评论:和植物对话不再奇怪,只需 codex 即可。
Our plants are chatty. Yours can be too. Give your plants a voice with our build guide: https://github.com/openai/planttalk
LangChain 发布 cookbook,展示用 Perplexity Agent API、LangGraph 和 LangSmith 构建一个约 90 秒、约 $0.40 API 成本生成投资备忘录初稿的研究 Agent,每个论断可溯源到一手来源。
推荐理由:原文给出可复用的并行研究 Agent 架构和供应商评测方法,读者可迁移到自己的引用溯源型工作流。
Meta 在 Privacy-Aware Infrastructure (PAI) 的资产分类中采用混合模式:先构建含代码、血缘、语义标注的上下文证据,再调用 LLM 处理歧义、冷启动和新颖资产;人工审核标签与模型推荐严格隔离。LLM 不直接做生产决策,其稳定行为被蒸馏为版本化确定性规则用于生产执行,LLM 角色随规则积累逐步缩小。核心原则:上下文比提示词更重要、解耦评估与优化、将稳定行为规则化。
LangChain 提出一个四阶段 AI 智能体开发生命周期:构建、测试、部署与监控,帮助工程团队可靠且可重复地交付智能体。该框架涵盖评估(evals)、运行时、可观测性(observability)及规模化治理(governance)等关键环节。
OpenRouter 的零数据留存(ZDR)保证用户提示词和模型响应不被存储,元数据一般安全。自 1 月以来新增 97 款支持 ZDR 的模型,月度 token 量增长 4.3 倍,约占全部路由流量一半。ZDR 在三个层面执行:账户级(整个供应商开启)、护栏级(按 API Key 或组织成员限定)、单次请求级(传参数仅路由至 ZDR 端点)。企业用户可灵活选择控制粒度,避免锁定单一供应商。
推荐理由:ZDR 远不止“不存数据”这么简单,提示、响应、缓存的区分很多人没搞清楚。OpenRouter 的三层执行算是把自由度给足了,做合规服务的人可以仔细看看。
Anthropic 推出 Claude Tag,支持多用户与同一 AI 智能体在同一工作空间协作。智能体具备持久记忆、独立于人类的凭证及广泛信息访问权限。经验:工作公开化并给予智能体广泛上下文,通过工作区级安全边界让信息对人和 AI 均可用;为每位成员(含 AI)分配明确角色与相应工具。用户可通过 @Claude 私信进行敏感交互,对话保持私密。该方法已在 Slack 等团队协作工具中实践,旨在使人类与智能体高效协作完成共享目标。
推荐理由:Anthropic 内部总结的四个教训——公开透明、明确角色、设北极星、逐步信任,对正在探索人机协作团队的管理者来说,比产品手册更实用。
LangChain 发布了一份关于 AI 智能体记忆构建的实用指南,涵盖短期记忆、长期记忆与追踪分析。指南介绍了如何通过 LangSmith 帮助智能体在多次运行间持续改进,并重点讨论了短期记忆(如对话上下文)与长期记忆(如用户偏好存储)的实现方法。该指南为开发者提供了在 LangChain 框架中集成记忆模块的具体技术路径。
推荐理由:LangChain官方出的代理记忆实践指南,把短期/长期记忆和trace分析讲透了,用LangSmith复盘的方法可以直接落地,做agent的值得存一份。
Cohere Labs 发布一套用 AI coding agent 自动化 fork 维护的闭环方法,把同步上游发布的时间从数周压缩到数天,人类只需审查结果。