#部署/工程

Browser Run：现基于 Cloudflare Containers 运行，速度更快、扩展性更强

Browser Run 产品已基于 Cloudflare Containers 完成重构，实现了使用限制提升、性能加速、可靠性增强以及交付速度提高。此次重构使产品能够更高效地处理大规模并发任务，显著缩短了任务响应时间，并提升了服务稳定性。团队通过容器化技术优化了资源调度与隔离机制，从而为用户提供更快速、更可扩展的浏览器自动化服务。

Claude Platform 发布缓存诊断功能（公开 Beta）

Claude Platform 推出缓存诊断公开 Beta 版。开发者可在 Messages 请求中传入 `diagnostics.previous_message_id`，API 会返回 `cache_miss_reason`，说明提示词缓存前缀与上一轮对话的差异位置。使用该功能需在请求中添加 `cache-diagnosis-2026-04-07` Beta 标头。

v2.1.140 版本更新

本次更新包含多项错误修复与体验优化。核心改进包括：增强了Agent工具的`subagent_type`匹配逻辑，现对大小写和分隔符不敏感；修复了`/goal`命令在特定钩子设置下无响应的问题，现会显示明确提示；解决了Windows系统上因缺失可执行文件导致的周期性事件循环停滞。此外，还修正了后台服务启动、远程设置认证重试、托管市场更新策略持久化、`/loop`命令调度冗余以及`Read`工具参数验证等多个问题。插件系统现会对因配置冲突而被静默忽略的默认组件文件夹发出警告。

使用ADK构建可暂停、恢复且永不丢失上下文的长时运行AI智能体

本文探讨了如何从无状态聊天机器人升级为生产级AI智能体，以管理长达数天或数周的企业工作流程（如HR入职）。通过引入Agent Development Kit（ADK），其架构核心采用持久状态机和持久化会话存储，确保智能体在“空闲时间”或服务器重启时永不丢失上下文。系统利用事件驱动的Webhook和多智能体委托机制，实现在暂停期间“休眠”，并在唤醒后以高推理准确性恢复复杂任务，从而构建出具备韧性和可靠性的长时运行智能体系统。

Modal 详解如何实现真正的 Serverless GPU：冷启动从约 2 千秒降至约 50 秒

Modal 发文讲解其实现真正 Serverless GPU 的四项关键技术：云上 GPU 缓冲池、基于内容寻址多级缓存的懒加载自定义文件系统 ImageFS、CPU 内存快照恢复和 CUDA 上下文快照恢复，将推理服务副本启动从约 2000 秒降到约 50 秒。

Claude Platform 快速模式现支持 Opus 4.7

Claude Platform 的 Fast Mode（研究预览版）现已支持 Claude Opus 4.7。用户设置 `speed: "fast"` 及 `model: "claude-opus-4-7"` 并添加 `fast-mode-2026-02-01` beta header 即可获得更快的输出 token 生成速度，但需支付高级定价。

Anthropic在AWS上正式推出Claude平台

Anthropic公司正式在AWS上推出Claude平台，为AWS客户提供了通过其现有身份验证、账单及承诺消费抵扣使用完整Claude功能的新途径。该平台首次将全套Claude API功能引入AWS生态，新功能与原生API同日上线。平台包含Claude托管智能体、代码执行、文件API等多项核心功能，并支持最新模型。与Amazon Bedrock上的服务不同，此平台由Anthropic直接运营，数据在AWS边界外处理，适合需要完整平台体验的企业客户。服务将在多数AWS商业区域提供。

LlamaIndex 发布 LiteParse Server 可自托管文档解析服务

LlamaIndex 发布 liteparse-server，将 LiteParse 封装为可自托管的 HTTP 文档解析服务，支持 PDF、Word、PowerPoint、表格和图片，输出带 bounding box 的空间布局文本。

Prime Intellect 开源 renderers：面向 Agentic RL 的 token 级对话模板库

Prime Intellect 开源独立 Python 库 renderers，将对话模板变为可编程对象，支持将消息渲染为 token id、解析补全、按消息归因 token 以构造 loss mask，并通过 bridge_to_next_turn 在多轮 rollout 中逐字节保留已采样 token 流。

TensorZero 研究：即使非常嘈杂的 LLM 评估器也能可靠地排序 AI Agent

TensorZero 发文论证，LLM 评估器在单条输出上相关性低，但平均到足够多样本后仍能可靠区分不同 Agent 变体的优劣。

告别编写YAML：使用confingy配置机器学习系统

Runway开源了Python库confingy，旨在解决机器学习系统配置的长期痛点。该库允许开发者用纯Python代码（支持懒加载、类型检查和序列化）替代传统YAML配置文件，从而摆脱YAML作为图灵完备领域特定语言所带来的维护困境。confingy无需重构现有代码，即可满足跟踪构造函数参数、避免实例化昂贵对象（如大语言模型）等核心需求，有效改善了因复杂YAML配置导致的无法跳转定义、类型提示失效和重构困难等开发体验问题。

OpenAI 推出 DeployCo 以协助企业围绕智能构建业务

OpenAI 正式推出全新企业部署公司 DeployCo，旨在帮助各类组织将前沿人工智能技术投入实际生产，并转化为可衡量的商业影响。该举措标志着 OpenAI 进一步深入企业服务领域，专注于解决 AI 模型从测试到规模化部署的落地挑战，助力企业通过定制化部署方案提升运营效率与业务成果。

Together AI 解析 DeepSeek-V4：百万 token 上下文为何是推理系统工程问题

Together AI 发布文章解析 DeepSeek-V4 服务方案，认为其关键变化是架构层面将 1M token 上下文压缩问题转化为推理系统工程问题。

Claude Platform on AWS 发布

Anthropic 推出 Claude Platform on AWS，将 Claude API 部署在由 Anthropic 管理、可通过 AWS 访问的基础设施上，支持 AWS 账单和 IAM 身份验证。

Tibo@thsottiaux· 01:55AI 评分7272

你可以直接迁移东西

自适应并行推理：高效推理扩展的新范式

自适应并行推理是一种新范式，它让大语言模型能够自主决定何时分解任务、并行处理多少子任务以及如何协调结果，以应对序列推理中因探索路径增长而导致的延迟增加和“上下文腐化”问题。近期研究如ThreadWeaver和Multiverse通过动态控制并行线程，在数学与代码推理基准上取得了显著性能提升，同时大幅降低了延迟。这标志着从固定并行策略到自适应智能控制的转变，为复杂任务的推理提供了高效且可扩展的解决方案。

提升 GitHub Agentic Workflows 的 Token 使用效率

GitHub 发现运行于每个拉取请求的智能体工作流会累积高昂的 API 成本。团队通过监测自身生产工作流，定位了效率低下的环节，并构建了专门的智能体进行优化。这一举措旨在显著降低由大语言模型调用产生的 Token 消耗与相关费用，直接提升了工作流的经济性与运行效率。

Building for the future

Cloudflare向全球团队发送内部邮件，宣布公司迎来一个重大时刻。公司秉持透明度这一核心价值观，决定直接向外界同步这一关键信息。此举标志着Cloudflare在战略发展上迈出了重要一步，旨在为未来构建更坚实的基础。

SpecMD: 关于推测性专家预取的综合研究

研究团队开发了SpecMD，这是一个用于在各种硬件配置上对临时缓存策略进行基准测试的标准化框架。该研究聚焦于混合专家模型，这类模型虽然实现了稀疏专家激活，但需要专家缓存机制才能将稀疏性转化为实际性能提升。此前的研究提出了以硬件为中心的缓存策略，但不同缓存策略之间以及它们与不同硬件规格之间的相互作用尚不明确。SpecMD框架旨在填补这一理解空白，系统性地评估缓存策略的交互影响与硬件适配性。

通过自动安装系统引导Composer开发

团队开发了Composer自动安装系统，利用早期模型（如Composer 1.5）为强化学习训练自动配置可运行环境。该系统分两阶段工作：先由智能体设定成功环境的目标命令与描述，再由另一智能体执行具体配置，包括安装依赖、模拟缺失组件并进行测试。在一项针对区块链项目Celo的真实实验中，该系统成功处理了稀疏文档和复杂依赖。采用此方法后，Composer 2在环境设置基准测试中的得分从47.9%提升至61.7%，为后续训练提供了更优基础。

Claude托管智能体新增功能：梦想、成果与多智能体编排

Anthropic为其Claude托管智能体平台推出三项核心更新。“梦想”功能通过回顾会话历史提取模式，使智能体能够自我改进。“成果”功能允许开发者设定成功标准，智能体据此进行自我评估与修正，内部测试显示其显著提升了任务成功率和输出质量。“多智能体编排”功能支持主智能体将复杂任务分解，并分配给配备专用工具的子智能体并行处理。这些更新旨在以最小人工干预，增强智能体处理复杂任务的能力。

Claude使用限制提升及与SpaceX达成算力合作

Anthropic与SpaceX达成合作，获得其Colossus 1数据中心超300兆瓦（含逾22万块NVIDIA GPU）的算力。此举使Claude Code的Pro、Max等多档计划的五小时速率限制立即翻倍，并取消了高峰时段限流；Claude Opus的API速率也大幅提升。公司还公布了与亚马逊、谷歌、微软等科技巨头的一系列大规模算力协议，总投资额巨大。为满足企业客户的合规需求，算力扩张计划也将覆盖亚洲和欧洲地区。

Prime Intellect 正式发布智能体训练平台 Lab

Prime Intellect 宣布 Lab 结束 beta 并全面开放，这是一站式自我改进智能体训练平台，覆盖环境、托管训练与评估、adapter 部署和推理。

通过 MRC（多路径可靠连接）解锁大规模 AI 训练网络

OpenAI 发布了名为 MRC 的新型超级计算机网络协议，旨在提升大规模 AI 训练集群的韧性与性能。该协议通过开放计算项目公开，支持在数千个 GPU 间建立高效、可靠的多路径连接，能自动绕过故障链路，将网络有效带宽提升最高达 30%，同时显著降低训练作业因网络问题中断的概率。MRC 的设计目标是应对万卡级集群的复杂网络挑战，为下一代大模型训练提供基础设施支持。

Claude Platform 发布说明（2026年5月6日）

Claude Managed Agents 推出多智能体编排与 Outcomes 公测，并新增 MCP OAuth 凭据的 vault 凭据后台刷新、Webhooks 及会话/事件过滤排序功能。Dreams 功能以研究预览形式开放，可读取记忆存储与历史会话，生成去重并提炼新洞察的重组输出。

Stochastic KV Routing: 实现自适应深度方向的缓存共享

为降低大语言模型推理时KV缓存的高昂内存开销，研究提出了一种沿模型深度维度优化的新方法。该方法通过随机KV路由，在Transformer模型的各层之间动态共享KV缓存，而非每层保留完整独立缓存。实验表明，在保持模型质量基本不变的前提下，该方法能将KV缓存的内存占用减少高达50%，为降低大模型服务成本提供了与现有时间轴压缩、淘汰技术正交的新优化路径。

金融服务行业Claude部署指南发布

Anthropic发布金融服务行业Claude部署指南，详细介绍了Claude系列产品在金融研究、交易、承销、理赔及月末结算等场景的应用方案。指南包含产品矩阵、10个预置金融智能体模板（如招股书生成器、KYC筛查器等），并分享了AIG、澳大利亚联邦银行等机构的实践案例。同时，提供基础、试点、扩展三阶段实施路线图，旨在协助企业决策者与工程师规划AI落地路径，提升运营效率。

Augment Code 用 Cosmos 智能体团队解决 AI 代码评审瓶颈

Augment Code 基于其 Cosmos 平台把代码评审重构为由多个 Expert 组成的智能体流程，包含 PR Risk Analyzer、Deep Code Review、Pair Reviewer、PR Author 和 Memory Manager，低风险 PR 自动批准，人只在需要判断时介入。

金融与保险智能体解决方案

Anthropic发布了十个针对金融服务耗时任务的预置智能体模板，涵盖制作推介书、撰写信贷备忘录、KYC文件筛查及月末关账等。这些模板可作为Claude Cowork和Claude Code的插件，或作为Claude托管智能体的配置指南，帮助团队在数天内部署应用。Claude现通过Microsoft 365插件支持在Excel、PowerPoint等Office应用间无缝工作，并扩展了合作伙伴生态，新增数据连接器和MCP应用，使智能体能直接调用实时金融数据。这些更新与Claude Opus 4.7模型搭配效果最佳，该模型在金融任务上达到先进水平。

60倍速冷启动：将同级GPU视为权重服务器

Runway平台团队开发的NCCLBack系统，通过P2P权重传输将模型冷启动时间从数分钟缩短至数秒。其核心创新在于让新启动的GPU推理节点直接从集群内已加载权重的同级GPU获取模型参数，而非从云存储重复下载。该系统利用GPU互连（如InfiniBand、NVLink）高达200-400 Gbps的带宽，相比传统存储下载的2-10 Gbps实现了数量级提升。通过Redis协调与NCCL广播原语，NCCLBack确保了数据传输的效率和正确性，使得大规模集群部署新模型时，冷启动时间不随节点数量线性增长，基本保持恒定。

通过 Gemini API 中的 Webhooks 减少长时任务的摩擦与延迟

Gemini API 引入了事件驱动的 Webhook 功能，这是一种基于推送的通知系统。它旨在消除低效的轮询需求，为长时运行的任务（如文件处理或复杂推理）提供更优的解决方案。当任务完成时，系统会自动将结果推送到用户指定的端点，从而显著降低延迟并减少资源消耗，提升开发效率与响应速度。

Goodfire 发布论文解读：用 VPD 分解语言模型参数

Goodfire Research 发布论文《Interpreting Language Model Parameters》的解读，提出 Adversarial Parameter Decomposition（VPD）方法，将 67M 参数语言模型的权重矩阵分解为约 10,000 个可解释子组件。

PromptArmor 发布 OpenAI Codex 全平台安全配置指南

PromptArmor 发布 Codex 安全配置指南，核心风险是间接提示注入，其曾在 2026 年 4 月披露默认权限模式下无需用户交互即可窃取 Codex 完整敏感邮件的漏洞。

Zyphra 发布 Zyphra Inference：面向长上下文 Agent 工作负载的 AMD 优先推理云

Zyphra 发布 Zyphra Cloud 平台首个组件 Zyphra Inference，与 TensorWave 合作基于 AMD MI355X GPU 提供面向大 MoE 模型和长上下文 Agent 工作负载的推理服务，已支持 Kimi K2.6、DeepSeek V3.2 和 GLM 5.1，并将支持 DeepSeek V4-Pro。

Modal 用一个 Python 字典将 SGLang 多模态推理性能提升超 10%

Modal 通过缓存 CUDA IPC pool handle，将 SGLang 多模态推理的调度器开销大幅降低，改动已合入 SGLang v0.5.10。在 H100 上基准测试 Qwen2.5-VL-3B-Instruct，吞吐提升 16.2%，TTFT 均值下降 13.2%，TPOT 均值下降 17.2%。

Claude Platform 正式推出 Workload Identity Federation

Claude Platform 的 Workload Identity Federation 现已正式可用。该功能允许用户使用来自 AWS IAM、Google Cloud、GitHub Actions 等身份提供商的短期 OIDC 令牌认证 Claude API，替代长期静态 API 密钥。

Introducing Dynamic Workflows：可随租户流转的持久执行功能

Dynamic Workflows 是一个函数库，支持将持久执行实时路由至租户提供的代码。该库基于 Dynamic Workers 构建，使平台能够以近乎零闲置成本为数百万个独特工作流提供服务。它允许平台根据租户需求动态分配执行资源，实现了工作流与特定租户代码的即时绑定，大幅降低了多租户场景下的运营开销和资源浪费。

Kepler如何利用Claude为金融服务业构建可验证的AI平台

金融科技初创公司Kepler针对金融业高监管要求，构建了基于Claude AI的可验证研究平台。该平台核心是建立了“信任与验证层”，确保AI生成的每个数字都能精确溯源至原始文件的具体位置。团队通过基准测试发现，在处理复杂的多步骤财务查询时，Claude是唯一能始终保持计划连贯性、不丢失约束条件的模型。平台通过构建确定性执行环境、开发专用金融本体论，并采用多模型协作的工作流，最终实现了AI输出结果的可审计性，解决了金融从业者对AI产出的信任难题。

Claude Code 构建经验：提示缓存的优化实践

Claude Code 团队分享了大规模优化提示缓存的核心策略。提示缓存基于前缀匹配工作，能显著降低延迟与成本，高命中率还能支持更宽松的订阅速率限制。关键实践包括：将静态系统提示和工具定义置于提示词前端以最大化共享前缀；通过消息而非修改提示词来传递更新信息，避免缓存失效；在会话中不切换模型、不增删工具，以维持缓存前缀稳定。此外，针对工具过多或“计划模式”等场景，可通过发送轻量存根或设计专用工具来规避缓存失效，从而在复杂功能中持续利用缓存优势。

OpenRouter 推出 Response Caching：相同请求零成本缓存

OpenRouter 新增 Response Caching 头部，用于缓存完全相同的 API 请求，使后续请求的响应时间大幅缩短，且缓存调用完全免费。