跳到正文
只看一手#部署/工程
5月1日周五
  1. OpenRouter：Announcements59

    Response Caching：相同请求零成本

    新推出的 Response Caching 头部实现了 API 请求的缓存机制，完全相同的请求可获得缓存响应，响应时间大幅缩短至微乎其微的水平，且不会产生额外成本。该功能通过自动识别并复用已生成的响应，显著提升了重复请求的处理效率。

    推荐理由：OpenRouter 这次更新的响应缓存，直接让相同请求免费用，对频繁调用的场景是个省钱加速的好功能，用过 API 的人都能立刻明白它的价值。

4月30日周四
  1. Cursor Blog55

    持续优化智能体工具链：上下文演进与效果评估

    Cursor团队以构建软件产品的方式迭代优化其智能体工具链，核心围绕上下文窗口的演进。早期模型能力有限，工具链依赖大量静态上下文和防护机制；随着模型能力提升，团队已转向提供更多动态上下文获取方式并移除限制。评估改进效果采用线上线下结合：通过CursorBench等基准测试进行标准化质量评估，同时进行线上A/B测试，使用“代码保留率”和用户反馈语义分析衡量真实场景表现。团队持续监控并修复工具调用错误，以应对日益复杂的工具链状态。

    推荐理由：Cursor 这篇 agent harness 复盘是今年聊 agent 基础设施最好的文章之一，从上下文管理到多 agent 调度，全是实战迭代的血泪经验，做 agent 的团队该逐字读。

  3. OpenAI：官网动态74

    为智能时代构建计算基础设施：OpenAI 扩展 Stargate 以支撑 AGI 发展

    OpenAI 正在扩展其代号为“Stargate”的计算基础设施项目，旨在为通用人工智能（AGI）的研发提供核心算力支持。该项目通过增加新的数据中心容量，以应对全球范围内持续增长的 AI 算力需求。这一举措标志着 OpenAI 在构建下一代大规模计算集群方面进入实质性推进阶段，旨在为未来 AGI 系统所需的巨大计算资源打下硬件基础。

    推荐理由：这不是模型发布，但算力扩张才是 AGI 竞赛的真正底层，数据中心扩容直接关系到下一代模型能不能训出来，做基础设施的可以盯一下供应链。

  4. LMSYS Blog74

    秒级更新万亿参数——大规模分布式强化学习中的点对点权重传输技术

    LMSYS团队针对SGLang中的强化学习工作负载，提出了一种基于RDMA的点对点权重更新机制，作为传统NCCL广播方法的补充。该设计利用源端CPU引擎副本和Mooncake TransferEngine进行P2P RDMA传输，将拥有1T参数的Kimi-K2模型的权重传输时间从53秒大幅缩短至7.2秒，提速7倍。其代价是每个训练等级需在CPU内存中额外占用一个32G的推理引擎副本。此优化最大限度地减少了网络冗余，允许推理服务器更快恢复rollout过程，且兼容所有主流开源模型。

    推荐理由：LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P，1T 参数模型传输快了 7 倍，做大规模 RL infra 的团队该认真看看这个工程方案。

  5. Cloudflare Blog65

    Agents 现可创建 Cloudflare 账户、购买域名并部署

    Cloudflare 宣布 AI 代理现可作为独立客户直接使用其服务。代理能够自主创建 Cloudflare 账户、开通付费订阅、注册域名，并立即获取 API 令牌以部署代码。人类用户可保留授权监督权限，但无需手动操作控制台、复制粘贴 API 令牌或输入信用卡信息。这一更新使代理能够以自动化流程完成从账户开设到服务部署的全链路操作。

  6. Google Developers Blog57

    加速AI：通过GCSFS和Rapid Bucket将Google Colossus引入PyTorch

    Google Cloud推出了一项高性能集成方案，通过fsspec接口将Rapid Storage直接连接至PyTorch，以消除AI训练瓶颈。该方案利用Google的Colossus架构和双向gRPC流技术，可提供高达15 TiB/s的聚合吞吐量，并显著降低延迟。开发者仅需更新存储桶类型而无需修改代码，即可将总训练时间缩短23%。

    推荐理由：Google 把自家 Colossus 存储架构直接接进 PyTorch，号称零代码改动提速 23%，做大规模训练的团队值得评估一下，但对大多数人来说这更像 GCP 的护城河加固。

4月29日周三
  2. OpenRouter：Announcements60

    OpenRouter 推出 CLI 创建账户功能，集成 Stripe 计费

    运行 `stripe projects add openrouter/api` 即可从命令行创建 OpenRouter 账户、获取 API 密钥并配置 Stripe 计费。AI 智能体同样可自动化完成该操作，无需手动注册。

    推荐理由：OpenRouter 把注册和计费全塞进一条 CLI 命令，Stripe Projects 加持，agent 都能自己开户了，重度 API 玩家可以省点事，不过就一工具链缝合，不打开也知道。

  3. OpenRouter：Announcements65

    通过 Stripe Projects 命令行创建 OpenRouter 账户

    运行 `stripe projects add openrouter/api` 命令，即可直接从命令行创建 OpenRouter 账户、获取 API 密钥并开通 Stripe 计费功能。该操作支持自动化代理执行，实现了账户开通与支付配置的一站式集成。

    推荐理由：OpenRouter 把账户创建搬到了 CLI，你的 agent 也可以直接开号了，这对于需要自动化计费流程的开发者是个便利小更新，但普通用户几乎感受不到变化。

  4. Together AI 研究与产品博客73

    Together AI 上线 DeepSeek-V4 Pro，支持 512K 上下文

    Together AI 上线 DeepSeek-V4 Pro，Serverless 推理提供 512K token 上下文窗口，模型级支持 1M 上下文，可迁移至专用基础设施获得完整 1M 上下文与预留容量。

    推荐理由：原文给出架构、上下文窗口、推理模式和逐项定价，读者可据此评估该模型是否适合长上下文工作负载。

  5. Claude Code：GitHub Releases52

    版本v2.1.122更新摘要

    本次更新主要新增了通过环境变量选择Bedrock服务层级的功能，并支持在/resume搜索框粘贴PR链接以定位创建该PR的原始会话。同时修复了多项关键问题：修正了源会话含时间线回退条目时，/branch命令可能创建失败分支的问题；解决了发送给新版模型的图像被错误调整为2576px（应为2000px上限）的问题；增强了OpenTelemetry日志记录，确保数字属性以数值类型输出；并修复了Vertex AI/Bedrock在生成会话标题等场景下可能返回无效请求错误的问题。此外，还包含对MCP工具显示、CLI命令退出行为等多项细节的优化与修正。

  6. OpenAI：官网动态71

    OpenAI模型、Codex与托管智能体登陆AWS平台

    OpenAI的GPT系列模型、代码生成模型Codex以及托管智能体现已正式上线亚马逊云科技。企业用户可直接在AWS环境中集成并调用这些AI服务，基于自身云基础设施构建安全、可控的定制化人工智能应用。此次合作将OpenAI的前沿模型能力与企业级云环境的安全性和可扩展性相结合，为企业部署生成式AI与自动化智能体提供了新的平台选择。

    推荐理由：OpenAI 终于上了 AWS，这意味着大量被云锁定的企业不用再绕道 API，直接在自家环境里跑 GPT 和 Codex，对做企业级 AI 产品的人来说是个真信号。

4月28日周二
  2. Qwen：Blog Retrieval57

    FlashQLA: 面向GDN的CP-/Bwd友好型融合线性注意力内核

    FlashQLA 发布了一组专为梯度下降网络优化的融合线性注意力内核。新内核在设计上对计算模式和后向传播更加友好，旨在提升训练效率。该技术通过优化内核融合策略，改进了注意力机制的计算性能，是提升大规模模型训练速度的关键底层优化。

    推荐理由：Qwen 团队发了一篇 fused linear attention 内核的工程论文，目标是把 GDN 架构的推理和反向传播都跑快。做底层优化的工程师值得看一眼，普通开发者可以略过。

  3. Runway：News58

    无闲置GPU：Runway的研究计算管理

    Runway通过采用Kueue作为Kubernetes准入控制器，将GPU利用率提升超过20%，同时保障团队容量。其核心机制是为关键工作预留配额，并设立共享队列借用闲置容量，当配额所有者需要时通过抢占回收资源。该系统运行于昂贵的多租户GPU集群，支持多节点训练的拓扑感知调度和弹性工作负载。具体实现中，团队拥有专用预留队列，而默认队列作为共享机会池，可借用闲置配额运行可中断工作负载。当预留队列需资源时，Kueue基于优先级和运行时间抢占默认队列中的任务，实现资源高效管理。

    推荐理由：Runway 把 Kueue + Kubernetes 的 GPU 调度实战写成了保姆级工程笔记，利用率翻倍的方案和踩坑细节都有，做大规模训练集群调度的团队可以直接抄作业。

  4. Together AI 研究与产品博客54

    NVIDIA Nemotron 3 Nano Omni 上线 Together AI 平台

    Together AI 上线 NVIDIA Nemotron 3 Nano Omni 多模态模型，单一开源模型可统一推理视频、图像、音频和语言。该模型采用混合 Mamba-Transformer MoE 架构，总参数 30B、每 token 激活约 3B，支持最高 256K token 共享多模态上下文，开放权重、数据和后训练配方，支持 FP8 与 NVFP4 部署。

  5. CMU：Machine Learning Blog58

    介绍ARFBench：基于真实事件的时间序列问答基准

    每年系统故障导致损失超万亿美元，工程师需通过分析时间序列数据快速定位问题。时间序列问答（TSQA）是关键运维任务，对AI模型构成挑战。为此，研究团队推出ARFBench基准，基于Datadog真实内部事件及遥测数据构建。测试显示，当前领先的大型语言模型、视觉语言模型和时间序列基础模型在ARFBench上表现均有较大改进空间。团队提出混合TSFM-VLM模型，其整体性能接近前沿水平，为TSQA任务提供了新评估框架和改进方向。

    推荐理由：CMU 和 Datadog 联手搞了个基于真实事故的时序问答基准，结论很诚实，现有模型全拉胯。做 SRE Agent 的团队该看看，这比合成数据的 benchmark 有说服力得多。

4月27日周一
  1. GitHub Blog79

    GitHub Copilot 将转向基于使用量的计费模式

    自6月1日起，GitHub Copilot 的使用将开始消耗 GitHub AI Credits，计费模式正式从固定订阅制转变为基于实际使用量的计费。这一变化意味着用户的费用将与 AI 助手的具体调用量直接挂钩，而非统一的月费或年费。

    推荐理由：GitHub Copilot 从订阅制转向按量计费，这是 AI 编程工具定价范式的标志性拐点，所有重度用户和竞品都得重新算账。

  3. OpenRouter：Announcements57

    Opus 4.7新分词器对成本的实际影响

    Anthropic在Claude Opus 4.7版本中更新了分词器。通过对比4.6到4.7版本的实际使用数据，分析发现这一技术调整改变了文本转换为令牌的方式，直接影响API计价。相同的文本输入可能产生不同数量的令牌，从而导致用户的实际使用成本发生可量化的变化。这一调整虽不改变模型能力，但关乎运营开销，是开发者和企业用户需评估的关键因素。

    推荐理由：Opus 4.7 换了 tokenizer，大多数人只知道模型变强了，不知道计费逻辑也变了。OpenRouter 用真实流量数据算了一笔账，做成本预算的产品人值得扫一眼。

  4. Cognition 模型 / Devin 博客69

    Cognition 发布 Devin CLI：本地启动、可交接云端继续跑

    Cognition 发布 Devin CLI，一个可在本地终端运行、完整访问代码库和工具的编码 Agent，可选 Opus 4.7、GPT-5.5 和自家 SWE-1.6 等模型，并用 Rust 编写终端渲染库提升 UI 速度。

    推荐理由：官方介绍了本地终端 Agent 与云端会话交接的组合玩法，多智能体并行、沙箱隔离等差异点对编码工作流有直接参考。

4月26日周日
  1. LMSYS Blog54

    SGLang与Miles在发布首日为DeepSeek-V4提供全栈支持

    SGLang团队宣布，在DeepSeek-V4发布首日即通过SGLang推理引擎和Miles训练框架为其提供全栈支持。该开源技术栈针对DeepSeek-V4的混合稀疏注意力、流形约束超连接和FP4专家权重等新架构特性进行了系统优化。在推理侧，推出了ShadowRadix前缀缓存、HiSparse分层内存加速、多令牌预测推测解码等关键技术。在强化学习训练侧，Miles支持包括DP/TP/SP/EP/PP/CP在内的全并行策略、TileLang注意力及FP8训练，显著提升了训练稳定性。该技术栈支持多种主流硬件平台。

4月24日周五
  1. PromptArmor：Threat Intelligence69

    PromptArmor 解析 AI 应用连接器的间接提示词注入风险与审计方法

    PromptArmor 提出评估 AI 应用连接器风险的三支柱模型，不可信外部数据、敏感内部数据和下游动作，并呼应 Simon Willison 的 Lethal Trifecta，举例说明 Confluence 与 Zendesk 连接器组合可将内部文档经工单回复外泄。

    推荐理由：原文给出连接器风险的三支柱威胁模型和主流企业 AI 应用的具体配置路径，读者可据此审计自己环境中的连接器组合。

  3. OpenAI：官网动态58

    使用 Codex 工作指南

    文章提供了使用 Codex 的完整工作流程指引。内容包括如何设置 Codex 工作区、创建线程与项目、管理文件，以及通过分步指导开始完成任务。这些操作指南旨在帮助用户快速上手并高效利用 Codex 平台进行开发工作。

  4. Claude：Blog77

    Claude Managed Agents 的内置记忆功能

    Claude Managed Agents 推出内置记忆功能，现已进入公测阶段。该功能基于文件系统的记忆层，允许代理从每个会话中学习，优化跨会话性能。记忆以文件形式存储，开发者可通过API导出和管理，并拥有完全控制权，支持权限范围、审计日志和并发访问。实际应用中，Rakuten的代理减少97%首过错误；Wisedocs的文档验证流程加快30%；整体上，代理实现97%首过错误减少、成本降低27%和延迟降低34%。Netflix、Ando等团队利用该功能实现上下文跨会话传递和基础设施简化，提升代理的持续学习能力。

    推荐理由：Claude Managed Agents 的记忆功能把跨会话持续学习变为内置能力，Rakuten 等客户已实现 97% 错误减少，对做长期代理的团队是基础设施级更新。

4月23日周四
  1. Claude Platform：开发者版本说明63

    Claude Managed Agents 记忆功能进入公开 Beta 测试

    Claude Managed Agents 的记忆功能现已进入公开 Beta 测试，可通过标准 `managed-agents-2026-04-01` 请求头使用。该功能允许智能体在对话间保持上下文，具体集成指南见官方文档。

    推荐理由：Claude托管Agent的记忆功能进入公测，这步让Agent从一问一答走向有上下文记忆的长期助手，做复杂任务的开发者可以试试。

  2. Google Developers Blog59

    使用 LiteRT 与 NPU 构建现实世界中的设备端人工智能

    LiteRT 是一个生产就绪的框架，旨在帮助移动开发者充分发挥神经处理单元（NPU）的效能，以突破传统 CPU 或 GPU 在性能与电池续航上的瓶颈。该框架通过提供统一的 API 来屏蔽底层硬件复杂性，已成功助力 Google Meet、Epic Games 等行业领先者高效部署复杂的 AI 模型，实现实时视频处理、动画生成与语音识别等高级功能。此外，平台还提供基准测试工具并具备跨平台兼容性，能够支持 AI 应用无缝部署于移动设备、AI PC 及工业物联网硬件等多种终端。

    推荐理由：Google 把 LiteRT 从实验品推到生产级，统一 NPU 调用 API，做端侧 AI 的开发者终于不用逐家适配芯片了。虽然不是新概念，但 Google Meet 和 Epic Games 已经在用，说明不是 PPT。

  3. 蚂蚁百灵：Developer Blog67

    Ling-2.6-flash 发布：更快响应、更强执行、更高 Token Efficiency

    针对智能体任务中Token消耗快速增长的问题，Ling-2.6-flash模型正式发布。该模型采用混合线性架构等技术进行系统性优化，旨在实现更高推理效率和更低使用成本。其推理速度在4卡H20条件下最快可达340 tokens/s，在Artificial Analysis评测中仅消耗约对比模型1/10的Tokens。模型在多个Agent相关基准测试中达到同尺寸SOTA水平，保持了强大的任务执行与工具调用能力。

    推荐理由：蚂蚁百灵这次打的是「省 token」这张牌，104B 总参但只激活 7.4B，Agent 场景评测对齐同尺寸 SOTA，输出 token 消耗只有竞品的 1/10。做 Agent 产品、被推理成本卡脖子的团队值得认真看看这个路线。

  4. Cursor Blog41

    澳大利亚国民银行采用 Cursor 加速遗留系统现代化改造

    澳大利亚国民银行在评估多款AI编程助手后，将6000名开发人员统一迁移至Cursor。此举显著提升了开发效率，使遗留系统现代化项目进度比预期快了三倍，例如将一个单体架构重构为微服务。银行选择Cursor主要基于其模型灵活性、对复杂代码库的准确理解以及可扩展性。目前，NAB正将Cursor推广至技术部门超万名员工，并为不同职能设置了定制化培训路径，以全面提升组织生产力。

  5. Cognition 模型 / Devin 博客63

    Cognition 复盘两年构建 Devin 云智能体基础设施的经验

    Cognition 基于两年 Devin 开发经验复盘构建云智能体的两大投入：基础设施与组织变革。文章指出容器共享内核存在逃逸风险、无法在异步间隙可靠保存状态，其方案是 microVM 隔离和 hypervisor 级整机状态快照；编排层花了超过三个季度才能管理数千并发 VM。

    推荐理由：Cognition 以两年 Devin 建设经验拆解云智能体在隔离、状态快照和编排上的真实投入，并给出组织落地的具体路径。

4月22日周三
  1. OpenAI：官网动态

    OpenAI 推出 Privacy Filter

    OpenAI 发布 Privacy Filter，一款用于检测和脱敏文本中个人身份信息（PII）的开源权重模型。该模型在 PII 识别任务上达到业界领先的准确率，支持开发者本地部署和定制。作为开放权重模型，它可自动识别并编辑敏感个人信息，为企业数据隐私保护和合规处理提供高效的技术解决方案。

  3. Google Blog：AI

    Google 推出两款面向智能体时代的专用 TPU

    Google 发布第八代 TPU，内含两款面向智能体时代的专用芯片。新处理器专为 AI 未来发展设计，针对智能体工作负载进行专门优化，提供更强算力支持。作为 Google AI 基础设施的最新升级，该系列芯片将助力下一代智能体应用的开发与部署。

  4. OpenRouter：Announcements42

    OpenRouter 推出 Workspaces

    OpenRouter 推出 Workspaces 功能，允许用户将项目组织到独立环境中。每个环境自带独立的 API 密钥、路由默认设置、护栏（guardrails）和可观测性（observability）配置。