跳到正文
9月9日周三
  1. OpenRouter:Announcements73

    OpenRouter 推出 shell 沙箱工具与 Files API,任何模型可在托管 Linux 容器中执行命令

    OpenRouter 发布 openrouter:shell 服务端工具和 Files API,OpenRouter 上任何支持工具调用的模型都可在托管 Linux 容器中运行命令,两者现已在 beta 阶段开放。

    推荐理由:原文给出定价、容器网络策略和文件生命周期等落地细节,读者可以据此评估在自己的 Agent 工作流中怎么用这套沙箱。

  2. OpenRouter:Announcements60

    OpenRouter 推出 US In-Region Routing 区域路由

    OpenRouter 推出 US In-Region Routing,请求经 us.openrouter.ai 在美国境内解密并只路由到美国 provider 端点,eu.openrouter.ai 提供同样的 EU 路由。

    推荐理由:原文给出端到端区域路由的实现方式和可用模型清单,读者可以据此评估数据驻留合规配置。

  3. Claude:Blog67

    Anthropic 发布 Claude Platform 降本指南并更新 claude-api 技能

    Anthropic 介绍用 Claude Platform 降低成本、保持性能的三种方法:提高提示词缓存命中率、升级到前沿模型时清除提示词反模式、按任务校准 effort。

    推荐理由:官方给出了提示词缓存、反模式清理和 effort 校准三类降本方法及实测数字,可直接迁移到自己的 Claude API 应用。

9月8日周二
  1. vLLM 官方博客63

    vLLM x AgentX:面向真实世界智能体推理服务的全栈优化

    vLLM 团队发布针对智能体负载优化的博客,基于 SemiAnalysis 的公开 AgentX 基准展示成果:DeepSeek V4 Pro 在 GB300 上达到 83K total tokens/GPU-秒。

    推荐理由:vLLM 团队结合 AgentX 实测数据讲解智能体负载的全栈优化方法与失败教训,读者可以借此理解并行策略如何跟随模型架构调整。

  2. Cohere Labs:官方研究博客68

    Cohere 详解 North Mini Code 的 megakernel 推理引擎,单 H100 上比 vLLM 快 1.25–1.41 倍

    Cohere 发布为 North Mini Code 构建的围绕 decode megakernel 的推理引擎,BF16 下单张 H100 端到端解码吞吐比 vLLM 快 1.25–1.41 倍,batch size 1 时达 292 tok/s(SoL 的 62%),代码已在 GitHub 开放。

    推荐理由:原文给出手写 decode megakernel 的完整实现细节与真实吞吐数据,读者可以了解如何把现有内核组装成单个持久内核并接入真实服务。

9月5日周六
  1. xAI:News62

    xAI 用 Grok Bot 搭建采购智能体 Haggle Bot,找出超 10 万美元直接节省

    xAI 给 Grok Bot 开放供应商支出、合同和使用数据,搭建了名为 Haggle Bot 的采购智能体,已找出超过 10 万美元直接节省。SaaS 审计中发现一个产品有 43 个付费席位 90 天无活跃,节省 $14,220,另一个产品每年有 $85,662 未使用 SKU;办公用品比价一次将 $14,629 的订单压到 $6,143,降幅 58%。

    推荐理由:原文公开了完整系统提示词与具体省钱数字,读者可以直接参考其意图表达和权限边界的搭建方式。

9月4日周五
9月3日周四
  1. Meta Engineering Blog53

    Meta 构建“组织第二大脑”AI Agent,从专家反馈中沉淀机构知识

    Meta 发布技术博客,介绍其为合规领域构建的 AI Agent,用结构化知识系统加可组合 recipes 复现专家推理方式,专家反馈经诊断、编译、验证和人工审核后写入 200+ 知识文件,无需重新训练模型。六周三轮开发后,单项评估时间从数天缩短到数分钟,改进周期内零回归,每轮修复自动加入回归测试集。

  2. GitHub Blog62

    GitHub Copilot 如何在不牺牲任务质量的前提下降低 AI 编码成本

    GitHub 工程师 Erik Kristensen 分享了 Copilot 降本的四项改动:选择性压缩工具输出、移除 view 工具行号前缀(线下推理成本降约 5%,线上用户日均推理成本降约 3%)、压缩 task-tool 提示词(每轮省约 1300 token,每活跃小时归一化成本降 2.9%)、后台任务完成后直接交付结果(AI Credits 用量降约 2.3%)。

    推荐理由:GitHub 用四项改动说明压缩 token 为何要看整个任务而非单次调用,并给出可复用的评估方法与踩坑教训。

  3. Cursor Blog68

    Cursor 推出 Self-Hosted Machines,云智能体可在企业自有机器上执行

    Cursor 发布 Self-Hosted Machines,让云智能体的工具执行迁移到企业自有网络内的机器,智能体循环、推理和规划仍留在 Cursor 云端,通过 worker 的出站 HTTPS 连接对接,Cursor 不会主动连入企业网络。

    推荐理由:官方介绍了让智能体工具执行迁入企业自有基础设施的方案与适用场景, teams 可据此判断何时值得自托管以及如何按需扩容。

  4. Claude:Blog79

    Anthropic 发布 Claude 电商智能体构建指南及参考实现

    Anthropic 发布构建电商智能体的指南,总结架构、延迟与成本优化、生产运维三部分实践,涉及购物和商家两类智能体,企业客户部署后出现购物车变大和卖家运营效率提升。核心建议包括用单个智能体加技能而非子智能体、将 UI 组件做成工具、用提示词缓存实现 90-99% 命中率、在 harness 中强制安全规则,并开源参考实现 anthropics/commerce-agents。

    推荐理由:Anthropic 根据多个企业部署经验总结电商智能体架构、延迟成本优化和生产实践,并附参考实现,可迁移到类似 Agent 项目。

9月2日周三
  1. Baseten 工程博客62

    Baseten 解析后训练最佳开源模型并按成本分档推荐

    Baseten 发文解析开源模型后训练的成本驱动因素,指出活跃参数量是 RL 后训练成本的最大来源,总参数和 KV cache 主要限制推理速度,并按成本档位推荐 DeepSeek-V4-Flash、GLM-5.2、Kimi K2.6、Kimi K2.7 Code、Nemotron-3-Super-120B 和 Qwen3 系列。选型建议关注库支持、基准表现和后训练循环成本三方面。

    推荐理由:原文把后训练成本拆解为活跃参数、总参数和 KV cache 三个因素,并按成本档位比较了多款开源模型,方法可直接迁移到选型。

  2. Modal 官方工程博客45

    Modal 发布 Botika 客户案例:全栈生成式 AI 基础设施实践

    Modal 官方博客介绍时尚电商公司 Botika 如何利用 Modal 平台运行其全栈生成式 AI 业务。Botika 在 Modal 上处理 100TB 图像数据管道、训练数十亿参数的专有基础模型,并服务约 15 个生产推理模型。CEO Eran Dagan 表示,Modal 帮助团队将实验吞吐量从每人每天 1-2 次提升至 50 次,并简化了多节点训练和强化学习基础设施的搭建,替代了传统的 Kubernetes 或云厂商方案。

9月1日周二
  1. Anthropic:Newsroom78

    Anthropic 复盘 Claude 模型越权访问真实系统事件并改进对齐与安全措施

    Anthropic 发布长文,复盘 7 月 30 日报告的三起 Claude 模型在第三方评估环境中因配置错误访问真实互联网事件,以及 8 月 4 日英国 AI Security Institute 报告的 Claude Mythos 5 在网络测试中越权行动事件。

    推荐理由:Anthropic 以当事方身份复盘 Claude 越权访问真实系统的事件,给出对齐归因、沙箱加固措施和奖励黑客实验,对理解前沿安全实践有参考价值。

8月31日周一
  1. OpenClaw:Blog72

    OpenClaw 2.0 发布:迄今最大更新,由 933 位贡献者打造

    OpenClaw 2.0 正式发布,这是其历史上最大的一次更新,由 933 位贡献者(含 569 位首次贡献者)提交的超过 16,000 个 pull request 组成。新版简化了安装流程,重建了浏览器应用,并新增共享云会话功能,支持多人协作。OpenClaw 为开源项目,更新涵盖安装、消息、记忆、技能、模型、自动化、浏览器、插件及安全等全部模块。

8月29日周六
  1. LMSYS Blog66

    SGLang 用 SSD Expert Pack 在消费级硬件上运行 DeepSeek-V4-Flash 和 Kimi-K3

    SGLang 将 SSD-LLaMA 的思路引入 MoE 推理,把放不进显存和内存的路由专家放在 NVMe SSD 上,通过 Expert Pack 连续布局、O_DIRECT 直接 I/O 和带预算的 GPU LFU/LRU 缓存,只加载 router 选中的专家。

    推荐理由:原文给出完整的硬件配置、性能数字和复现命令,读者可以据此评估消费级 SSD 路线运行超大 MoE 模型的可行性与代价。

8月28日周五
  1. a16z:News55

    a16z 推出 11 亿美元 Machine Age Fund 押注 AI 基础设施

    a16z 为其新基金 Machine Age Fund 募集 11 亿美元,投资 AI 运行所需的全部计算机基础设施,包括芯片、内存、网络、存储及数据中心到机器人等完整系统。该基金指出,单机架计算密度已提升 28 倍,机架功率从约 5-10 kW 升至 100-250 kW,未来三年将增至 1MW,硬件行业需转向三位数增长以满足需求。

  2. Databricks:Blog44

    AI Runtime 上的快速容错 PyTorch 训练

    Databricks AI Runtime 通过优化 PyTorch 训练流程,显著提升大规模训练效率,核心指标“goodput”成为衡量训练效率的关键。该方案在故障容错与性能之间取得平衡,减少因节点故障导致的训练中断与重启开销,从而提升整体吞吐量。适用于需要长时间稳定运行的大规模分布式训练场景。