#部署/工程

Gemini 2.5 Flash API：定价、快速入门与提供商对比

Gemini 2.5 Flash API 的定价与快速入门指南，指导用户配置 thinking budgets、比较不同提供商，并在 5 分钟内完成首次 API 调用。

对抗前沿网络模型：Cloudflare 作为“客户零”的架构实践

Cloudflare 在 Project Glasswing 一文中提出，漏洞周围的架构比补丁速度更重要。本文详细阐述了这一架构的设计、它防御的威胁类型，以及 Cloudflare 如何以自家产品作为“客户零”（customer zero）来实际运行这套防御体系。

vLLM 社区发布 RL 后训练框架 vime，连接 Megatron 与 vLLM

vLLM 社区发布开源 RL 后训练框架 vime，基于 slime 训练栈，将 Megatron 训练与 vLLM 推理 rollout 接入统一管线，采用 Apache 2.0 协议。

小米 MiMo-v2.5-Pro-UltraSpeed 发布：1T 参数模型，每秒 1000 token

小米在 6 月 8 日发布 MiMo-v2.5-Pro-UltraSpeed 模型，拥有 1T 参数规模，推理速度达到每秒 1000 个 token。该模型来自小米旗下的 mimo.xiaomi.com 项目。

OpenRouter Agent SDK 推出 HITL 工具：满足 EU AI Act、Colorado ADMT 与 NIST AI RMF 合规要求

OpenRouter 的 Agent SDK 新增人类参与循环（HITL）工具，用于 AI 智能体的合规监督。该工具可帮助 AI 智能体满足欧盟 AI 法案、科罗拉多州自动化决策技术法（SB26-189）以及 NIST AI 风险框架（NIST AI RMF）的监管要求。

Claude Code v2.1.166 发布

Claude Code v2.1.166 新增 fallbackModel 设置，最多配置三个后备模型在主模型过载或不可用时按序尝试；--fallback-model 现也适用于交互会话。deny rule 中工具名位置支持 glob 模式（"*"拒绝所有工具），未知工具名启动时警告。跨会话消息中继不再携带用户权限，接收方拒绝被中继的权限请求。MAX_THINKING_TOKENS=0、--thinking disabled 及逐模型 thinking 开关可禁用默认开启思考的模型（仅 Claude API，第三方不变）。API 返回非预期不可重试错误时，在后备模型上重试一次。修复了图像处理失败、远程会话卡死、JetBrains IDE 终端闪烁、Kitty 键盘协议下 Shift+非 ASCII 字符丢失、PowerShell 命令验证挂起、macOS 后台进程孤儿化等问题。

Google Colab CLI 发布

Google 推出 Colab 命令行界面（CLI），允许开发者和 AI 智能体将本地终端连接到远程 Colab 运行时，实现无摩擦执行。该轻量级 CLI 支持请求高性能 GPU、远程运行本地 Python 脚本，并检索工件日志或模型（如微调后的 Gemma 3 适配器）。工具可直接集成到标准终端环境，可被 Antigravity、Claude Code 等 AI 智能体调用以管理复杂机器学习流水线。

你的AI账单失控了。Cloudflare现在可以解决这个问题。

Cloudflare AI Gateway新增实时消费限制功能，防止跨多个AI提供商的token账单失控。通过与Cloudflare Access集成，企业可以使用基于身份的预算和策略管理AI使用成本。

vLLM Semantic Router v0.3 Themis 发布，走向有状态的生产级语义路由

vLLM Semantic Router 团队发布 v0.3 版本（代号 Themis），引入统一的 v0.3 配置契约和首个生产就绪的会话感知智能体路由（SAAR），并新增投影（projections）机制把信号证据转化为稳定策略概念。

Claude API 将于 2026 年 8 月 5 日停用 Opus 4.1，推荐迁移至 Opus 4.8

Anthropic 宣布弃用 Claude Opus 4.1 模型（`claude-opus-4-1-20250805`），该模型将于 2026 年 8 月 5 日在 Claude API 上正式退役。官方建议用户迁移至 Claude Opus 4.8。

Boson AI 与 LMSYS 发布基于 SGLang-Omni 的 Higgs Audio v3 TTS 端到端服务

Boson AI 与 LMSYS 联合推出基于 SGLang-Omni 推理框架的 Higgs Audio v3 TTS 端到端服务。该模型约 4B 参数，基于 Qwen3-4B 骨干，支持 100 种语言（内部评测覆盖 111 种），在 Seed-TTS、CV3、MiniMax-Multilingual 及 Higgs-Multilingual 零样本语音克隆任务中达到单字级 WER/CER。开发者可通过文本内控制标签实时调整情感（20+种）、风格、韵律（语速/音高/停顿）及音效。模型支持流式合成，文本未完整时即可开始生成语音并保持一致性。SGLang-Omni 专为多阶段生成模型设计，统一调度 AR 解码与轻量计算，实现低延迟推理。

NVIDIA 发布开源推理模型 Nemotron 3 Ultra，vLLM 提供 Day-0 支持

NVIDIA 发布开源模型 Nemotron 3 Ultra，采用 Hybrid Transformer-Mamba MoE 架构，总参数 550B、激活 55B，上下文最长 1M token，主打长时程自主智能体工作流，vLLM 提供 Day-0 支持。

Harmonic 如何用 Deep Agents 重建 Scout，留存率提升 4 倍

Harmonic 用 Deep Agents 和 LangSmith 重建了 AI 投资助手 Scout，产品迭代周期从数月缩短到数天，留存率提升 4 倍。Scout V2 采用单一前沿模型加两类工具（查询 4000 万家公司、2 亿人、23 万投资者的数据层，以及公司专属 CRM 与邮件上下文），取代了 V1 的多子图架构。

介绍 Claude Partner Network 的 Services Track 和 Partner Hub

Anthropic 扩展 Claude Partner Network，推出 Services Track 分级体系和 Partner Hub 门户。Services Track 设 Select、Preferred、Global Premier 三级，按认证人数、投产客户数及客户推荐信量化评定。Partner Hub 提供每日更新仪表盘和公开目录，方便合作伙伴查看进展、客户寻找供应商。该网络三月启动以来已有超 4 万家公司申请，逾 1 万顾问获认证；Accenture 训练 3 万人，Cognizant 部署约 35 万员工，Deloitte 惠及 47 万人，KPMG 覆盖 27.6 万，Infosys 构建行业智能体，PwC 先在美推广再扩至全球。

vLLM 与 DeepLearning.AI 推出免费课程《Fast & Efficient LLM Inference with vLLM》

vLLM 与 Red Hat、Andrew Ng 的 DeepLearning.AI 联合推出免费课程《Fast & Efficient LLM Inference with vLLM》，约 1.5 小时，含 9 节视频和 3 个 JupyterLab 动手实验。

微软：企业成功的关键在于围绕AI构建集成智能体平台

微软认为，企业成功的关键在于围绕AI构建一个集成的智能体平台，而非仅拥有强大模型。该平台需遵循三大原则：单一集成系统、安全与治理内建、持续改进。微软正构建一个支持多种模型、以开发者为中心的开放平台，让智能体在软件交付、支持、财务等职能中执行长期工作。

Tibo@thsottiaux· 02:34精选AI 评分6767

Codex 日常工作使用中新增大量实用功能。 如果你使用商业计划，现在可以托管和分享网站，我们推出了大幅改进的插件和技能以适应广泛的角色，并且你可以在文档、幻灯片、表格等中通过视觉注释向你的智能体提供反馈。

Claude Code团队实践：智能体编程如何重塑工程组织与流程

在Code w/ Claude SF 2026活动上，Claude Code工程团队分享了将智能体编程设为默认工作方式后带来的流程与结构变革。核心变化包括：规划转向即时（JIT）模式，强调快速原型与反馈；上下文收集变为“先问Claude”；代码审查中Claude处理风格与测试，人工专注于法律、安全等专业判断。新范式下，工程瓶颈从编写代码转向验证、审查与安全维护。

Codex 赋能每一种角色、工具和工作流

OpenAI 的 Codex 新增了插件、站点和注释等功能。这些新功能旨在帮助分析师、营销人员、设计师、投资者等各类团队，利用 AI 完成更多工作。Codex 进一步拓展其作为 AI 编码工具的应用场景，以支持更广泛的角色、集成更多工具并优化现有工作流。

Microsoft AI 阐述健康领域价值观实践，将与 Mayo Clinic 共建医疗前沿模型

Microsoft AI 发文阐述其在健康领域的价值观如何落实为产品与工程实践，称其消费级产品每天处理数千万条健康问题。

蚂蚁 inclusionAI 发布 Ling-2.6-flash-base 基础模型

Ling-2.6-flash-base 是蚂蚁 inclusionAI 发布的基础模型，采用闪速规模 MoE 与混合线性注意力架构（7:1 融合 Lightning Attention 与 MLA），总参数量约 104B、激活约 7.4B。模型从 Ling-2.0 检查点改造而来，经约 9.6T token 的迁移预训练、继续预训练和中段训练，上下文窗口从 4K 扩展至 256K。在知识、推理、数学、代码和长上下文基准上相比前代均有提升（如 MMLU 84.13，GSM8K 91.89）。该模型面向研究用途开放，支持继续预训练、微调和蒸馏，未经聊天对齐。

OpenRouter 5月发布亮点

OpenRouter 发布5月更新，推出语音与转录API、模型融合（Model Fusion）功能，并为平台添加了私有模型和企业工作区管控能力。此次更新共上线20个新模型，其中包括 Gemini 3.5 Flash 和 Claude Opus 4.8。

Tibo@thsottiaux· 11:03AI 评分6868

OpenAI宣布其前沿模型与Codex现已在Amazon Bedrock上全面可用，为企业提供了通过现有安全、合规与治理工作流使用OpenAI的新途径。此举标志着OpenAI能力在AWS上的更广泛扩展的开端，未来将纳入如Daybreak等网络安全功能。

AutoRound 量化方案集成进 vLLM-Omni，支持多模态与视频扩散模型 W4A16 推理

Intel AutoRound 量化算法现已完整集成到 vLLM-Omni，提供量化一次、直接部署的 W4A16 工作流，覆盖 Omni 多模态、扩散图像和视频生成管线。

Together AI 解析如何高效服务 MiniMax M3：1M token 上下文与多模态推理优化

Together AI 作为 MiniMax M3 的首选云合作伙伴，介绍了为该模型提供生产级推理服务的工程方案。M3 采用 MiniMax Sparse Attention 块稀疏注意力，使 prefilling 提速超 9x、decoding 提速超 15x，支持 1M token 上下文与原生多模态。

OpenAI前沿模型与Codex现可在AWS上使用

OpenAI的前沿模型与Codex现已在AWS上全面可用。企业客户可通过其现有的AWS环境、控制与采购流程来使用OpenAI的AI技术，从而加速从评估到生产部署的过程。

OpenAI在密歇根州启动Stargate 1GW数据中心建设

OpenAI在密歇根州启动了名为Stargate的1GW数据中心项目。作为AI基础设施建设的一部分，该项目旨在扩大人工智能技术的可及性、为当地创造就业机会并支持社区发展。

vLLM 在 NVIDIA DGX Spark 上的架构、配置与本地评测实践

Inferact 团队发布长文，讲解如何在 NVIDIA DGX Spark（GB10，128 GB 统一内存）上用 vLLM 本地部署 Nemotron-3-Super-120B-A12B-NVFP4。

OpenRouter 五月发布亮点：语音API、模型融合、企业控制及20个新模型上架

OpenRouter 推出语音与转录 API、模型融合（Model Fusion）、私有模型部署和企业级工作空间控制功能。平台同时新增 20 个模型，其中包括 Gemini 3.5 Flash 和 Claude Opus 4.8。语音 API 支持实时语音识别与合成，模型融合允许用户组合多个模型的输出结果。企业工作空间提供更细粒度的权限管理与审计日志。

OpenRouter 5月发布亮点：语音与转录API、模型融合及20款新模型

OpenRouter 发布5月更新，推出语音与转录API、模型融合功能、私有模型支持和企业工作区控制，并新增20款模型，包括Gemini 3.5 Flash和Claude Opus 4.8。

Guardrails：保护你的智能体、数据与成本

Guardrails 是一套可配置的安全与治理工具，提供预算执行、零数据保留、模型与提供商限制、提示词注入防御及数据丢失预防等功能，旨在保护智能体（Agents）、数据与控制成本。

Claude Platform on AWS 新增 Managed Agents webhooks、多智能体编排与自托管沙箱

Claude Platform on AWS 现已支持 Managed Agents webhooks、多智能体编排和自托管沙箱。新增了 IAM 操作及 `AnthropicSelfHostedEnvironmentAccess` 托管策略，用于在 AWS 上管理 Claude 智能体的触发、协作与安全执行环境。

SGLang 团队与 AMD 合作，使 AMD Instinct™ MI355X GPU 的大规模 DeepSeek-R1 分离式推理在总拥有成本上具备竞争力

SGLang 与 AMD 团队合作，通过一系列全栈优化，使 AMD Instinct™ MI355X GPU 在运行 DeepSeek-R1 大模型推理时实现了极具竞争力的总拥有成本。在 129 tok/s/user 的交互延迟下，其成本为每百万 token $0.169，比 NVIDIA B200（Dynamo TRT-LLM）方案低 5%，比 B200（SGLang）方案低 40%。吞吐量方面，24 块 AMD GPU 达到 2,436 tok/s/GPU，比使用 48 块 GPU 的 B200 SGLang 方案每 GPU 吞吐量高 1.25 倍。核心优化包括：MoRI 混合 FP4/FP8 量化全到全通信、MoRI-IO KV Cache 后端、两批重叠与 SDMA、ROCm 上的 Specv2 MTP 以及 CPU 流式处理优化。

Cognition 详解 Devin 如何用云端 computer use 自主测试代码改动

Cognition 发布长文，详解 Devin 的端到端云端自主测试机制。Devin 进入测试模式后先写基于源码的测试计划，再用截图、点击、键盘等 computer use 工具操作应用验证改动，并返回带章节和断言结果的测试报告与视频；团队还用确定性脚本处理登录等重复步骤，并把测试模式计费降为正常用量的 1/5。

LMSYS与Intel合作通过异构CPU+GPU EPD架构提升视觉语言模型服务性能

LMSYS团队（Intel与SGLang）通过Dynamo和SGLang框架，为视觉语言模型（VLM）启用了异构编码-预填充-解耦（EPD）架构。该方案将视觉编码任务从GPU卸载至CPU（如Intel Xeon 6747P），与GPU协同工作。在Qwen3-VL-8B-Instruct模型的测试中，采用4 CPU + 1 GPU作为编码器、4 GPU作为预填充解码器（能力比R=12）的配置，在ISL/OSL 128/256、1080p 8张图像的负载下，实现了P99 TTFT和请求吞吐量约1.2倍至1.3倍的提升，并将P99 TPOT降低了约1.3倍至30倍。

OpenRouter 完成 1.13 亿美元 B 轮融资

OpenRouter 完成 1.13 亿美元 B 轮融资，由 CapitalG 领投，多家机构跟投，现有投资者 Andreessen Horowitz 和 Menlo Ventures 继续参与。

OpenRouter 完成 1.13 亿美元 B 轮融资

OpenRouter 宣布获得 1.13 亿美元 B 轮融资，由 CapitalG 领投，NVentures、ServiceNow Ventures 等多家机构参投，现有投资者 Andreessen Horowitz 和 Menlo Ventures 继续跟投。

我们如何构建Cloudflare的数据平台及其上的AI智能体

Cloudflare构建了名为Town Lake的统一分析平台，并基于此开发了内部AI智能体Skipper。

Mistral 发布开源 Search Toolkit 公开预览版，统一搜索管道的摄入、检索与评估

Mistral AI 于 5 月 28 日发布 Search Toolkit 公开预览版，一个用于构建 AI 应用生产级搜索管道的开源组合式框架，把摄入、检索和评估纳入统一接口，可部署在云端、本地或边缘。

Mistral 发布工业工程 AI 栈，携手 Airbus、BMW、ASML，Vibe 智能体升级

Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产，并确保数据安全。其智能体工具 Vibe 升级为可处理长周期任务的统一智能体，覆盖编码、深度研究与流程编排。位于法国 Les Ulis 的 10 MW 推理数据中心计划于 2026 年 Q3 启用。