#部署/工程

Databricks 为 Lakebase Postgres 推出 Lakebase Search 向量与全文搜索

Databricks 发布 Lakebase Search，为 Lakebase Postgres 带来 lakebase_vector（可扩展近似最近邻搜索）和 lakebase_text（BM25 全文搜索）两个扩展，已在 AWS 和 Azure 正式可用。

Databricks 如何让 12000 名员工在模型发布首日用上新前沿模型

Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程，依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步：立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。

Meta 发布 Meta Enterprise Platform，MongoDB 前CEO CJ Desai 出任负责人

Meta 宣布启动新业务板块 Meta Enterprise Platform，帮助企业用 AI 实现增长和转型。初期将向企业和开发者开放全栈技术，包括 Muse agent、Meta Business Agent、Muse API 和 Muse Code。

Anthropic 介绍用 Claude Code 与 claude-api skill 自动化评测设计与 hillclimbing

Anthropic 在 claude-api skill 中新增 /claude-api build-eval 和 /claude-api hillclimb 两个命令，前者在代码库内通过访谈式流程构建评测集并验证 grader，后者以一次一改动、train/test 分离并检测过拟合的方式迭代优化应用。

NVIDIA 发布 Open Agent Safety Platform，以 OpenShell 和 Sentry 保护智能体安全

NVIDIA 发布 Open Agent Safety Platform，包含开源软件 OpenShell 和参考系统设计 NVIDIA Sentry，为智能体提供从测试到部署的全栈治理与控制。

同一件事，精选收录的是《NVIDIA 发布开源智能体安全平台，提供芯片级持续监控与隔离》

LangChain 讲解如何用 Jev 和 LangGraph 构建生产级智能体

LangChain 发布教程，讲解如何结合 TypeSafe 新发布的决策模型 Jev 与 LangGraph 构建“prod, not god”的生产系统。

GitHub 如何通过迁移 CSS Modules 将 SSR 时间降低 55%

GitHub 工程师 Josh Black 复盘将 Primer 设计系统从 CSS-in-JS 迁移到 CSS Modules 的历程。截至 2024 年 12 月 Primer 全部组件迁移完成，服务端渲染时间减少 55%，组件初始化时间减少 25%。

Opus 5.5 上一个任务要花多少钱：Claude Code 成本拆解

Anthropic 工程师 Addy Osmani 拆解 Opus 5.5 在 Claude Code 中完成任务的成本构成：turns、缓存读取、输出 token 和模型选择四个因素决定账单。Opus 5.5 输入输出价格比 Opus 5 降 20%，缓存读取降 60%，官方估算典型任务整体运行成本低 40%；文中还给出 effort 分级、缓存命中率维护、/usage 自查等省钱做法。

LangSmith 发布 Engine v2、Managed Deep Agents v0.8、Trajectories、Fine-Tuning 及 Custom Apps

LangChain 在 Interrupt NYC 上发布多项 LangSmith 更新：Engine v2 新增 Red Teaming 主动排查、检测性能趋势与低效工具调用，并可自动验证修复后一键开 PR，自 5 月上线以来已分析超过 60M 条 traces。

vLLM 新增基于 Gumbel-max 的无失真文本水印功能

vLLM 宣布支持基于 Gumbel-max 算法的无失真水印，将其集成进 Model Runner v2 的采样管线，并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重，以兼容投机解码并保持输出多样性。

Factory Router 生产环境推理成本节省升至 63%，并在 Factory Private 开放私有预览

Factory 宣布 Factory Router 的生产环境推理成本节省从 6 月下旬的 42% 升至截至 9 月 13 日当周的 63%，同期路由会话量增长约四倍。

Google 团队在 TPU 上用 MaxText 复现 Ai2 的 Olmo 3 7B 预训练

Google 团队用 MaxText 在 Google Cloud TPU 上从头复现 Ai2 的 Olmo 3 7B，完成 stage-1 预训练（约5.93T token。

Liquid AI 发布 LFM2.5-VL-DSpark 视觉语言 drafter 模型，边缘端解码最高提速 3.13 倍

Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark drafter 模型，参数约 280M，仅增加 8.9% 参数量。GPU 上解码吞吐最高提升 2.66 倍、边缘设备 3.13 倍，端到端分别最高 2.27 倍和 2.62 倍；模型已上架 Hugging Face，支持 llama.cpp、SGLang 和 MLX-VLM。

LangChain 发布 Managed Deep Agents 0.8，新增用户级内存、HTTP 通道与 Parallel 网页搜索

LangChain 发布 Managed Deep Agents 0.8，新增用户自有凭据、用户级内存、HTTP 通道、Slack 文件传输，并内置由 Parallel 驱动的网页搜索工具。用户级内存按调用者身份隔离存储，凭据支持用户或代理级别作用域，内置 23 个服务的开箱即用连接；beta 期间 Parallel 网页搜索免费提供。

LangSmith 推出 Trajectories：以可读视图呈现 Agent 完整会话路径

LangChain 在 LangSmith 中推出 Trajectories，将多轮 Agent 会话中人类、AI 和工具的消息按首次出现顺序聚合为按时间排列的对话视图。

LangChain 发布 LangSmith Fine-Tuning 与 smithtune CLI，将 Agent 轨迹转为微调模型

LangChain 发布 LangSmith Fine-Tuning 和 smithtune CLI，把 LangSmith 中的 Agent 轨迹整理为训练数据，支持 Fireworks 或 Baseten 托管的 SFT 训练与评估，现已进入 Public Beta。

LangSmith 推出 Custom Apps，可在 LangSmith 内构建和运行自定义智能体数据界面

LangChain 发布 LangSmith Custom Apps，用户可基于 LangSmith 数据构建、发布并直接在工作区内运行自定义 UI，省去托管、认证和权限维护。可通过 LangSmith Chat 或模板加编码智能体构建，Plus 套餐含每组织一个应用，Enterprise 套餐不限量；同期开源其设计系统 Macaw。

Meta 为 AI 眼镜推出 Private Processing 机密计算基础设施

Meta 宣布将 Private Processing 机密计算基础设施扩展到 Meta AI 眼镜，把信任边界延伸到云端 CVM，使包括 Meta 在内的任何人都无法访问用户数据。

Modal 与 CMU 推出 Quail：联合优化查询规划器与推理引擎，加速 AI-SQL

Modal 与 CMU Full Stack Data Lab 联合推出查询感知推理层 Quail，通过联合优化查询规划器与推理引擎加速 AI-SQL 查询。在某个多表连接查询上，Quail 单张 H100 GPU 每分钟处理超 10 亿 token，比同硬件 vLLM 基线快 10 倍以上，Modal 上成本低于每 10 亿 token 6 美分。

Cursor 发布 Rollouts 和 Security Reviewer 开发机器人

Cursor 发布两款软件开发机器人 Rollouts 和 Security Reviewer，帮助团队更快把安全可靠的代码送入生产环境。

Cursor 提升 agent 长时运行 token 效率，用户成本降低 7%

Cursor 通过改进 agent harness，在不降低 agent 质量的情况下将用户 token 成本降低 7%。

Fireworks 发布 Ember-1，以约四成更少 token 达到 Kimi K3 质量

Fireworks Research 发布基于 Kimi K3 训练的专用模型 Ember-1，通过学习精简不必要的推理，在保持质量的同时减少约 35-50% 的 reasoning token。

Anthropic 团队详解如何用 Claude 在两周内把 claude.ai 提速约 3 倍

Anthropic 团队发文详解今年 8 月通过两周冲刺让 claude.ai 和桌面端核心体验提速约 3 倍的过程：聚焦覆盖 95% 用户活动的四条旅程，75 分位首屏可输入时间从 3.1 秒降到 0.55 秒，合并超过三千个变更且无一次面向用户的事故。

NVIDIA 开源 NVCRE，在 AI 工作负载上线前验证 GPU 集群就绪度

NVIDIA 发布开源 Kubernetes 控制器 NVIDIA Cluster Readiness Engine（NVCRE），通过运行真实的分布式负载（如 NCCL all-reduce 和 Nemotron 5 预训练测试）在集群进入生产前验证就绪度，并将故障归因到具体节点。

TypeSafe 决策模型 Jev 使用教程：用 TypeScript 在 OpenRouter 上实现市场商品审核

OpenRouter 发布 Jev 使用教程，Jev 是 TypeSafe 推出的决策模型（模型 ID typesafe/jev-1.13），通过 OpenRouter Decisions API 接收 state 和问题，返回带概率的类型化答案而非生成文本。

Modal 详解如何以万亿 token 规模服务 Kimi K2.6 编码 Agent 推理

Modal 分享为编码 Agent 提供万亿参数模型 Kimi K2.6 推理服务的优化实践，优化后单副本每用户性能提升 2.8x、副本整体吞吐提升 5.6x，单个服务日处理数千亿 token。

Google DeepMind 为 Private AI Compute 增加安全的服务端持久记忆

Google DeepMind 宣布将为 Private AI Compute 平台引入私密的服务端持久记忆，使 AI 助手能跨设备长期保留上下文。数据密封在云端专用加密存储中，解密密钥仅保存在用户设备上，请求通过端到端加密通道在隔离的安全飞区中临时解密处理，即使 Google 也无法访问。

微软研究院：机器人推理卸载至边缘/云端可显著提升性能与续航

微软研究院发布关于物理AI机器人推理基础设施的研究。通过系统评估移动操作任务，发现将推理从机载GPU卸载至边缘或云端，能解决机载算力限制模型规模、导致响应延迟（最高383%）及精度下降的问题。实验显示，卸载推理不仅提升了任务成功率，还通过替换高功耗机载GPU为轻量硬件（如树莓派），使机器人电池寿命延长高达160%。此外，微软推出了基于Kubernetes的Physical AI Toolchain工具集，支持自动化容器化与分布式推理部署。

vLLM 发布 vllm-metal v0.28.0：在 Apple Silicon 上支持并发推理服务

vLLM 官方发布 vllm-metal v0.28.0，把 vLLM 的 V1 调度器、paged KV cache 和 OpenAI 兼容服务器带到 Apple Silicon，由 MLX 和 Metal 执行模型，版本号与上游 vLLM 对齐。

NVIDIA Nemotron 3 Diarization 上线 Baseten，实时说话人分离低至每音频小时一美分

Baseten 发布对 NVIDIA Nemotron 3 Diarization 的托管支持，这是一个约 100M 参数的流式说话人分离模型，单一 checkpoint 可在 0.32 到 30.4 秒间配置四种算法延迟。

GitHub 联合 Yale 调查 1039 名用户：开发者需要更高效的软件与可测量的节能路径

GitHub 与 Yale Program on Climate Change Communication 对 1039 名 GitHub 美国用户调查显示，80% 有兴趣使用帮助编写更节能代码的工具，74% 想测量软件或开发流程的环境影响，71% 担心 AI 的环境影响。

Factory Router 推理成本节省升至 63%，并上线 Factory Private 私有化部署

Factory 宣布 Factory Router 的周度聚合推理成本节省从 6 月下旬的 42% 提升至截至 9 月 13 日当周的 63%，同期路由 session 量增长约四倍。

Prime Intellect 发布 Prime Sandboxes 微VM沙箱，正式开放使用

Prime Intellect 宣布 Prime Sandboxes 正式可用，每个沙箱是完整 Linux 虚拟机，支持原生 Docker 和数万并发实例，已累计创建约 3000 万个沙箱。

OpenAI 为 GPT-6 推出改进的提示词缓存系统与诊断工具

OpenAI 为 GPT-6 系列推出改进的提示词缓存系统，默认提高缓存命中率，对 30 分钟窗口内复用的合格共享前缀提供最高 90% 的缓存输入 token 折扣。

同一件事，精选收录的是《OpenAI 发布 GPT-6 Sol 和 GPT-6 Luna，API 价格较 GPT-5.6 降 50%》

OpenRouter 实测 Jev 1.13 与 Claude Opus 5 在 Banking77 分类任务上的准确率、延迟与成本

OpenRouter 用 Banking77 测试集的 3,080 条客服语料对比 Jev 1.13 与 Claude Opus 5 的意图分类表现。Jev 准确率 81.0% 比 Opus 的 84.4% 低 3.3 个百分点，但中位延迟 175 ms 约为 Opus（2,266 ms）的 1/13，每千次请求成本 $0.11 对 $2.42（启用提示词缓存）。

Anthropic 详解 Opus 5.5 上一次 Claude Code 任务的成本构成

Anthropic 官方博客拆解 Claude Code 任务在 Opus 5.5 上的成本构成，轮次、缓存读取、输出 token 和模型选择决定账单，Opus 5.5 API 输入输出每百万 token 降价 20%、缓存读取降 60% 至 $0.20。

vLLM 引入硬件无关层以兼容 torch.compile 与 OOT 加速器

vLLM 为追求前沿性能正转向硬件专用的 flat 模型定义，与 fullgraph torch.compile 不兼容，影响 OOT 加速器、旧 GPU 和较冷门模型的支持。

LiteParse 9 月更新：PDFium 提速 20-25%，新增视觉定位与 is-complex 路由 API

LlamaIndex 发布 LiteParse 2.14.6 更新，通过对自维护 PDFium fork 做内存分配优化（内置 mimalloc）等手段，将文本提取耗时降低 20-25%，平均 2.76ms/页，markdown 渲染 3.94ms/页。

Shopify 如何用 PyTorch 和 vLLM 构建持续学习闭环，服务成本降低 96%

Shopify 在 PyTorch 官方博客详解其基于 PyTorch 和 vLLM 的持续学习闭环，通过自愈管线把生产失败转为训练信号，用 SFT 加 GRPO 让专用模型质量超越前沿模型，GraphQL agent 服务成本从估算的每年约 2700 万美元降至约 100 万美元，降幅 96%。

OpenRouter 推出 Batch API，批量推理可享半价

OpenRouter 发布 Batch API，异步批量请求由供应商在 24 小时窗口内完成，通常按正常 per-token 价格的 50% 或更低收费，目前已支持 70 多个模型。