OpenRouter 对比四家 AI Agent 服务端代码执行沙箱工具
OpenRouter 发文比较 OpenAI、Anthropic、Google 与 OpenRouter 四家的服务端代码执行工具,介绍各自沙箱的语言、网络、持久化与计费差异,并推出处于 beta 的 openrouter:shell 与 openrouter:bash 工具,可在 Responses 和 Messages API 上为任意模型运行命令。
OpenRouter 发文比较 OpenAI、Anthropic、Google 与 OpenRouter 四家的服务端代码执行工具,介绍各自沙箱的语言、网络、持久化与计费差异,并推出处于 beta 的 openrouter:shell 与 openrouter:bash 工具,可在 Responses 和 Messages API 上为任意模型运行命令。
TypeSafe AI 的首个模型 Jev 在 Modal 上于发布后三天内处理超 1 万亿 token,并在 OpenRouter 1K-10K token 上下文榜单登顶,承接 15.1% 的请求。Jev 并非大语言模型,而是非自回归的 System One Model,以状态和问题为输入,并行输出带概率的结构化类型值,训练采用自研的 RLCD 方法。
Simon Willison 撰文呼吁按用量付费的服务和 API 默认提供硬性预算上限,超过每月 $X 即切断服务并返回错误,而不是只发警告邮件。理由是编码智能体降低了部署付费代码的门槛,用户可能睡一觉醒来收到数千美元的意外账单。
卡普空在“卡普空公开大会 RE:2026”上公布 REX 计划,将分阶段升级现有 RE 引擎而非从零开发,使其适配 AI 时代。该计划以“全球最为通用的编程语言”为基础统一改造引擎,便于开发者使用和 AI 解读,AI 后续可理解并编写新程序、开展游戏试玩测试及排查程序漏洞。REX 将从引擎运行效率、性能、配套工具、质量检测等方面入手,解决 3A 游戏体量庞大、开发耗时等难题。
Cloudflare 宣布 Artifacts 进入 open beta,并举办比赛邀请开发者用 Workers 和 Artifacts 构建面向智能体时代的 Git 平台,要求至少支持多个智能体并发工作,截止 2026 年 10 月 14 日,第一名可获 25,000 美元 Cloudflare credits。
IBM 的智能体软件开发平台 Bob 正式推出自托管部署选项,可在本地、私有云、主权云和气隙网络中运行,面向企业客户 GA。
Prime Intellect 推出推理服务平台 Prime Inference,为开源前沿模型提供 serverless 端点和预留容量,上线前内部日处理近 1 万亿 token,主要来自 RL rollout、合成数据生成、评测和编码智能体。
Baseten 工程师参考 MetaInfer 论文,让 Claude Code(Fable 5)为 Qwen-3.6-35B-A3B(NVFP4,单张 B200)自动构建推理引擎 VibeQwen,单流解码比 vLLM 0.25.1 快 90%,首 token 从 28ms 降至 12ms,并发 32 时吞吐高 71%。
推荐理由:作者亲测用智能体生成定制推理引擎,给出了相对 vLLM 的具体性能数据和成本,可帮助读者评估自动优化的实际可行性。
Prime Intellect 发布 Prime Inference,提供 serverless 端点与预留容量,在多数据中心 GPU 基础设施上服务前沿开源模型,内部每天处理近一万亿 token。
推荐理由:作者以自家生产数据说明 disaggregation、NVFP4 KV 压缩等优化路径,工程细节对做推理服务的人有可参考之处。
vLLM 将 PyTorch 原生内核 DSL Helion 集成进线性后端,用单一 GEMM 实现覆盖 Standard GEMM、Split-K、Swap-AB 等变体,并按 shape 自动调优选择最优配置。
Baseten 的 Model API 在 Artificial Analysis 上跑出 200+ TPS、约 200ms TTFT,成为该榜单上最快的 GLM-5 服务。
Airbnb CTO Ahmad Al-Dahle 接受 Latent Space 采访,介绍把 Airbnb 改造为 AI 原生公司的进展。目前 60% 的代码由 AI 编写,功能和改进发布量同比增长近 80%,人均工程师 PR 吞吐量提升约 1.6 倍。
Excited to announce Volantis's $88M Series A. We are solving Al's memory bottleneck by using optics, enabling chips with huge amounts of fast & cheap memory. By boosting both the memory bandwidth and capacity per chip by orders of magnitude, we enable ultra-fast inference (up to 10,000 tps/user) for large models (>10T) - with low $/tok to boot. Initially, this will enable insanely fast agents - think coding agents that finish in minutes or even seconds instead of hours. More excitingly, optics is a fundamentally scalable way to increase memory systems. Not 2X/year, but by orders of magnitude across new generations. This will enable a structurally new Al industry, including restarting scaling laws, holding entire repos in context windows & more. Our team has pioneered many core semiconductor technologies: the 1st CoWoS product, early HBM, the 1st silicon photonics CPO systems, the 1st high volume tunable VCSELs, the 1st processors to directly communicate using light & more. We’ve already sent data >10× farther than equally tiny electrical wires inside a chip package. Our next iteration is already taped out and targets world-record bandwidth density over relevant distances, read more: https://volantissemi.ai/news-insights/our-88m-series-a-demolishing-the-memory-wall-with-photonics-post
教程实测 Google Research 的 JAX 训练库 Kauldron 1.4.2,验证其研究速度与模块化两个卖点。konfig 把实验配置变成可 JSON 序列化的纯字典树并用 cfg.ref 引用避免值冻结,kontext 用字符串 key path 接线组件使损失与模型互不导入,ktyping 在运行时按命名轴检查形状并在报错时给出轴绑定信息。
OpenRouter 发布教程,讲解客服机器人如何用 cheap-first 路由把常规 FAQ 交给便宜模型、仅在必要时升级到更强模型。
PyTorch 团队发布用 TLX(Triton 低层扩展)在 NVIDIA Blackwell B200 上优化 Jagged Flash Attention(Meta 生成式广告模型 GEM 的 attention kernel)的博客。
Cerebras 用解耦(disaggregation)技术在同数量系统上把推理吞吐提升 5 倍,且不损失 token 生成速度。其异构解耦方案把推理中受内存或算力约束的不同阶段分配到不同芯片上,从而获得超越同构解耦的收益。这是该系列文章的第一篇,从加速器的算力与内存带宽、算术强度讲起,解释 prefill 与 decode 阶段对硬件的不同需求。
Modal 在其首届 Runtime 大会上发布多项产品更新。VM Sandboxes 为 Agent 提供完整 Linux 环境,已在 Linear、Legora。
推荐理由:Modal 在 Runtime 大会上发布多项基础设施更新,可帮助读者了解面向 Agent 和大规模推理训练的部署能力变化。
Modal 宣布 VM Sandboxes 正式 GA,只需设置 runtime="vm" 即可获得支持 Docker、FUSE 和内核功能的完整 Linux VM,沿用原有 Sandbox 的 API、modal.Image、亚秒级冷启动和内存爆发能力,早期客户已启动超过 2000 万个 VM。
推荐理由:Modal 官方说明 VM Sandbox 的能力边界、切换方式和 Linear 等早期客户的实际用法,对需要给 Agent 配完整机器的开发者有直接参考价值。
Databricks 为 Lakebase Postgres 推出基于分支的恢复机制,将恢复时间从数小时降至秒级,即使数据库规模达 100 TB。该架构将计算与存储解耦,数据库历史已存于对象存储中可直接引用,恢复只需在指定时间戳创建分支这一元数据操作,无需拷贝数据或重放 WAL。
AlloyDB for PostgreSQL 通过模型端点管理接入 TypeSafe AI 的 Jev 模型,可在数据库内直接执行布尔判断与多分类等语义评估,无需预先准备嵌入向量。Jev 面向毫秒级结构化输出优化,配合 ai.if 和 ai.analyze_sentiment 等原生函数,在 3 万条商品数据的电商数据集上实现高吞吐语义查询。
Every 发布开源模型实用指南,讲解如何评估需求、选择模型与托管方式,将开放模型用于编码、创意和日常自动化等工作。指南指出当下最强开源模型多来自中国实验室,并强调按任务难度区分模型选择,同时附上一个用于审计现有 AI 用法、筛选可迁移到廉价模型任务的提示词。全文为付费订阅内容。
Ai2 发布 Olmo-core 3,这是支持大规模混合专家(MoE)训练的开源框架,已验证可扩展至万亿参数级别。在 8 张 NVIDIA B300 GPU 上,47B 参数 MoE 吞吐达 52,000 tokens/秒/GPU,约为旧 FSDP 实现的 2.7 倍;专家池从 8 扩至 128 而训练吞吐下降不足 5%。
OpenAI 与 Synopsys 签署多年期战略合作协议,共同开发芯片设计专用模型 GPT-Synopsys,将 OpenAI 前沿模型与 Synopsys 的 EDA 工具和芯片设计专长结合。
开发者 countervolts 的 GitHub 项目 d4r 通过 ZLUDA 兼容层,让 AMD RDNA 4 架构的 RX 9070 XT、RX 9060 XT 等显卡运行 NVIDIA DLSS 4 与 DLSS 4.5 超分辨率,0.1.3 版本已发布。
日本最大电力公司 JERA 与 Dell、主权 AI 基础设施开发商 RHAELM 签署谅解备忘录,将共同制定日本 AI 基础设施建设标准化框架,首个数据中心落地千叶县。
@minchoi Colossus 1 is 150k H100, 50k H200 and 30k GB200. Colossus 2 is 110k GB200 and 440k GB300. Another 220k GB300 will be fully operational next week and another 220k in November. If we get lucky, yet another 220k GB300 by late December.
据《金融时报》报道,腾讯与甲骨文签署其最大海外租赁协议,在东南亚多个甲骨文数据中心租用约 10 万块先进 AI 芯片,五年期交易估值约 70 亿美元,首付约 30%。算力将用于推进 AI 模型和智能体工具开发;腾讯第二季度资本支出同比增 176% 至 530 亿元人民币。双方均未回应置评请求。
Modal 宣布 Modal Clusters 正式可用,通过 @modal.clustered 装饰器一行代码即可启动多节点集群。
推荐理由:原文解释了 gang 调度、rdma=True 和 gVisor RDMA 支持等实现细节,可帮助读者判断多节点训练推理的部署成本。
Meta 与 Apex Clean Energy 达成购电协议,支持德州 Gonzales County 的 144MW Starling Solar 项目,并可获得全部环境属性用于抵消用电统计。
OpenRouter 发布教程,讲解如何用固定的 eval 集在 CI 中门禁 pull request,当通过率低于阈值时脚本以非零退出码阻止合并,做法与单元测试门禁一致。
推荐理由:原文给出了从脚本到 GitHub Actions 的完整可复现流程,并强调了路径过滤须放 job 层、阈值应实测等易错点。
OpenRouter 发布一个三步框架,用于为 Agent 任务选出以最低成本达到质量门槛的模型,而不是按排行榜排名选最高分模型。方法是先按任务设定质量门槛,再用 20 到 50 条自己的示例运行廉价、中档和前沿模型并用统一评分标准计算每质量点成本,最后选出以超过运行间分数波动的余量过线的最便宜模型。
推荐理由:原文给出可复用的三步选型方法,读者可以据此按任务质量门槛测量并选出成本最低的够用模型。
OpenRouter 发布教程,讲解如何让廉价模型通过结构化输出返回 0 到 1 的置信度字段,低置信度的请求再升级到更强模型。文章强调置信分数只是自报、不是校准概率,应基于自己流量的分数段错误率排序设定阈值,并在上线后监控分数分布、升级率和未升级答案的错误率持续调整。
推荐理由:原文给出按置信度分数分级路由的完整做法,读者可以照着在自己流量上校准阈值并权衡准确率、成本和延迟。
Databricks 的 IP Functions 已正式 GA,让 IP 地址分析成为 Lakehouse 上原生的高性能 SQL 工作负载。这套内置函数统一支持 IPv4 与 IPv6、原生解析 CIDR,并提供 ip_cidr_contains 等函数及返回 NULL 的 try_ 安全变体,无需 UDF 或正则。
谷歌于 9 月 30 日发布 Gemini 4 Argon,称其为迄今最先进的 AI 模型,主打长流程软件工程、企业知识工作和网络安全防御,单次输出上限约 100 万 tokens。
Google DeepMind 发布 Gemini 4 系列首个前沿模型 Gemini 4 Argon,单次响应输出上限从 64K 提升到 1M tokens,面向长周期软件工程、法律金融企业知识工作和网络防御。
Google 发布新一代前沿模型 Gemini 4 Argon,称其在软件工程、法律和金融等企业知识工作以及网络防御方面具有前沿性能。模型初期仅向一批受信任的网络防御者开放,Google 正参与美国政府的发布前模型访问自愿流程并逐步扩大访问范围;该模型已用于 Google 内部工作流,如大规模代码库迁移。
NVIDIA Dynamo-Triton(原 Triton Inference Server)现已通过 recsys-examples 仓库支持端到端 HSTU 生成式推荐推理工作流,结合 PyTorch AOTI、FlexKV KV 缓存与 NV embedding cache。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向可信网络防御者开放,后续将逐步面向开发者、企业和消费者推出。
推荐理由:官方发布给出了定价、输出 token 上限和多项基准成绩,读者可以据此比较它在编码与企业工作流中的实际位置。