OpenAI 为 GPT-6 推出改进的提示词缓存系统与诊断工具
OpenAI 为 GPT-6 系列推出改进的提示词缓存系统,默认提高缓存命中率,对 30 分钟窗口内复用的合格共享前缀提供最高 90% 的缓存输入 token 折扣。
同一件事,精选收录的是《OpenAI 发布 GPT-6 Sol 和 GPT-6 Luna,API 价格较 GPT-5.6 降 50%》
OpenAI 为 GPT-6 系列推出改进的提示词缓存系统,默认提高缓存命中率,对 30 分钟窗口内复用的合格共享前缀提供最高 90% 的缓存输入 token 折扣。
同一件事,精选收录的是《OpenAI 发布 GPT-6 Sol 和 GPT-6 Luna,API 价格较 GPT-5.6 降 50%》
在 2026 骁龙峰会上,高通宣布将向骁龙芯片下放 HBC(High Bandwidth Compute,高带宽计算)架构。该架构于 2026 年 6 月投资者日公开,最初面向数据中心产品。
OpenAI 发布 GPT-6 系列新成员 GPT-6 Sol 和 GPT-6 Luna,API 价格较 GPT-5.6 促销价降低 50%,两款模型沿用 GPT-6 Astra 的训练方法,主打更快更经济。
OpenRouter 用 Banking77 测试集的 3,080 条客服语料对比 Jev 1.13 与 Claude Opus 5 的意图分类表现。Jev 准确率 81.0% 比 Opus 的 84.4% 低 3.3 个百分点,但中位延迟 175 ms 约为 Opus(2,266 ms)的 1/13,每千次请求成本 $0.11 对 $2.42(启用提示词缓存)。
推荐理由:原文用同一测试流程给出两家模型的准确率、延迟与成本数据,并演示了基于置信度的级联路由方法,便于读者按自身流量权衡选型。
Anthropic 官方博客拆解 Claude Code 任务在 Opus 5.5 上的成本构成,轮次、缓存读取、输出 token 和模型选择决定账单,Opus 5.5 API 输入输出每百万 token 降价 20%、缓存读取降 60% 至 $0.20。
推荐理由:原文把一次任务的 token 成本拆成轮次、缓存、输出和模型选择四项,并给出 effort 设置与缓存维护的可迁移省钱方法。
DigitalOcean Managed Agents is now in public preview. Run Claude Code, Codex, or your own LangGraph agent in a runtime environment that pauses when idle. Put its tools behind one governed endpoint, and pick from 75+ open and proprietary models. One cloud, one bill. Prompts to get started available in the blog: https://do.co/4ysh3it
vLLM 为追求前沿性能正转向硬件专用的 flat 模型定义,与 fullgraph torch.compile 不兼容,影响 OOT 加速器、旧 GPU 和较冷门模型的支持。
推荐理由:vLLM 团队解释内部架构转向与硬件无关层的设计原则,并给出 H100 上 3.4% 吞吐差距的实测数据,对部署可移植性有参考。
作者发布 Drop,一款无 root 的 Linux 沙盒工具,用于隔离编码智能体和第三方程序。它基于现有发行版运行,无需 Docker/Podman 容器配置,通过 TOML 配置暴露文件、目录和本地网络服务,用独立的 home 目录隐藏原环境;可选 gVisor 用户态内核作为额外隔离层,防止沙盒程序直接访问宿主内核。
LlamaIndex 发布 LiteParse 2.14.6 更新,通过对自维护 PDFium fork 做内存分配优化(内置 mimalloc)等手段,将文本提取耗时降低 20-25%,平均 2.76ms/页,markdown 渲染 3.94ms/页。
推荐理由:原文给出速度、表格准确率等实测对比数据和新增 API,读者可据此评估是否替换现有 PDF 解析方案。
Shopify 在 PyTorch 官方博客详解其基于 PyTorch 和 vLLM 的持续学习闭环,通过自愈管线把生产失败转为训练信号,用 SFT 加 GRPO 让专用模型质量超越前沿模型,GraphQL agent 服务成本从估算的每年约 2700 万美元降至约 100 万美元,降幅 96%。
推荐理由:原文给出从质量标注、判官校准到 SFT 加 RL 和 gist 压缩的完整闭环方法,可迁移到自建 Agent 的持续学习场景。
OpenRouter 发布 Batch API,异步批量请求由供应商在 24 小时窗口内完成,通常按正常 per-token 价格的 50% 或更低收费,目前已支持 70 多个模型。
推荐理由:公告给出折扣幅度、70+ 模型覆盖和 beta 期 230k+ 批次的实测完成时间,还提示了提交时段对速度的影响。
JetBrains 发布 JetBrains Air,一个面向开发者、团队和组织的开放智能体开发产品体系,包含 Air in JetBrains IDEs、Air Teams、Air Governance(原 JetBrains Central)三个产品,编码智能体 Junie 将支持所有 Air 表面。
Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型,通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint,并复用 ggml 的 Metal 内核。
推荐理由:官方宣布 transformers 直接加载 GGUF,给出在 Apple Silicon 上接近 llama.cpp 的实测吞吐和加载方法,可帮助本地推理用户选择工作流。
Anthropic 在旧金山湾区建设生物学实验室,计划让 Claude 以极少人工参与的方式指导机器人开展药物实验,已推出面向研究人员的 Claude Science 工作区和控制实验设备的 Model Hardware Standard。
NVIDIA、NTU 和 MIT 的研究团队发布 SoL-Pi,一套为开源 Pi 编码 Agent 提供的 4 项效率机制,由 AI 通过 harness 层的自动研究循环发现。
阿里平头哥将在 9 月 22 日至 24 日杭州云栖大会上发布 AI 芯片真武 V900,算力提升至真武 M890 的 3 倍,基于它的单一集群可扩展至 50 万卡,支撑前沿模型训练和推理。平头哥已布局真武系列 GPU、倚天系列 CPU、磐脉系列智能网卡和 ICN 互联芯片,自研 M890 AI 超节点已支撑超过 2 万亿参数大模型的高效推理,今年第四季度阿里云还将新增服务节点扩大超节点供给规模。
欧盟委员会提出新规,计划要求额定容量超过 500 千瓦的数据中心运营商通过统一评级体系披露能源和水资源使用情况,目前已启动为期两个月的咨询期。运营商需说明用水与当地水资源压力的关系,以及能否回馈当地能源系统如再利用余热;欧盟援引 IEA 数据称 2024 年数据中心耗电约 68 TWh,预计 2030 年增至 114 TWh,占欧盟总用电量 3% 以上。
OpenRouter 发文解读 NVIDIA 的 Nemotron 3.5 Lightning,这是一款 30B 总参数、约 3B 激活参数的混合专家开源权重模型,定位于工具调用、编码等高频、边界清晰的 Agent 执行步骤,与负责复杂推理的 Nemotron 3 Ultra(550B 总参数、55B 激活)形成分工。
推荐理由:OpenRouter 结合自家端点数据拆解 Nemotron 3.5 Lightning 的定位、上下文和调用差异,读者可据此评估它在 Agent 执行层的适用性。
TypeSafe AI 上周发布 Jev,作者称其为 System One 或决策模型:接受文本输入但输出浮点置信分数而非文本,仅按输入计费 $0.042/百万 tokens,低于 GPT-5 Nano 的 $0.05。
OpenClaw 宣布引入决策模型支持,让智能体中工具筛选、上下文压缩、是否插话等小判断不再走完整对话模型调用。
vLLM 博客作者 Nils Matteson 实测在镜像构建时设置 ENV UV_COMPILE_BYTECODE=1 预编译字节码,H100 服务器上 Qwen3-8B 和 Qwen3-32B 的启动到首个正确响应中位节省分别为 17.6 秒(17.6%)和 17.8 秒(13.9%)。
推荐理由:作者用配对实测给出 uv 预编译字节码对 vLLM 启动的具体节省和设置方法,结果边界和镜像体积代价也交代清楚。
Linear 工程师 Mufeez Amjad 撰文介绍团队如何重构 CI,应对 AI 智能体加速写代码后验证成为瓶颈的问题。测试套件今年年初以来增长近四倍,PR 等待时间从 6 分钟以上降至 5 分钟出头,每项测试的 runner 时间约减半。
Linear 工程师分享如何解决 AI Agent 加速写代码后 CI 成为瓶颈的问题,PR 等待时间从 6 分钟以上降至 5 分钟出头,单测 runner 时间约减半。
推荐理由:作者以第一手实践拆解 Linear 优化 CI 的具体做法与数据,读者可将其方法迁移到自己的 TypeScript 项目。
Meta 宣布开源 Rebalancer,一个用于解决资源分配问题的通用求解库,已在 Meta 内部使用超过九年,目前每天解决约 4000 万个分配问题,涵盖 30 多种问题建模。
Tomer Tunguz 撰文提出最新一波 AI 正在接管软件中的 if-then 判断原语,Jev 与 SemIf 这类专用决策器以数百毫秒返回结果,成本比传统生成式调用低约 76x 到 209x。作者在自己的 Agent 中替换了约四分之一的调用,在 98 条人工核验的生产邮件线程上,Jev 达到 80%、本地 SemIf 达到 82% 的分类准确率,高于生产模型的 47%。
推荐理由:作者结合自身 Agent 的替换实验给出成本与准确率对比,为判断专用小模型何时可替代前沿模型提供参照。
Microsoft Research 在 Nature 发表逆合成预测模型 RetroChimera,结合基于 Transformer 的 R-SMILES 2 和图神经网络模型 NeuralLoc,用 learning-to-rank 集成两者互补预测。
Fireworks AI 推出 Specialized Intelligence Index(SII),汇集开放、闭源与专用模型在真实工作任务基准上的表现,首批覆盖医疗、法律、网络安全、金融、客服、生产力和软件七个领域。
推荐理由:Fireworks 联合多家行业实践方推出领域基准索引,不做跨领域综合排名,读者可按成本和时长自行权衡模型选择。
MacStories 作者实测 256 GB 内存的 M5 Ultra Mac Studio,认为它是运行本地 AI 智能体的理想机器。
据彭博社报道,英国 AI 数据中心公司 Nscale 在 IPO 前披露的 1,030 亿美元合同总额中,微软(约 438 亿美元)和 Anthropic(约 446 亿美元)合计占 85%,且尚未为 Anthropic 项目获得有约束力的融资承诺。
法国兴业银行预测 AI 应用可带来 5 亿至 6 亿欧元的降本空间,其中到 2029 年已落实规划的约为 3.5 亿欧元。该行称将受益于与 Anthropic 的战略合作,持续分批部署 Claude 大模型,应用于自动生成报告、KPI 监控、削减代码开发成本和扩充客户咨询服务。
Google 推出开源的声明式 agent 执行控制平面 AX,提供 Task、Workspace、Gateway、Model 四个原语来沙箱化 agent 任务、配置网络策略和模型密钥。
Flet 团队发布 Flet 1.0 并宣布可用于生产应用开发。该开源 Python 框架基于 Flutter 渲染 UI,flet build 支持 apk、aab、ipa、ios-simulator、windows、macos、linux、web 八个目标平台,应用可捆绑 Python 3.12、3.13 或 3.14,Apache 2.0 协议下已上架 PyPI。
工程师 Dan McKinley 撰文《Prompts Aren't Real》,基于在生产环境让 Agent 可靠运行的经验,提出提示词不是核心资产,可自我修正的评测与优化系统才是。
Pirate Face 上线去中心化基础设施,把 Hugging Face 上的开放模型(LLM、图像、音频、数据集)镜像为可校验的磁力种子链接,覆盖 66.9 万以上符合条件的项目。
Prime Intellect 宣布 Prime Sandboxes 正式开放,每个沙箱是完整 Linux 虚拟机,已有约 3000 万个沙箱被创建。默认账户可自服务运行 1,024 个并发沙箱并可扩至数十万,提供超 365,000 个预构建环境,支持 Docker 镜像直接使用,并集成 verifiers、prime-rl 与 Prime Tunnels。
据 Arstechnica 报道,获北约 DIANA 支持的瑞典初创公司 Scaleout Systems(斯凯奥特系统)在小型无人机上部署轻量化 AI 模型,用于目标识别与打击,无需依赖中央服务器。