跳到正文
9月23日周三
  1. OpenRouter:Announcements62

    OpenRouter 实测 Jev 1.13 与 Claude Opus 5 在 Banking77 分类任务上的准确率、延迟与成本

    OpenRouter 用 Banking77 测试集的 3,080 条客服语料对比 Jev 1.13 与 Claude Opus 5 的意图分类表现。Jev 准确率 81.0% 比 Opus 的 84.4% 低 3.3 个百分点,但中位延迟 175 ms 约为 Opus(2,266 ms)的 1/13,每千次请求成本 $0.11 对 $2.42(启用提示词缓存)。

    推荐理由:原文用同一测试流程给出两家模型的准确率、延迟与成本数据,并演示了基于置信度的级联路由方法,便于读者按自身流量权衡选型。

  2. Claude:Blog71

    Anthropic 详解 Opus 5.5 上一次 Claude Code 任务的成本构成

    Anthropic 官方博客拆解 Claude Code 任务在 Opus 5.5 上的成本构成,轮次、缓存读取、输出 token 和模型选择决定账单,Opus 5.5 API 输入输出每百万 token 降价 20%、缓存读取降 60% 至 $0.20。

    推荐理由:原文把一次任务的 token 成本拆成轮次、缓存、输出和模型选择四项,并给出 effort 设置与缓存维护的可迁移省钱方法。

  3. Rohan Paul56

    DigitalOcean 宣布 Managed Agents 进入公开预览,Claude Code、Codex 或 LangGraph 智能体可运行在闲置时暂停的隔离运行时中,恢复耗时 316ms,暂停期间不计费。官方称可在统一管控端点后接入工具,并可选 75+ 开源与专有模型,一个云一个账单;博客中提供入门提示词(https://do.co/4ysh3it)。

    引用DigitalOcean@digitalocean

    DigitalOcean Managed Agents is now in public preview. Run Claude Code, Codex, or your own LangGraph agent in a runtime environment that pauses when idle. Put its tools behind one governed endpoint, and pick from 75+ open and proprietary models. One cloud, one bill. Prompts to get started available in the blog: https://do.co/4ysh3it

9月22日周二
  1. Hacker News:AI 热帖63

    Drop 发布:支持 gVisor 的无 root Linux 沙盒

    作者发布 Drop,一款无 root 的 Linux 沙盒工具,用于隔离编码智能体和第三方程序。它基于现有发行版运行,无需 Docker/Podman 容器配置,通过 TOML 配置暴露文件、目录和本地网络服务,用独立的 home 目录隐藏原环境;可选 gVisor 用户态内核作为额外隔离层,防止沙盒程序直接访问宿主内核。

  2. LlamaIndex:产品、工程与评测66

    LiteParse 9 月更新:PDFium 提速 20-25%,新增视觉定位与 is-complex 路由 API

    LlamaIndex 发布 LiteParse 2.14.6 更新,通过对自维护 PDFium fork 做内存分配优化(内置 mimalloc)等手段,将文本提取耗时降低 20-25%,平均 2.76ms/页,markdown 渲染 3.94ms/页。

    推荐理由:原文给出速度、表格准确率等实测对比数据和新增 API,读者可据此评估是否替换现有 PDF 解析方案。

  3. PyTorch:Blog63

    Shopify 如何用 PyTorch 和 vLLM 构建持续学习闭环,服务成本降低 96%

    Shopify 在 PyTorch 官方博客详解其基于 PyTorch 和 vLLM 的持续学习闭环,通过自愈管线把生产失败转为训练信号,用 SFT 加 GRPO 让专用模型质量超越前沿模型,GraphQL agent 服务成本从估算的每年约 2700 万美元降至约 100 万美元,降幅 96%。

    推荐理由:原文给出从质量标注、判官校准到 SFT 加 RL 和 gist 压缩的完整闭环方法,可迁移到自建 Agent 的持续学习场景。

  4. OpenRouter:Announcements70

    OpenRouter 推出 Batch API,批量推理可享半价

    OpenRouter 发布 Batch API,异步批量请求由供应商在 24 小时窗口内完成,通常按正常 per-token 价格的 50% 或更低收费,目前已支持 70 多个模型。

    推荐理由:公告给出折扣幅度、70+ 模型覆盖和 beta 期 230k+ 批次的实测完成时间,还提示了提交时段对速度的影响。

  5. Hugging Face 社区博客73

    transformers 支持直接加载 GGUF 量化模型,本地推理性能接近 llama.cpp

    Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型,通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint,并复用 ggml 的 Metal 内核。

    推荐理由:官方宣布 transformers 直接加载 GGUF,给出在 Apple Silicon 上接近 llama.cpp 的实测吞吐和加载方法,可帮助本地推理用户选择工作流。

  6. IT之家·人工智能51

    阿里平头哥将在云栖大会发布 AI 芯片真武 V900,算力达真武 M890 的 3 倍

    阿里平头哥将在 9 月 22 日至 24 日杭州云栖大会上发布 AI 芯片真武 V900,算力提升至真武 M890 的 3 倍,基于它的单一集群可扩展至 50 万卡,支撑前沿模型训练和推理。平头哥已布局真武系列 GPU、倚天系列 CPU、磐脉系列智能网卡和 ICN 互联芯片,自研 M890 AI 超节点已支撑超过 2 万亿参数大模型的高效推理,今年第四季度阿里云还将新增服务节点扩大超节点供给规模。

  7. IT之家·人工智能61

    欧盟拟要求额定容量超 500 千瓦的数据中心运营商披露能耗和用水情况

    欧盟委员会提出新规,计划要求额定容量超过 500 千瓦的数据中心运营商通过统一评级体系披露能源和水资源使用情况,目前已启动为期两个月的咨询期。运营商需说明用水与当地水资源压力的关系,以及能否回馈当地能源系统如再利用余热;欧盟援引 IEA 数据称 2024 年数据中心耗电约 68 TWh,预计 2030 年增至 114 TWh,占欧盟总用电量 3% 以上。

  8. OpenRouter:Announcements62

    OpenRouter 解读 NVIDIA Nemotron 3.5 Lightning 如何承担 Agent 高频执行调用

    OpenRouter 发文解读 NVIDIA 的 Nemotron 3.5 Lightning,这是一款 30B 总参数、约 3B 激活参数的混合专家开源权重模型,定位于工具调用、编码等高频、边界清晰的 Agent 执行步骤,与负责复杂推理的 Nemotron 3 Ultra(550B 总参数、55B 激活)形成分工。

    推荐理由:OpenRouter 结合自家端点数据拆解 Nemotron 3.5 Lightning 的定位、上下文和调用差异,读者可据此评估它在 Agent 执行层的适用性。

  9. vLLM 官方博客66

    用一个 uv 编译开关为 vLLM 容器启动省下约 18 秒

    vLLM 博客作者 Nils Matteson 实测在镜像构建时设置 ENV UV_COMPILE_BYTECODE=1 预编译字节码,H100 服务器上 Qwen3-8B 和 Qwen3-32B 的启动到首个正确响应中位节省分别为 17.6 秒(17.6%)和 17.8 秒(13.9%)。

    推荐理由:作者用配对实测给出 uv 预编译字节码对 vLLM 启动的具体节省和设置方法,结果边界和镜像体积代价也交代清楚。

  10. Linear:Now62

    Linear 重构 CI 流程应对 AI 编码带来的验证瓶颈,PR 等待时间从 6 分钟降至 5 分钟

    Linear 工程师分享如何解决 AI Agent 加速写代码后 CI 成为瓶颈的问题,PR 等待时间从 6 分钟以上降至 5 分钟出头,单测 runner 时间约减半。

    推荐理由:作者以第一手实践拆解 Linear 优化 CI 的具体做法与数据,读者可将其方法迁移到自己的 TypeScript 项目。

  11. Tomasz Tunguz 博客66

    Tomer Tunguz 谈 AI 优化 if-then 判断:专用决策器把分类成本降近百倍

    Tomer Tunguz 撰文提出最新一波 AI 正在接管软件中的 if-then 判断原语,Jev 与 SemIf 这类专用决策器以数百毫秒返回结果,成本比传统生成式调用低约 76x 到 209x。作者在自己的 Agent 中替换了约四分之一的调用,在 98 条人工核验的生产邮件线程上,Jev 达到 80%、本地 SemIf 达到 82% 的分类准确率,高于生产模型的 47%。

    推荐理由:作者结合自身 Agent 的替换实验给出成本与准确率对比,为判断专用小模型何时可替代前沿模型提供参照。

  12. Fireworks AI61

    Fireworks AI 推出 Specialized Intelligence Index 领域基准索引

    Fireworks AI 推出 Specialized Intelligence Index(SII),汇集开放、闭源与专用模型在真实工作任务基准上的表现,首批覆盖医疗、法律、网络安全、金融、客服、生产力和软件七个领域。

    推荐理由:Fireworks 联合多家行业实践方推出领域基准索引,不做跨领域综合排名,读者可按成本和时长自行权衡模型选择。

9月21日周一
  1. Prime Intellect57

    Prime Intellect 发布 Prime Sandboxes:面向智能体 RL 训练的 microVM 沙箱正式可用

    Prime Intellect 宣布 Prime Sandboxes 正式开放,每个沙箱是完整 Linux 虚拟机,已有约 3000 万个沙箱被创建。默认账户可自服务运行 1,024 个并发沙箱并可扩至数十万,提供超 365,000 个预构建环境,支持 Docker 镜像直接使用,并集成 verifiers、prime-rl 与 Prime Tunnels。

9月20日周日