教程实践 最新动态

vLLM x AgentX：面向真实世界智能体推理服务的全栈优化

vLLM 团队发布针对智能体负载优化的博客，基于 SemiAnalysis 的公开 AgentX 基准展示成果：DeepSeek V4 Pro 在 GB300 上达到 83K total tokens/GPU-秒。

Cohere 详解 North Mini Code 的 megakernel 推理引擎，单 H100 上比 vLLM 快 1.25–1.41 倍

Cohere 发布为 North Mini Code 构建的围绕 decode megakernel 的推理引擎，BF16 下单张 H100 端到端解码吞吐比 vLLM 快 1.25–1.41 倍，batch size 1 时达 292 tok/s（SoL 的 62%），代码已在 GitHub 开放。

OpenAI 发布 GPT-6 Astra 提示词指南，含 slop 词屏蔽清单

OpenAI 在模型文档中说明 GPT-6 Astra 相比 GPT-5.6 Sol 更常提出澄清问题、对上下文更敏感，并给出让模型更主动、审计 AGENTS.md 等技能文件、控制写作风格、约束子智能体委派和测试规模的提示词建议。

Unsloth AI@UnslothAI· 20:32精选AI 评分7171

Unsloth 宣布通过优化解码和新增 MTP 支持，让 GLM-5.3-Flash 的本地 GGUF 推理提速 1.6 至 3.4 倍，长上下文下最高达 3.3 倍。

用 Astra 在 Blender 中从一段描述搭建可编辑 3D 房屋场景

OpenAI Developers 博客展示作者用 Codex 中的 Astra 将一段房屋设计简报逐步发展为可编辑的 Blender 3D 场景，涵盖建筑、家具、材质、灯光与地板图，并经 Cycles 渲染出 30 秒 900 帧 1080p 相机漫游。

OpenAI 工程师用 Astra 在 Codex 中构建太空游戏 Void Explorer 的实践详解

OpenAI 开发者博客分享了用 Astra 在 Codex 中构建太空探索游戏 Void Explorer 的完整过程。游戏包含 2,048 个星系和超过 10,000 颗程序化生成的行星，可从太空穿越大气层降落并步行。

Google Cloud 教你用 Cloud Run instances 以每月 $5.70 搭建常驻 Agent

Shir Meir Lador 在 Google AI 开发者博客介绍如何用 Cloud Run instances 以每月 $5.70（1 vCPU、1Gi 内存、共享 CPU）在云端 24/7 运行常驻 Agent。

NVIDIA 讲解如何在 Jetson 上部署和优化推理模型

NVIDIA 发布教程，讲解在 Jetson 上部署新一代开放推理模型的方法，以 Nemotron 3.5 Lightning 和 Qwen3.8-27B 为例。

用 TRL 和 OpenEnv 训练编码模型画水彩：Hugging Face 全流程开源复现

Hugging Face 博客作者基于 Surya Narreddi 的原始想法，用 TRL、OpenEnv 和 Qwen/Qwen3.5-35B-A3B 复现了让语言模型通过 p5.brush 写 JavaScript 画水彩的 RL 训练流程，所有数据集、环境、脚本和模型均开源在 Hub。

GitHub Copilot 如何在不牺牲任务质量的前提下降低 AI 编码成本

GitHub 工程师 Erik Kristensen 分享了 Copilot 降本的四项改动：选择性压缩工具输出、移除 view 工具行号前缀（线下推理成本降约 5%，线上用户日均推理成本降约 3%）、压缩 task-tool 提示词（每轮省约 1300 token，每活跃小时归一化成本降 2.9%）、后台任务完成后直接交付结果（AI Credits 用量降约 2.3%）。

Anthropic 发布 Claude 电商智能体构建指南及参考实现

Anthropic 发布构建电商智能体的指南，总结架构、延迟与成本优化、生产运维三部分实践，涉及购物和商家两类智能体，企业客户部署后出现购物车变大和卖家运营效率提升。核心建议包括用单个智能体加技能而非子智能体、将 UI 组件做成工具、用提示词缓存实现 90-99% 命中率、在 harness 中强制安全规则，并开源参考实现 anthropics/commerce-agents。

Google AI 团队分享如何为 LLM-as-a-Judge 评测编写可靠的评分标准

Google AI 团队发布教程，讲解如何为 LLM-as-a-Judge 评测编写可靠的布尔式评分标准，指出模糊提示会导致评估不一致和浪费 token。文中给出四条经验：问题保持原子化且互不重叠、只让评判模型评估客观事实（可用 RFC 2119 术语如 MUST 表述）、只评 prompt 中明确要求的内容、用专家标注的 golden set 校准评判模型直至与人类评分一致。

Google 复盘 AI Agents Challenge：最强参赛作品背后的 4 种工程模式

Google for Startups AI Agents Challenge 评审团队从各赛道头部参赛作品中提炼出 4 种共同工程模式。

什么是 harness 工程？Google 用 ADK 2.0 与 Antigravity SDK 演示自动修复编码循环

Google 员工 Shir Meir Lador 介绍 harness 工程，即用确定性组件包裹 LLM，包括编排层、执行沙箱、状态持久化和验证工具，让 Agent 不需逐行人工审查即可安全生成代码。

Baseten 解析后训练最佳开源模型并按成本分档推荐

Baseten 发文解析开源模型后训练的成本驱动因素，指出活跃参数量是 RL 后训练成本的最大来源，总参数和 KV cache 主要限制推理速度，并按成本档位推荐 DeepSeek-V4-Flash、GLM-5.2、Kimi K2.6、Kimi K2.7 Code、Nemotron-3-Super-120B 和 Qwen3 系列。选型建议关注库支持、基准表现和后训练循环成本三方面。

Tessl 设计师总结如何把设计判断教给 AI 智能体

Tessl 设计师复盘在 agent 软件工厂 Kikimora 中把品牌与设计规则编入 AI 工作流的方法，指出设计系统只提供组件、教不会构图。

理解 ChatGPT Work：它到底是什么，以及它和 Chat 有何不同

OpenAI 于 7 月 9 日发布 ChatGPT Work，实际包含云端版（Work Cloud）和桌面应用版（Work Local）两个产品，仅向 $20/月及以上订阅用户开放。

Unsloth AI@UnslothAI· 01:57精选AI 评分7777

Unsloth 发布 GLM-5.3 的动态 GGUF 量化版本，2-bit 模型从 1.51TB 压缩到 239GB（缩小 83%），保留约 81% top-1 准确率，1-bit 则以缩小 85% 达到约 76%。

SGLang 用 SSD Expert Pack 在消费级硬件上运行 DeepSeek-V4-Flash 和 Kimi-K3

SGLang 将 SSD-LLaMA 的思路引入 MoE 推理，把放不进显存和内存的路由专家放在 NVMe SSD 上，通过 Expert Pack 连续布局、O_DIRECT 直接 I/O 和带预算的 GPU LFU/LRU 缓存，只加载 router 选中的专家。

Gemini 3.5 Transcribe 完整指南：告别 ASR 转录难题

Google 推出专用于语音转文字的 Gemini 3.5 Transcribe 模型，主打快速、准确且低成本的转录，原生支持说话人分离和词级毫秒时间戳。该模型支持 85+ 种语言自动识别与代码切换，可通过 custom_vocabulary 传入最多 1,000 个领域术语避免专有名词拼写错误，并提供 Smart Transcription 与 Verbatim 两种模式。