LangChain 重建 Chat LangChain:放弃向量嵌入,改用直接 API 访问与 Deep Agent 子图
LangChain 重建了 chat.langchain.com,弃用分块加向量数据库的检索方案,改为让智能体通过 Mintlify API、知识库标题扫描和 ripgrep 代码搜索直接访问文档、知识库和代码库的原始结构。
推荐理由:原文复盘了放弃向量嵌入、改用直接 API 访问和子图分域的重建思路,含工具设计与性能数字,方法可迁移到类似问答智能体。
LangChain 重建了 chat.langchain.com,弃用分块加向量数据库的检索方案,改为让智能体通过 Mintlify API、知识库标题扫描和 ripgrep 代码搜索直接访问文档、知识库和代码库的原始结构。
推荐理由:原文复盘了放弃向量嵌入、改用直接 API 访问和子图分域的重建思路,含工具设计与性能数字,方法可迁移到类似问答智能体。
Together AI 发布 LLM 评测与基准测试教程,覆盖 MMLU、GSM8K、HumanEval 等基准。文章提出好基准的五项原则,包括难度、多样性、实用性、可复现性和数据污染,并介绍选择题、生成式、人工评估和 LLM-as-a-judge 等方法,同时附带用于分类评测和 LLM-as-a-judge 的 Evaluations API 代码 notebook。
随着AI智能体通过模型上下文协议(MCP)连接的工具数量激增,传统预先加载所有工具定义并通过上下文传递中间结果的方法,导致处理速度变慢、成本增加。问题核心在于工具定义占用大量上下文空间,且中间结果(如完整会议记录)在多次工具调用间重复传递,额外消耗数万令牌。文章提出解决方案:将MCP服务器呈现为代码API,使智能体能按需加载工具,并在执行环境中处理数据,仅将精简结果传回模型,从而显著减少令牌消耗、提升效率并降低成本。
推荐理由:Anthropic 官方把 MCP 从「能连」推进到「连多了怎么办」,用代码执行替代直接工具调用,token 省 98.7% 这个数字不是吹的。做 Agent 工程的人如果还在暴力塞 tool definition,这篇是必读的架构升级指南。
与 NVIDIA 合作,在 DGX Spark 上通过 SGLang 成功支持 GPT-OSS 20B 与 120B 模型,实现 20B 版本约 70 tokens/s、120B 版本约 50 tokens/s 的生成速度,达到目前最优水平。用户可通过 Docker 部署 SGLang 服务,接入 Open WebUI 实现本地聊天,或借助 LMRouter 转换请求格式以完全本地化运行 Claude Code。该方案使在 DGX Spark 上部署多百亿参数本地编码智能体成为现实。
推荐理由:DGX Spark本地跑通Claude Code完全离线,隐私敏感开发者的新选择
OpenAI 详解支撑 ChatGPT Atlas 浏览器的新架构 OWL,其核心是解耦 Chromium,实现快速启动、丰富 UI 与由 ChatGPT 驱动的智能体浏览。
Claude 发布金融服务 AI 代理构建指南,分享 NBIM、Brex 等机构实践。NBIM 员工每周节省数百小时,McKinsey 研究显示欺诈检测生产力可提升 200% 至 2000%。AI 代理能自主整合多源数据、执行跨系统操作,在合规框架下处理客户服务与风险分析,将传统分析工具升级为可独立完成交易的自主系统。
推荐理由:Anthropic官方分享金融AI智能体落地实践,含NBIM、Brex等真实案例与效率数据。
NVIDIA Isaac for Healthcare v0.4 发布,提供基于 SO-ARM 的端到端入门工作流,让开发者从仿真、训练到部署构建自主手术辅助机器人。
Hugging Face 发布实操指南,讲解如何用 NVIDIA Isaac for Healthcare v0.4 的 SO-ARM Starter Workflow 构建自主手术辅助机器人。
Hugging Face 发布带授权语音克隆的语音同意门概念及示例 Space 和配套代码。系统先生成包含同意语句和模型名的全新句子,经 ASR 识别确认后,才允许用该音频驱动语音克隆 TTS,使同意成为可审计的系统前提;作者也指出该设计可被其他 TTS 伪造,未来可结合音频溯源和说话人嵌入校验。
Dagster Labs 撰文介绍团队如何用 OpenAI Codex 加速文档编写、讲解 PR、在教程、博客与视频脚本等媒介间转译内容。团队重构了 CONTRIBUTING.md,认为清晰的文档结构同时服务人类和 AI;还用文档作为唯一事实来源让 Codex 生成代码并跑测试,以间接衡量文档覆盖度。作者支持 mono repo,认为代码、文档和示例放在同一仓库能让 Codex 获得完整上下文。
OpenRouter 在公告中提出问题:是否应将提供隐式缓存(implicit caching)的供应商视为“ZDR”?
Hugging Face 发布开源 OCR 模型指南,并新增 Chandra 和 OlmOCR-2 及其在 OlmOCR Benchmark 上的分数(Chandra 83.1±0.9,OlmOCR-2 82.3±1.1)。
推荐理由:这篇指南梳理了主流开源 OCR 模型的能力、输出格式与成本对比,并给出按使用场景选型的具体方法。
Intel 与 Hugging Face 联合测试显示,在搭载 Intel Xeon 6 处理器(Granite Rapids)的 Google Cloud C4 虚拟机上运行 OpenAI GPT OSS 大模型,总拥有成本(TCO)较上一代 C3 实例提升 1.7 倍,即 70% 的 TCO 改善。
OpenAI Developers 在 GitHub 上发布了名为“Sora starter app”的开源项目。该示例应用旨在演示如何使用 Sora API 构建视频生成工作流,为开发者提供代码参考和集成指南。
Hugging Face 发布教程,介绍用 Optimum Intel 和 OpenVINO 在 Intel CPU 上三步部署 VLM:转换为 OpenVINO IR、做权重仅量化或静态量化、运行推理,以 SmolVLM2-256M-Video-Instruct 为例。
Answer.AI 的 Kerem Turgutlu 撰文讲解如何用 SolveIt 把 Andrej Karpathy 超两小时的 tokenizers 视频教程转成带可运行代码、超链接和图片的书章。
推荐理由:作者完整复盘两阶段对话工作流,把超两小时视频转成可运行代码的书章,方法可直接迁移到任意长视频转写场景。
OpenAI 团队撰文复盘 Codex 在 DevDay 2025 筹备中的多种用法,包括用 Codex 实现 VISCA 协议控制摄像头和灯光 MCP 服务器、用 Codex Cloud 并行迭代多个 UI 设计、同时开 7 个终端生成 Phaser 游戏等。
英国 AI Security Institute 介绍为何在平均通过率之外分析智能体评估的对话记录,并提供基于 9 个模型、71 个 CTF 任务、共 6390 个样本的 ReAct 智能体案例分析。
Sierra 通过优化语音到语音管道的每个阶段来降低延迟,使语音 AI 智能体听起来更自然而非机械。其工程方法涵盖从语音识别到生成的全链路延迟压缩,但具体技术细节和量化指标未在原文中披露。
OpenAI Developers 账号分享了一个 GitHub 仓库链接,展示了如何构建带有可选用户界面(UI)的 MCP 服务器,以用于 ChatGPT 插件开发。该资料主要指向具体的代码示例库,未包含详细的功能说明或背景介绍。
OpenAI Developers 在 GitHub 上发布了名为“ChatKit advanced samples”的代码库。该资料展示了 ChatKit(作为 AgentKit 的一部分)的高级使用场景,重点演示了针对不同用例的自定义 ChatKit 服务器集成方法。
Hugging Face 发布三部分系列的第一篇,讲解如何将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换到 Apple 设备上运行,该模型在 OmniDocBench 上超过 Gemini 2.5 Pro。
Answer.AI 推出五周课程 How to Solve It with Code 及配套平台 Solveit,10 月 20 日开课,报名开放至 10 月 20 日。
推荐理由:原文详述了 Solveit 平台与课程的迭代式人机协作方法及其设计取舍,读者可以借此对照自己的 AI 辅助编码工作流。
推荐理由:Anthropic提出「上下文工程」方法论,指导开发者优化AI Agent设计
作者发布 VibeGame,一个构建在 three.js、rapier 和 bitecs 之上的高层声明式游戏引擎,专为 AI 辅助游戏开发设计。
推荐理由:作者实测了 Roblox MCP、Unity MCP 和 Web 三种方案的优劣,并据此开源了一个面向 AI 游戏开发的声明式引擎,思路和踩坑都可借鉴。
Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上加速 Qwen3-8B,以 Qwen3-0.6B 为草稿模型做投机解码,生成速度提升约 1.3 倍。
随着AI应用从单次提示转向构建长期运行的智能体,焦点正从“提示工程”演进为“上下文工程”。后者旨在为大型语言模型优化有限的上下文窗口内的全部信息,包括指令、工具、外部数据和对话历史。其核心挑战在于模型存在“注意力预算”限制和“上下文腐化”现象——随着上下文增长,模型回忆信息的准确性会下降。因此,上下文工程要求精心编排高价值信息,以有限的资源最大化产出期望结果,这已成为构建高性能、可操控智能体的关键。
推荐理由:Anthropic 亲自下场定义 context engineering 这个新范式,把 prompt engineering 之后的工程方法论讲透了。做 Agent 的人如果还在死磕 prompt,这篇会让你重新审视整个技术栈。
LlamaIndex 提出为 Claude Code 等编码智能体补上文档理解的三种互补模式:通过 MCP 连接 LlamaParse 索引检索、用 SemTools 扩展 CLI 解析搜索、在 CLAUDE.md 中注入标准化文档工作流模块。
Sierra 推出 Voice Sommelier,一套为品牌选择 AI 语音的最佳实践方法。该指南聚焦如何根据品牌调性匹配语音参数(如音高、语速、音色),而非仅依赖默认选项。Sierra 强调,合适的语音能提升用户信任感与交互完成率,建议品牌通过 A/B 测试和用户反馈迭代优化语音选择。
Modal 工程师 Eric Zhang 撰文解析 Modal Notebooks 的系统工程实现,该云 Jupyter notebook 可在数秒内启动 GPU 和自定义镜像并支持实时协作。
Hugging Face 在 Gradio 中内置可见水印功能,创建 Space 应用或 demo 时只需添加 watermark 参数即可为图像、视频和文本加水印。图像和视频通过 gr.Image、gr.Video 传入水印文件,支持图片或 numpy 数组,还可使用 QR 水印;文本则在 gr.Chatbot 中设置 watermark,用户复制 AI 回复时会自动附带水印署名。
Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级,包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。
推荐理由:原文详解 transformers 为支持 GPT-OSS 引入的内核下载、MXFP4、张量与专家并行等升级,多数特性可复用到其他模型。
文章探讨如何为基于大语言模型的智能体设计高效工具。核心方法是通过与智能体(如Claude Code)协作,采用快速原型构建和全面评估的迭代流程来优化工具性能。关键设计原则包括:选择适当的工具实现范围,使用命名空间明确功能边界,从工具向智能体返回有意义的上下文,优化响应以提高token效率,以及对工具描述进行提示词工程。工具本质上是确定性系统与非确定性智能体之间的新契约,设计应优先考虑智能体的使用体验,而非传统开发者导向的API思路,以扩大智能体解决实际任务的能力。
推荐理由:Anthropic 把自家内部反复打磨的 agent 工具开发方法论完整公开了,从评估流程到 prompt 工程细节全是实操干货,做 MCP server 或 agent 工具链的人可以直接抄作业。
LlamaIndex 自建包含 1000 篇 ArXiv 论文的基准,测试 Claude Code 在有无 SemTools 时的文档搜索表现。
Hugging Face 发布教程,介绍如何在 ZeroGPU Spaces 中用 PyTorch ahead-of-time(AoT)编译优化 H200 上的图像和视频生成 demo。
推荐理由:官方教程给出在 ZeroGPU Spaces 上接入 PyTorch AoT 编译的完整步骤和 1.3 至 1.8 倍加速数据,方法可直接迁移到图像视频生成 demo。
OpenAI 开源模型 gpt-oss 原生采用 MXFP4 量化,但社区长期缺乏针对该低精度格式的训练支持。NVIDIA 推出基于 Model Optimizer 的量化感知训练(QAT)方案,允许在 Blackwell、Hopper、Ampere 及 Ada 等常见 GPU 上直接微调模型,无需转换为 BF16 而牺牲性能。实测显示,经 QAT 微调的 gpt-oss-20b 在多语言推理任务中通过率从 16% 提升至 100%,在安全提示识别任务中从 30% 优化至 97%。微调后的模型可通过 SGLang 部署,保持 MXFP4 格式的推理速度与内存优势。
LlamaIndex 推出 CLI 工具 vibe-llama,可将 LlamaIndex、LlamaParse 及 workflows 的最新文档与 API 模式注入 Cursor、Claude Code 等编码智能体,避免其推荐过时 API。
Together AI 发布博客,讲解如何用 LLM Agent 自动化复杂长时工程任务,并以其内部投机解码(speculator)训练流水线为案例:任务需可验证、定义清晰、工具可支撑,核心模式包括优质工具、完善文档、安全执行、用 tmux 管理并行会话、让 Agent 学会 sleep 等待以及显式的进度验证。
Hugging Face 发布教程,介绍通过 Remote MCP server(https://huggingface.co/mcp?login)把 Claude 连接到 Hugging Face Spaces 生成图像,2025 年 10 月起需用 Add custom connector 方式添加。
推荐理由:教程给出了把 Claude 连接 Hugging Face MCP Server 调用 Krea 与 Qwen-Image 生成图像的具体步骤和适用场景。
Hugging Face 发布指南,介绍如何用其 kernel-builder 库从零构建生产级 CUDA kernel,并以 RGB 转灰度为例演示完整流程。