跳到正文
2025年11月6日周四
  1. LangChain:Blog63

    LangChain 重建 Chat LangChain:放弃向量嵌入,改用直接 API 访问与 Deep Agent 子图

    LangChain 重建了 chat.langchain.com,弃用分块加向量数据库的检索方案,改为让智能体通过 Mintlify API、知识库标题扫描和 ripgrep 代码搜索直接访问文档、知识库和代码库的原始结构。

    推荐理由:原文复盘了放弃向量嵌入、改用直接 API 访问和子图分域的重建思路,含工具设计与性能数字,方法可迁移到类似问答智能体。

2025年11月4日周二
  1. Together AI 研究与产品博客59

    Together AI 讲解如何评估和基准测试大语言模型

    Together AI 发布 LLM 评测与基准测试教程,覆盖 MMLU、GSM8K、HumanEval 等基准。文章提出好基准的五项原则,包括难度、多样性、实用性、可复现性和数据污染,并介绍选择题、生成式、人工评估和 LLM-as-a-judge 等方法,同时附带用于分类评测和 LLM-as-a-judge 的 Evaluations API 代码 notebook。

  2. Anthropic:Engineering74

    通过代码执行提升MCP智能体效率

    随着AI智能体通过模型上下文协议(MCP)连接的工具数量激增,传统预先加载所有工具定义并通过上下文传递中间结果的方法,导致处理速度变慢、成本增加。问题核心在于工具定义占用大量上下文空间,且中间结果(如完整会议记录)在多次工具调用间重复传递,额外消耗数万令牌。文章提出解决方案:将MCP服务器呈现为代码API,使智能体能按需加载工具,并在执行环境中处理数据,仅将精简结果传回模型,从而显著减少令牌消耗、提升效率并降低成本。

    推荐理由:Anthropic 官方把 MCP 从「能连」推进到「连多了怎么办」,用代码执行替代直接工具调用,token 省 98.7% 这个数字不是吹的。做 Agent 工程的人如果还在暴力塞 tool definition,这篇是必读的架构升级指南。

2025年11月3日周一
  1. LMSYS Blog

    在 NVIDIA DGX Spark 上优化 GPT-OSS:实现本地大模型部署

    与 NVIDIA 合作,在 DGX Spark 上通过 SGLang 成功支持 GPT-OSS 20B 与 120B 模型,实现 20B 版本约 70 tokens/s、120B 版本约 50 tokens/s 的生成速度,达到目前最优水平。用户可通过 Docker 部署 SGLang 服务,接入 Open WebUI 实现本地聊天,或借助 LMRouter 转换请求格式以完全本地化运行 Claude Code。该方案使在 DGX Spark 上部署多百亿参数本地编码智能体成为现实。

    推荐理由:DGX Spark本地跑通Claude Code完全离线,隐私敏感开发者的新选择

2025年10月30日周四
  1. Claude:Blog

    金融服务领域构建 AI 代理指南

    Claude 发布金融服务 AI 代理构建指南,分享 NBIM、Brex 等机构实践。NBIM 员工每周节省数百小时,McKinsey 研究显示欺诈检测生产力可提升 200% 至 2000%。AI 代理能自主整合多源数据、执行跨系统操作,在合规框架下处理客户服务与风险分析,将传统分析工具升级为可独立完成交易的自主系统。

    推荐理由:Anthropic官方分享金融AI智能体落地实践,含NBIM、Brex等真实案例与效率数据。

2025年10月29日周三
2025年10月28日周二
  1. Hugging Face 社区博客56

    Hugging Face 提出语音同意门机制,探索带授权的语音克隆方案

    Hugging Face 发布带授权语音克隆的语音同意门概念及示例 Space 和配套代码。系统先生成包含同意语句和模型名的全新句子,经 ASR 识别确认后,才允许用该音频驱动语音克隆 TTS,使同意成为可审计的系统前提;作者也指出该设计可被其他 TTS 伪造,未来可结合音频溯源和说话人嵌入校验。

2025年10月27日周一
  1. OpenAI Developers:Blog57

    Dagster Labs 如何用 OpenAI Codex 加速文档与教学内容生产

    Dagster Labs 撰文介绍团队如何用 OpenAI Codex 加速文档编写、讲解 PR、在教程、博客与视频脚本等媒介间转译内容。团队重构了 CONTRIBUTING.md,认为清晰的文档结构同时服务人类和 AI;还用文档作为唯一事实来源让 Codex 生成代码并跑测试,以间接衡量文档覆盖度。作者支持 mono repo,认为代码、文档和示例放在同一仓库能让 Codex 获得完整上下文。

2025年10月23日周四
2025年10月21日周二
2025年10月16日周四
2025年10月15日周三
2025年10月13日周一
  1. Answer.AI 官方研发博客60

    Kerem Turgutlu 用 SolveIt 将 Karpathy 的 tokenizer 视频教程做成书章

    Answer.AI 的 Kerem Turgutlu 撰文讲解如何用 SolveIt 把 Andrej Karpathy 超两小时的 tokenizers 视频教程转成带可运行代码、超链接和图片的书章。

    推荐理由:作者完整复盘两阶段对话工作流,把超两小时视频转成可运行代码的书章,方法可直接迁移到任意长视频转写场景。

2025年10月10日周五
2025年10月6日周一
2025年10月2日周四
2025年10月1日周三
2025年9月29日周一
  1. Anthropic:Engineering78

    为AI智能体实施有效的上下文工程

    随着AI应用从单次提示转向构建长期运行的智能体,焦点正从“提示工程”演进为“上下文工程”。后者旨在为大型语言模型优化有限的上下文窗口内的全部信息,包括指令、工具、外部数据和对话历史。其核心挑战在于模型存在“注意力预算”限制和“上下文腐化”现象——随着上下文增长,模型回忆信息的准确性会下降。因此,上下文工程要求精心编排高价值信息,以有限的资源最大化产出期望结果,这已成为构建高性能、可操控智能体的关键。

    推荐理由:Anthropic 亲自下场定义 context engineering 这个新范式,把 prompt engineering 之后的工程方法论讲透了。做 Agent 的人如果还在死磕 prompt,这篇会让你重新审视整个技术栈。

2025年9月22日周一
2025年9月18日周四
2025年9月16日周二
2025年9月15日周一
  1. Hugging Face 社区博客47

    Hugging Face 用 Gradio 一条命令为 AI 生成内容添加可见水印

    Hugging Face 在 Gradio 中内置可见水印功能,创建 Space 应用或 demo 时只需添加 watermark 参数即可为图像、视频和文本加水印。图像和视频通过 gr.Image、gr.Video 传入水印文件,支持图片或 numpy 数组,还可使用 QR 水印;文本则在 gr.Chatbot 中设置 watermark,用户复制 AI 回复时会自动附带水印署名。

2025年9月11日周四
  1. Hugging Face 社区博客65

    Hugging Face 详解 transformers 为支持 OpenAI GPT-OSS 做出的多项性能升级

    Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级,包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。

    推荐理由:原文详解 transformers 为支持 GPT-OSS 引入的内核下载、MXFP4、张量与专家并行等升级,多数特性可复用到其他模型。

  2. Anthropic:Engineering73

    为智能体编写高效工具——与智能体协作

    文章探讨如何为基于大语言模型的智能体设计高效工具。核心方法是通过与智能体(如Claude Code)协作,采用快速原型构建和全面评估的迭代流程来优化工具性能。关键设计原则包括:选择适当的工具实现范围,使用命名空间明确功能边界,从工具向智能体返回有意义的上下文,优化响应以提高token效率,以及对工具描述进行提示词工程。工具本质上是确定性系统与非确定性智能体之间的新契约,设计应优先考虑智能体的使用体验,而非传统开发者导向的API思路,以扩大智能体解决实际任务的能力。

    推荐理由:Anthropic 把自家内部反复打磨的 agent 工具开发方法论完整公开了,从评估流程到 prompt 工程细节全是实操干货,做 MCP server 或 agent 工具链的人可以直接抄作业。

2025年9月5日周五
2025年9月2日周二
  1. Hugging Face 社区博客66

    Hugging Face 教程:用 PyTorch 提前编译加速 ZeroGPU Spaces 生成模型

    Hugging Face 发布教程,介绍如何在 ZeroGPU Spaces 中用 PyTorch ahead-of-time(AoT)编译优化 H200 上的图像和视频生成 demo。

    推荐理由:官方教程给出在 ZeroGPU Spaces 上接入 PyTorch AoT 编译的完整步骤和 1.3 至 1.8 倍加速数据,方法可直接迁移到图像视频生成 demo。

2025年8月28日周四
  1. LMSYS Blog

    gpt-oss MXFP4 微调和部署:ModelOpt + SGLang(8月29日更新)

    OpenAI 开源模型 gpt-oss 原生采用 MXFP4 量化,但社区长期缺乏针对该低精度格式的训练支持。NVIDIA 推出基于 Model Optimizer 的量化感知训练(QAT)方案,允许在 Blackwell、Hopper、Ampere 及 Ada 等常见 GPU 上直接微调模型,无需转换为 BF16 而牺牲性能。实测显示,经 QAT 微调的 gpt-oss-20b 在多语言推理任务中通过率从 16% 提升至 100%,在安全提示识别任务中从 30% 优化至 97%。微调后的模型可通过 SGLang 部署,保持 MXFP4 格式的推理速度与内存优势。

2025年8月25日周一
2025年8月21日周四
  1. Together AI 研究与产品博客60

    Together AI 分享用 AI Agent 自动化复杂工程任务的六个模式

    Together AI 发布博客,讲解如何用 LLM Agent 自动化复杂长时工程任务,并以其内部投机解码(speculator)训练流水线为案例:任务需可验证、定义清晰、工具可支撑,核心模式包括优质工具、完善文档、安全执行、用 tmux 管理并行会话、让 Agent 学会 sleep 等待以及显式的进度验证。

2025年8月19日周二
  1. Hugging Face 社区博客61

    Hugging Face 教你将 Claude 连接 Spaces 用 FLUX.1 Krea dev 和 Qwen-Image 生成图像

    Hugging Face 发布教程,介绍通过 Remote MCP server(https://huggingface.co/mcp?login)把 Claude 连接到 Hugging Face Spaces 生成图像,2025 年 10 月起需用 Add custom connector 方式添加。

    推荐理由:教程给出了把 Claude 连接 Hugging Face MCP Server 调用 Krea 与 Qwen-Image 生成图像的具体步骤和适用场景。

2025年8月18日周一