Hugging Face 详解异步机器人推理：解耦动作预测与执行
Hugging Face 在 LeRobot 中引入异步推理，将动作预测与执行解耦为 PolicyServer 和 RobotClient 两个进程，通过 gRPC 通信。在 SmolVLA 实验中任务完成时间约提速 2 倍且成功率相当；文章讲解了队列为空导致的延迟问题、阈值 g 的调参（实验中 g≈0.7 较优，推荐从 g=0.5 起步）及观测聚合策略。
#教程/实践
Hugging Face 社区博客AI 评分5353 Hugging Face 社区博客精选AI 评分6666 Hugging Face 复盘 hf.co/mcp MCP Server 的构建与部署选型
Hugging Face 团队复盘官方 MCP Server（hf.co/mcp）的开发经验，服务器开源自持 STDIO、SSE 和 Streamable HTTP 三种传输方式。
推荐理由：官方复盘远程 MCP Server 的传输选型与部署取舍，给出 Streamable HTTP 各通信模式的适用场景和真实客户端行为数据，方法可直接迁移。
Hugging Face 社区博客精选AI 评分7272 Hugging Face 教你用 Gradio MCP Servers 给 LLM 增加新能力
Hugging Face 发文介绍如何通过 Gradio MCP Servers 为 LLM 添加新能力。Gradio 自 5.28.0 版本起支持 MCP 协议，使 Hugging Face Spaces 上数千个应用可作为 MCP 服务器使用，文章以 Flux.1 Kontext[dev] 图像编辑为例，演示了在设置中添加 Spaces Tools 并接入 Cursor 的完整步骤。
推荐理由：原文给出了把 Hugging Face Spaces 上的 Gradio 应用接入 LLM 的具体步骤，读者可以照着为自己的模型添加新能力。
Hugging Face 社区博客AI 评分4747 Hugging Face 与 AMD 合作为 MI300X 打造自定义 kernel，优化 Llama 3.1 405B FP8 推理
Hugging Face 与 AMD 合作，为 MI300X GPU 编写了三个开源自定义 kernel——融合残差连接、RMS norm 与 FP8 转换 kernel。
Hugging Face 社区博客AI 评分5151 Hugging Face 讲解高效多模态数据管道：用背包打包消除 padding 浪费
Hugging Face 团队基于 nanoVLM 项目排查训练慢的原因，发现 GPU 闲置和大量 padding token 导致约 60% 的 batch 被浪费。
LlamaIndex：产品、工程与评测AI 评分4444 如何用 DeepEval 和 LlamaIndex 评测 RAG
DeepEval 与 LlamaIndex 组合可对 RAG 流水线做单元测试式评测：DeepEval 提供 50+ 开箱即用指标，默认由 OpenAI gpt-4o 驱动，示例选用 Answer Relevancy、Faithfulness 和 Contextual Precision 三项 RAG 指标。
LlamaIndex：产品、工程与评测AI 评分4848 什么是上下文工程？LlamaIndex 详解其与提示词工程的区别及实现技巧
LlamaIndex 发文拆解"上下文工程"概念，指出它与提示词工程的区别在于更关注用最相关信息填满 LLM 的上下文窗口，而非仅提供指令。文章将上下文拆为系统提示词、用户输入、短期与长期记忆、知识库检索、工具定义与响应、结构化输出、全局状态等来源，并给出知识库或工具选择、上下文排序与压缩等策略，可用 LlamaIndex 和 LlamaParse 落地。
Modal 官方工程博客精选AI 评分6262 Modal 如何用 evals 和推理时算力扩展生成既美观又可扫的 QArt 二维码
Modal 团队复盘其 QArt codes 服务的工程过程，通过 evals 和推理时算力扩展将二维码扫描率提升到 95% 的 SLO，同时改善美观度并将 p95 端到端延迟控制在 20 秒内。
推荐理由：Modal 团队复盘 QArt codes 从不可扫到 95% 扫描率的工程路径，evals 构建与推理时并行扩展的方法可迁移到其他生成模型应用。
Hugging Face 社区博客精选AI 评分6464 Sentence Transformers 发布稀疏嵌入模型训练与微调教程
Hugging Face 发布教程，讲解如何用 Sentence Transformers 训练和微调稀疏嵌入模型，涵盖模型架构选择（Splade、Inference-free Splade、CSR）、数据集、损失函数、训练参数与评估器等组件。
推荐理由：原文系统拆解了稀疏嵌入模型的微调组件和混合检索实测数据，方法可直接迁移到自己的检索场景。
Factory 研究 / 产品精选AI 评分7070 Factory 提出 Agent Native Development：用自主智能体开发软件的方法论
Factory 发布 Agent Native Development 方法论，主张让 agent 运行收集上下文、规划、实现、验证、提交的完整内循环，人来负责架构决策和护栏。
推荐理由：Factory 提出的 Agent Native Development 方法论给出写精确规格、验证环境和 drift 恢复的可迁移做法，适合想系统化用 agent 写代码的开发者参考。
Sierra：BlogAI 评分5151 Sierra 详解基础模型推理层的自适应路由与请求对冲实践
Sierra 介绍其自适应路由客户端，把基础模型可靠性当作动态优化问题，通过 Balanced 与 Protective 两种转向模式、自适应健康检查和基于 EWMA 的加权 tumbling 窗口，将请求路由到表现最佳的提供商。上线当月经历多次提供商故障，包括一次持续数小时的中断，客户均未感知停机。配套的请求对冲策略在超过设定延迟阈值时发送备份请求，使 P99 延迟下降超过 70%。
TensorZero：实验与工程博客AI 评分5555 TensorZero 如何用每次 Git 提交自动评估 AI 编码助手
TensorZero 发布一套开源方法，通过 post-commit Git hook 自动评估 Cursor 等编码智能体在实际工程流程中的效果。方法将生成代码与提交代码解析为语法树，用 tree-sitter 和 Zhang-Shasha 树编辑距离（TED）计算语言感知的奖励分数，并以 Rust 二进制配合 rayon 并行计算反馈存入 ClickHouse。
LlamaIndex：产品、工程与评测AI 评分5252 LlamaIndex 教程：用 Agent Workflows 与 Zoom RTMS 构建 Notion 会议记录助手
LlamaIndex 发布教程，结合 Zoom 新推出的 RTMS 实时会议数据流与 LlamaIndex 事件驱动 Agent Workflow 及 Notion API，构建实时会议记录助手，示例已开源。
Ethan Mollick：One Useful Thing精选 当下如何使用 AI：快速指南
一份当下 AI 工具的快速选用指南，聚焦目前值得使用的 AI 产品及其具体使用方法，帮助读者快速上手并选对工具。
推荐理由：AI教育专家Ethan Mollick撰写，指导读者当下如何选择和使用AI工具
Hamel Husain 长文AI 评分6161 Inspect AI 开源 Python 评测框架详解：JJ Allaire 演讲注解版
Hamel Husain 将 JJ Allaire 关于开源 LLM 评测框架 Inspect AI 的演讲整理为带时间戳的注解版。Inspect 由 JJ 在英国 AI 安全研究所（AISI）休假期间开发，已被 Anthropic、DeepMind、Grok 等多个实验室采用，用于几乎全部 UK AISI 自动化评测。
Eugene Yan：WritingAI 评分5959 Eugene Yan 详解长上下文问答系统评测：指标、数据集构建与六个基准
Eugene Yan 发布长上下文问答系统评测指南，提出以忠实性与有用性两个正交维度衡量回答质量，并介绍用人类标注与 LLM 评估器打分的方法。文章拆解 NarrativeQA、NovelQA、QASPER、L-Eval、HELMET、Loong 六个基准的设计思路，指出传统 n-gram 指标与人类判断相关性差，证据位置影响模型表现，且 RAG 在 Loong 的多文档综合任务上反而降低性能。
Hugging Face 社区博客精选AI 评分6969 Hugging Face 教程：用 QLoRA 在 RTX 4090 上以约 9GB 显存微调 FLUX.1-dev
Hugging Face 发布教程，讲解用 QLoRA 和 diffusers 库在单卡消费级硬件上微调 FLUX.1-dev，学习 Alphonse Mucha 画风。
推荐理由：原文给出完整训练配置、显存与耗时数据，读者可以照着在消费级 GPU 上复现 FLUX.1-dev 的 QLoRA 微调。
Modal 官方工程博客AI 评分5757 Modal 讲解如何将 FLUX.1-dev 推理提速三倍并匹配专有 API 性能
Modal 官方博客分享如何将 Black Forest Labs 的 FLUX.1-dev 在 Modal 上的自托管推理提速三倍，使 1024x1024 图像生成延迟从约 6.75 秒降至约 2.2 秒，达到与专有 API 竞争的三秒目标。
Anthropic：Engineering精选AI 评分7373 我们如何构建多智能体研究系统
Claude的多智能体研究系统采用协调器-工作者架构，一个主导智能体分析用户查询并制定策略，并行调用多个专用子智能体协同工作。内部评估显示，以Claude Opus 4为主导、Claude Sonnet 4为子智能体的系统，在研究任务上比单智能体Claude Opus 4性能提升90.2%。该系统擅长处理需要同时探索多个独立方向的广度优先查询，通过分配独立上下文窗口实现并行推理扩容。但多智能体系统消耗的token量约为普通聊天的15倍，适用于任务价值足以支撑性能提升的场景，在需要高度并行化、大信息量或多工具调用的任务中表现卓越。
推荐理由：Anthropic 把 Research 背后的多智能体架构、prompt 工程和踩坑经验全抖出来了，做 Agent 的同行可以直接抄作业，尤其是『token 用量解释 80% 性能方差』这个结论，选型逻辑要变。
Hugging Face 社区博客AI 评分4343 长提示词如何阻塞其他请求：优化 LLM 推理性能
TNG 在 24 张 H100 上自托管多个大语言模型，每日消耗超 1 亿 token、生成超 1000 万 token，发现 vLLM 默认 chunked-prefill 会顺序调度不同请求的 prefill，单个长提示词请求会阻塞后续请求的 prefill 队列，显著拉高首 token 延迟。
Hugging Face 社区博客精选AI 评分6161 Hugging Face 5 分钟上手 Kernel Hub：从 Hub 直接加载预编译优化内核
Hugging Face 发布 Kernel Hub 入门教程，介绍通过 kernels 库的 get_kernel 直接从 Hub 加载预编译优化内核，无需本地编译 Triton 或 CUTLASS，例如一行代码启用 FlashAttention，库会自动匹配 Python、PyTorch 和 CUDA 版本下载对应二进制。
推荐理由：官方教程给出 Kernel Hub 的用法和 RMSNorm 实测加速数据，读者可以据此评估是否用它省去本地编译内核的成本。
Hugging Face 社区博客AI 评分5959 NVIDIA 发布 Isaac GR00T N1.5 并给出 LeRobot SO-101 机械臂微调教程
NVIDIA 发布 Isaac GR00T N1.5，这是面向通用人形机器人推理与技能的开源基础模型 GR00T N1 的首个大版本更新，可通过后训练适配不同本体、任务和环境。
Answer.AI 官方研发博客AI 评分4545 Answer.AI 博客介绍 fastcore 库中的 flexicache 缓存装饰器用法
文章由 Daniel Roy Greenfeld 撰写，介绍了 Jeremy Howard 在 fastcore 库中新增的 flexicache 装饰器。该工具支持灵活的内存缓存策略，包括基于时间（time_policy）和文件修改时间（mtime_policy）的自动失效机制，以及 LRU 缓存替换。文中通过代码示例演示了如何单独或组合使用这些策略来优化 Python 函数调用性能。
TensorZero：实验与工程博客精选AI 评分7272 TensorZero 逆向 Cursor 的 LLM 客户端并公开其系统提示词
TensorZero 团队将自家的开源框架作为自托管代理接入 Cursor，经 Ngrok 和 Nginx 绕过 Cursor 服务器与 CORS 限制后，成功观察并控制其全部 LLM 调用。
推荐理由：作者实测把自托管代理接进 Cursor，读者可以照着复现并查看其真实提示词与模型调用。
Hugging Face 社区博客AI 评分5656 Hugging Face 在 nanoVLM 中从零实现 KV Cache，生成提速 38%
Hugging Face 在其纯 PyTorch 视觉语言模型训练代码库 nanoVLM 中从零实现了 KV Cache，生成速度提升 38%（每 1000 tokens 从 15.1s 降至 9.4s）。
Hugging Face 社区博客AI 评分5151 TRL 支持 vLLM 共置模式：训练与推理共享 GPU 提升 GRPO 吞吐
Hugging Face 在 TRL v0.18.0 中通过 PR #3394 为 vLLM 引入共置（colocate）模式，训练与推理可在同一 GPU 进程组内轮流执行，通过设置 vllm_mode="colocate" 启用，取代原先需要独立服务器和专用 GPU 的 server 模式。
OpenAI DevelopersAI 评分5252 OpenAI Cookbook 发布收据解析自动化工作流的评估驱动系统设计指南
OpenAI 发布 Cookbook 教程，介绍用评估驱动设计方法构建收据解析自动化工作流，覆盖从原型到生产的过程。
Hamel Husain 长文AI 评分7676 Hamel Husain 整理 AI Evals 常见问题 FAQ：错误分析、LLM-as-Judge 与 RAG 评估实操指南
Hamel Husain 与 Shreya Shankar 汇总在培训 700 多名工程师和 PM 过程中收到的 AI Evals 常见问题，区分模型基准测试与产品评估，主张从错误分析入手而非直接搭建基础设施。
OpenAI DevelopersAI 评分5454 OpenAI Cookbook 发布 o3/o4-mini 函数调用指南
OpenAI Cookbook 发布指南，讲解如何通过提示词最佳实践改进 o3/o4-mini 的函数调用表现。
Hugging Face 社区博客精选AI 评分6666 Hugging Face 推出 Tiny Agents in Python：基于 MCP 的约70行代码智能体
Hugging Face 发布 Tiny Agents in Python，受 Tiny Agents in JS 启发将 huggingface_hub 客户端 SDK 扩展为 MCP Client，可用约70行代码构建 MCP 驱动的智能体。
推荐理由：原文展示了用约70行代码在Python中构建MCP智能体的完整思路与代码，读者可以据此搭建自己的工具调用智能体。
Sierra：BlogAI 评分4949 Sierra 如何打造更拟人的 AI 语音体验
Sierra 分享其 AI 语音智能体在真实通话中的三项经验：自研 Voice Activity Detection（VAD）系统可区分背景噪音、打断与附和；智能体能同时思考与倾听、倾听与说话、说话与思考，并实时纠错；语音场景下更多上下文反而提升问题解决效果。Sierra 称其平台上的 AI 智能体可提供 24/7 语音支持，无需等待、转接或回拨，无法解决时可无缝转接人工坐席。
Hugging Face 社区博客精选AI 评分6060 Hugging Face Diffusers 量化后端对比：Flux-dev 内存与速度实测
Hugging Face 发布 Diffusers 量化后端指南，对比 bitsandbytes、torchao、Quanto、GGUF 和 FP8 Layerwise Casting 在 FLUX.1-dev 上把 BF16 加载内存约 31.447 GB 压缩到约 10.6 至 23.7 GB 的表现。
推荐理由：原文实测了 Diffusers 各量化后端在 Flux 上的内存和推理速度数据，读者可以按需求选后端并直接复用配置代码。
Hugging Face 社区博客精选AI 评分7171 Hugging Face 发布 nanoVLM：用纯 PyTorch 训练视觉语言模型的最简仓库
Hugging Face 团队发布 nanoVLM，一个用纯 PyTorch 训练视觉语言模型的极简工具仓库，可在免费版 Colab 上启动训练。
推荐理由：官方团队介绍 nanoVLM 的架构与训练流程，读者可以据此理解 VLM 的多模态对齐原理并低成本动手训练。
LlamaIndex：产品、工程与评测AI 评分4949 LlamaIndex 如何用自研 LlamaDev 重构 650+ Python 包 monorepo
LlamaIndex 为管理包含 650 多个 Python 包（多为 Integrations 和 Packs）的 monorepo，自研了大规模 monorepo 管理工具 LlamaDev。此前其技术栈为 Poetry 管理单个包、Pants 跨包编排测试、GitHub Actions 自动化，该组合使用超过一年，但随规模扩大暴露出构建速度与缓存服务器等问题。
Hugging Face 社区博客精选AI 评分6060 Hugging Face 宣布将 Transformers 定位为跨框架的模型定义标准库
Hugging Face 官方宣布，未来 Transformers 将作为跨框架的模型定义标准，凡支持的 300+ 模型架构可望在 vLLM、SGLang 等推理引擎及 Axolotl、Unsloth 等训练框架中获得支持。团队还将简化模型贡献流程，目标是让新模型不再需要 6000 行代码、20 个文件的改动，并与 llama.cpp、MLX 加强 GGUF 等格式互转。
推荐理由：官方阐明 Transformers 定位为模型定义标准，读者可据此理解训练与推理框架间互操作的工作流变化。
LlamaIndex：产品、工程与评测精选AI 评分6060 LlamaIndex 为 Agent 推出改进的长短期 Memory 组件
LlamaIndex 发布改进的 Memory 组件，为 Agent 提供短长期记忆能力。基础形式将聊天记录按 token 上限存入 SQL 数据库（默认内存 SQLite）。
推荐理由：官方介绍了新版 Memory 组件的设计与用法，开发者可以对照三类长期记忆块判断是否迁移自己的 Agent 工作流。
Hugging Face 社区博客AI 评分4646 LeRobot 社区数据集：机器人领域的“ImageNet”何时到来、如何实现？
Hugging Face 发文探讨 LeRobot 社区数据集能否成为机器人领域的“ImageNet”，指出当前机器人数据多来自受控学术环境、缺乏多样性，难以支撑 VLA 模型的泛化能力。文章梳理了社区数据集在任务标注、特征映射、数据质量和动作/状态维度四方面的不一致问题，并给出图像质量、元数据与录制协议、特征命名、任务标注等最佳实践。
Johann Rehberger / Embrace The RedAI 评分6666 ChatGPT 如何记住你：chat history 记忆与聊天历史机制深度拆解
Johann Rehberger 通过提示词导出实测 ChatGPT o3，拆解了 chat history 记忆功能的工作方式：它并非检索历史对话，而是在系统提示词中维护 Assistant Response Preferences。
Eugene Yan：WritingAI 评分5656 Eugene Yan 如何用 MCP、Amazon Q CLI 和 tmux 搭建每日新闻摘要多智能体
Eugene Yan 为理解 MCP 和智能体工作流，基于 Amazon Q CLI 和 MCP 构建了 news-agents，用于生成每日新闻摘要。
LlamaIndex：产品、工程与评测AI 评分4747 LlamaIndex 谈有效智能体的最佳设计模式：Workflows 如何融合自主性与结构
LlamaIndex 分享其对有效智能体设计模式的看法，主张在完全自主与刚性结构之间取混合路线，并以其 Python 和 TypeScript 框架中的 Workflows 事件系统实现链、分支、循环与并行等模式。Workflows 在关键流程上提供可预测的确定性路径，同时让 LLM 在非结构化输入、灵活规则和新场景中保持自主，并支持 human-in-the-loop。