跳到正文
2025年8月18日周一
  1. Hugging Face 社区博客60

    Hugging Face 推出 Research Tracker MCP,用自然语言连接 arXiv、GitHub 等研究工具

    Hugging Face 发布面向学术研究发现的 Research Tracker MCP,用户可在 huggingface.co/settings/mcp 搜索添加,供 Claude Desktop、Cursor、Claude Code、VS Code 等客户端使用。

    推荐理由:原文把研究检索拆成手动、脚本、MCP 三层抽象,并给出可直接添加的 Research Tracker 入口,便于读者迁移到自己工作流。

2025年8月14日周四
2025年8月13日周三
2025年8月8日周五
2025年8月7日周四
  1. OpenAI Developers64

    如何用 LM Studio 在本地运行 gpt-oss

    OpenAI 发布 Cookbook 教程,讲解如何在本地硬件上用 LM Studio 运行 gpt-oss。LM Studio 是一款在本地硬件运行大语言模型的桌面应用,教程将引导用户完成本地运行 gpt-oss 的步骤。

    推荐理由:OpenAI 官方 Cookbook 给出在本地硬件用 LM Studio 运行 gpt-oss 的完整步骤,可作为离线部署的操作参考。

  2. LlamaIndex:产品、工程与评测41

    用文档智能体自动化工作流:基于 LlamaParse 构建上下文感知 AI 的完整教程

    LlamaIndex 发布教程,演示如何用 LlamaParse Index 解析并索引非结构化文档,再通过开源智能体框架接入 AI 智能体。教程以 JPMorgan Chase 存款账户披露文件为数据集,用 Claude Sonnet 4 搭建查询引擎与 FunctionAgent,可完成透支费、补卡费和止付费等复合计算。

2025年8月5日周二
  1. OpenAI Developers79

    如何用 Ollama 在本地运行 gpt-oss

    OpenAI 开发者发布教程,讲解如何用 Ollama 在本地硬件上部署 gpt-oss-20b 或 gpt-oss-120b 并选择合适的推理设置。

    推荐理由:来自 OpenAI 开发者官方的实操指南,读者可按步骤在自己硬件上用 Ollama 跑通 gpt-oss 两个规格模型。

  2. OpenAI Developers60

    OpenAI Cookbook 教程:用 Hugging Face Transformers 微调 gpt-oss

    OpenAI 开发者 Cookbook 发布教程,讲解如何结合 gpt-oss 与 Hugging Face Transformers 进行微调。文章由 Edward Beeching、Quentin Gallouédec 和 Lewis Tunstall 撰写,并从大型推理模型(如 OpenAI o3)通过生成思维链提升准确性的背景切入。

    推荐理由:官方 Cookbook 教程给出用 Hugging Face Transformers 微调 gpt-oss 的具体路径,适合需要本地定制推理模型的开发者参考。

2025年8月3日周日
2025年8月1日周五
2025年7月31日周四
2025年7月28日周一
2025年7月25日周五
  1. Hugging Face 社区博客61

    Hugging Face 推出 PyArrow 与 Pandas 的 Parquet 内容定义分块(CDC)特性

    Hugging Face 宣布 Parquet Content-Defined Chunking(CDC)现已在 PyArrow 和 Pandas 中可用,配合 Xet 存储层只上传或下载变化的数据块,降低 Parquet 文件传输和存储成本。

    推荐理由:原文给出 CDC 在增删列、插入删除行等场景下的实测传输量对比和启用方法,读者可直接迁移到自己的数据集上传流程。

2025年7月24日周四
2025年7月23日周三
  1. Modal 官方工程博客69

    Modal 实测:用开源 ASR 模型将批量语音转写提速 100 倍、成本降 100 倍

    Modal 工程团队在平台上部署 NVIDIA parakeet-tdt-0.6b-v2 与 canary-1b-flash 开源 ASR 模型,对约一周(7×24 小时)ESB 基准音频做批量转写,结果比所测专有 API 快 112 倍或便宜 200 倍,且错误率略低,实现了一分钟内以 1 美元转写一周音频。

    推荐理由:原文给出可复现的批量转录优化方法与端到端实测数据,读者可以据此在自己的语音转写服务中权衡成本与吞吐。

  2. Hugging Face 社区博客63

    Diffusers 与 PEFT 优化 Flux LoRA 推理,H100 上提速 2.23x

    Hugging Face 发布针对 Flux.1-Dev 的 LoRA 快速推理优化教程,结合 Flash Attention 3、torch.compile 和 FP8 量化,在 H100 上实现约 2.23x 提速。

    推荐理由:原文给出可复现的 Flux LoRA 推理优化配方和实测延迟数据,覆盖 H100 与 RTX 4090 两种硬件场景,方法可直接迁移到自己的部署流程。

2025年7月22日周二
2025年7月21日周一
  1. OpenAI Developers45

    OpenAI 发布实时音频开发指南

    OpenAI Developers 发布了关于 Realtime API 和音频处理的官方指南,内容涵盖如何构建实时语音代理、进行实时翻译以及实现流式转录。该指南主要面向开发者,提供低延迟场景下的技术实现参考。

2025年7月20日周日
  1. LMSYS Blog

    基于PD分离与大规模专家并行在128张H200 GPU上部署Kimi K2

    Mooncake团队基于OME和SGLang框架,在128张H200 GPU集群上完成了Moonshot AI 1万亿参数开源MoE模型Kimi K2的大规模部署。该方案采用PD分离与大规模专家并行技术,针对模型384个专家和每token 320亿激活参数的设计进行优化,通过跨节点通信优化与负载均衡策略,显著提升了trillion-scale模型的推理吞吐与并发处理能力。

2025年7月18日周五
  1. OpenAI Developers45

    OpenAI Computer Use API 使用指南

    OpenAI Developers 发布了一篇关于 Computer Use API 的指南,介绍了基于计算机使用代理(CUA)的相关功能。该资料主要指向官方文档链接,未包含具体的技术细节、代码示例或新的能力变更说明。

  2. Manus:Blog68

    Manus 团队分享构建 AI 智能体的上下文工程经验教训

    Manus 团队成员 Yichao 'Peak' Ji 撰文分享构建 Manus 智能体的上下文工程经验,核心原则包括围绕 KV-cache 命中率设计、用 logits 遮蔽而非移除工具、把文件系统当作终极上下文、通过复述待办列表操控注意力,以及保留错误和避免少样本陷阱。

    推荐理由:Manus 团队复盘构建智能体的上下文工程经验,KV缓存、工具遮蔽和文件记忆等做法可直接迁移到读者的 Agent 项目。

2025年7月16日周三
  1. LMSYS Blog

    在 SGLang 中支持新 VLMs:NVILA 案例研究

    NVILA 团队发布技术博客,详解如何在 SGLang 推理框架中集成新型视觉语言模型。文章以 NVILA 为实践案例,提供从模型适配、推理优化到部署的完整开发指南与代码实践。随着多模态大模型成为行业焦点,该方案填补了 SGLang 生态在视觉理解模型支持方面的文档空白,为开发者快速接入新 VLM 提供了标准化技术路径与最佳实践。

2025年7月15日周二
2025年7月14日周一
  1. OpenRouter:Announcements56

    OpenRouter 模型现可在 Cursor 中使用:试试月之暗面 Kimi K2

    OpenRouter 宣布其灵活模型路由支持在 Cursor 中运行月之暗面的 Kimi K2。用户可直接在 Cursor 中调用 OpenRouter 路由的模型,无需额外配置。

    推荐理由:一篇将 OpenRouter 模型接入 Cursor 的实操指南,虽然已过时三百多天,但对想免配置用 Kimi K2 的 Cursor 用户仍有参考价值。

2025年7月11日周五