将Agent封装为MCP服务器示例
MCP Agent Server示例展示了将Agent工作流封装为MCP服务器的"Agent即服务"架构。提供asyncio（轻量级内存执行，适合开发测试）和Temporal（生产级持久化、支持暂停恢复）两种实现。通过装饰器暴露Agent能力，支持多Agent互操作，可与Claude Desktop等任意MCP客户端集成，实现复杂工作流的标准化封装与跨平台复用。
推荐理由：展示 Agent 即 MCP 服务器新范式，支持多 Agent 协作与主流客户端集成
#开源/仓库
Hacker News：AI 热帖精选
LMSYS Blog 技术博客：在96块H100 GPU上通过PD分离与大规模专家并行部署DeepSeek
SGLang团队开源了基于96块H100 GPU（12节点×8卡）的DeepSeek推理系统实现，采用PD分离（Prefill-Decode Disaggregation）与大规模专家并行（EP）架构，集成DeepEP、DeepGEMM和EPLB完整功能，在2000 token输入序列下达成每节点每秒52.3k输入token和22.3k输出token的吞吐量。该方案较传统张量并行提升输出吞吐量5倍，将成本压缩至每百万输出token仅0.20美元，约为官方API价格的五分之一，是首个在开源实现中接近官方DeepSeek报告性能的大规模部署方案。
Saining Xie@sainingxie最近由 @TongPetersb、@DavidJFan 和 Meta FAIR 团队开源的项目。
引用Peter Tong@TongPetersbWe are open-sourcing all the models in Web-SSL, from ViT-L to ViT-7B! It was super fun to train and play with these massive ViTs. Models: https://huggingface.co/collections/facebook/web-ssl-68094132c15fbd7808d1e9bb Github: https://github.com/facebookresearch/webssl Huge credit to @DavidJFan for putting these models together!
公众号：DeepSeek精选AI 评分6464 DeepSeek-V3 模型更新，各项能力全面进阶
DeepSeek-V3 新版已发布，关闭深度思考模式即可体验，模型权重同步开源。
推荐理由：DeepSeek-V3 发布时是开源模型的有力竞争者，但这条一年多前的旧闻如今毫无新意，对关注 AI 动态的你来说，可以直接跳过。
Hacker News：AI 热帖 Show HN: Hyperbrowser MCP Server - 通过浏览器将 AI agent 连接至网络
Hyperbrowser 发布 MCP Server，为 AI agent 提供网页抓取、结构化数据提取和爬取能力。支持集成 OpenAI CUA、Claude Computer Use 和 Browser Use 等浏览器自动化工具，兼容 Cursor、Windsurf 和 Claude Desktop，可通过 npx 一键安装，MIT 协议开源。
Prime IntellectAI 评分5858 Prime Intellect 发布 SYNTHETIC-1：140 万条经验证推理任务的开源数据集
Prime Intellect 推出 SYNTHETIC-1，一个基于 DeepSeek-R1 生成的开源推理数据集，包含 140 万条任务与验证器，覆盖数学、编程、软件工程、STEM 和合成代码理解，并开放任何人贡献算力。
公众号：DeepSeek精选AI 评分6767 DeepSeek-V3 正式发布
深度求索正式发布 DeepSeek-V3 模型，性能比肩世界顶尖模型，速度跃升，价格更新。
推荐理由：DeepSeek-V3 是 2024 年底国产模型的一次真正跃迁，首次亮剑就逼近闭源顶尖，开源权重更是直接改变了开发者生态。时隔一年半回头看，它仍是理解 DeepSeek 路径的起点。
Hacker News：AI 热帖 Show HN: 我制作了最慢、最贵的 GPT
作者展示了一个刻意追求极致低效的 GPT 实现，通过极慢的响应机制（如逐字符渲染或人工模拟）和昂贵的运行架构，打造出单次请求耗时极长、调用成本极高的反讽式大语言模型服务。
FireRedTeam：原创语音与多模态项目AI 评分5151 FireRedTeam 开源 LayerDiffuse 的 Flux 版实现
FireRedTeam 在 GitHub 发布 LayerDiffuse 的 Flux 版实现（LayerDiffuse-Flux），训练了适配 Flux 的透明 VAE 和 LoRA 微调，用于生成透明图像。
LMSYS Blog SGLang v0.4：零开销批处理调度器、缓存感知负载均衡器及更快的结构化输出
SGLang v0.4版本正式发布，通过零开销批处理调度器将CPU调度与GPU计算重叠，吞吐量提升1.1倍，较其他基线快1.3倍。新版本引入缓存感知负载均衡器，预测KV缓存命中率，使吞吐量最高提升1.9倍，缓存命中率从20%提升至75%。针对DeepSeek模型的数据并行注意力机制带来1.9倍解码吞吐量提升，XGrammar结构化输出速度提升达10倍。
英国 AI Security Institute：BlogAI 评分5353 英国 AI Security Institute 发布 Inspect Evals 开源评测库
英国 AI Security Institute 宣布推出 Inspect Evals，一个社区共建的 LLM 基准评测仓库，与 Arcadia Impact 和 Vector Institute 合作开发，提供数十个面向安全研究的开源评测，覆盖编码、数学、网络安全、防护、推理和通识等领域。
公众号：DeepSeek精选AI 评分6161 DeepSeek-V2.5：融合通用与代码能力的全新开源模型
DeepSeek-V2.5 保留原有 Chat 模型的通用对话能力和 Coder 模型的代码处理能力，并更好地对齐人类偏好。
推荐理由：DeepSeek首次将通用对话与代码能力合一的开源模型，当时直接拉低了多任务成本，今天看仍是模型混合能力演变的早期标杆。
LMSYS Blog SGLang v0.3 发布：DeepSeek MLA 吞吐量提升 7 倍，支持多模态视频理解
SGLang v0.3 正式发布，实现显著性能提升与新架构支持。针对 DeepSeek MLA 机制深度优化，采用权重吸收、FP8 量化等技术，在 H100 GPU 上吞吐量最高提升 7 倍。集成 torch.compile 使批量 1-32 场景延迟降低 1.5 倍。新增 LLaVA-OneVision 支持，可处理交错文本、多图像及视频输入，速度提升 4.5 倍。同时全面支持 Gemma-2 的 8K 上下文与交错窗口注意力，突破 4K 限制。
FireRedTeam：原创语音与多模态项目AI 评分5454 FireRedTeam 开源 Target-Driven Distillation 一致性蒸馏方法与模型权重
FireRedTeam 发布 Target-Driven Distillation（TDD），一种一致性蒸馏方法，可让扩散模型仅用 4-8 步生成高细节图像，论文被 AAAI25 接收。核心设计包括目标时间步选择、解耦引导，以及可选的非等距采样和 x0 clipping；项目开源了 SDXL、FLUX.1-dev 的 LoRA 权重和训练/推理代码，并提供了与 LCM、PCM、TCD 的对比示例。
公众号：DeepSeekAI 评分5353 DeepSeek 发布开源数学定理证明模型
DeepSeek 发布了一款开源数学定理证明模型，目标是加速“数学定理证明的 AlphaGo 时代”的到来。
FireRedTeam：原创语音与多模态项目AI 评分5757 FireRedTeam 开源 FireRedTTS-1S 流式语音合成系统
FireRedTeam 在 GitHub 发布可流式生成的语音合成系统 FireRedTTS-1S，提供预训练权重、推理代码和技术报告。支持零样本声音克隆，新增 flow matching 解码器可选，参考音频建议 3 到 10 秒，项目仅限学术研究用途。
LMSYS Blog 使用 SGLang Runtime 实现更快的开源 Llama3 推理（对比 TensorRT-LLM、vLLM）
LMSYS.org 推出 SGLang Runtime v0.2，一个纯 Python 开发的开源 LLM 推理引擎。在覆盖 Llama-8B 至 405B 的基准测试中，该系统在 A100 和 H100 GPU 上展现出优于 vLLM 最高 3.1 倍的离线吞吐量（Llama-70B 场景），并与 TensorRT-LLM 性能相当。SGLang 支持 FP8/FP16 精度，核心调度器仅约 4000 行代码，已在 Chatbot Arena 等平台累计生成数万亿 token。
智源 FlagOpen：原创开源项目AI 评分5151 智源 FlagOpen 开源 AI 大模型行业数据全景扫描 Awesome-Industry-Dataset
北京智源人工智能研究院 FlagOpen 开源 Awesome-Industry-Dataset 项目，对 31 个行业的开源数据集做全景扫描，覆盖文本、视觉和多模态数据集，并统计开源行业大模型现状。
Mistral AI：News精选AI 评分6666 Mistral 与 NVIDIA 联合发布 12B 开源模型 Mistral NeMo
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo，支持最高 128k tokens 上下文窗口，base 与 instruct 权重以 Apache 2.0 许可开源。
推荐理由：原文给出 12B 模型的上下文窗口、压缩效率与基准对比，并说明与 Mistral 7B 的替换关系，便于评估其在中小模型场景的可用性。
Mistral AI：NewsAI 评分5454 Mistral 发布专注 STEM 的数学推理模型 Mathstral 7B 并开源权重
Mistral 发布 Mathstral 7B，基于 Mistral 7B 专攻 STEM 与复杂多步数学推理，属与 Project Numina 合作的学术项目。
通义 QwenAudio：原创语音项目精选AI 评分6161 SenseVoice 开源语音理解模型仓库：支持 ASR、情感识别与音频事件检测
SenseVoice 是一个语音理解基础模型，支持 ASR、语种识别、语音情感识别和音频事件检测。发布的 SenseVoiceSmall 检查点支持普通话、粤语、英语、日语和韩语，并输出情感与事件标签；采用非自回归端到端架构，同参数量级下推理速度比 Whisper-Small 快 5 倍以上、比 Whisper-Large 快 15 倍以上。
推荐理由：官方仓库文档同时给出基准对比、部署路径和微调方案，读者可以据此评估 SenseVoice 在中英文语音识别场景的可用性。
LMSYS Blog RouteLLM：面向高性价比 LLM 路由的开源框架
RouteLLM 是一个基于偏好数据训练的开源 LLM 路由框架，通过智能分配查询至强模型（如 GPT-4）或弱模型（如 Mixtral 8x7B）来平衡成本与性能。该框架提供四种路由器，其中矩阵分解模型在 MT Bench 上表现最优，仅需调用 14% 的 GPT-4 即可达到其 95% 的性能，整体成本降低 75%。在 MMLU 和 GSM8K 基准测试中，RouteLLM 分别实现 45% 和 35% 的成本削减，同时保持 95% 的 GPT-4 水平。项目已开源全部代码与数据集。
英国 AI Security Institute：BlogAI 评分5757 英国 AI Security Institute 开源大模型评测框架 Inspect
英国 AI Security Institute 宣布开源其大语言模型评测框架 Inspect。该框架提供提示工程、工具使用、多轮对话和模型评分评测等功能，发布于 2024 年 4 月 21 日。
Mistral AI：News精选AI 评分7777 Mistral 发布开源模型 Mixtral 8x22B，采用 Apache 2.0 许可证
Mistral 发布开源稀疏混合专家模型 Mixtral 8x22B，总参数 141B，仅激活 39B，上下文窗口 64K tokens，以 Apache 2.0 许可证开放。模型支持英语、法语、意大利语、德语和西班牙语，具备原生函数调用能力，指令版在 GSM8K maj@8 得分 90.8%，Math maj@4 得分 44.6%，现已在 la Plateforme 上提供。
推荐理由：官方发布原文给出了活跃参数、上下文窗口、许可证和基准成绩，读者可以据此评估它在开源模型中的成本与性能定位。
xAI：News Grok-1 开源发布
xAI 宣布开源 Grok-1 模型权重，采用 Apache 2.0 协议。该模型拥有 3140 亿参数，基于 MoE 架构，是迄今参数量最大的开源大模型之一。权重已上传至 GitHub 和 Hugging Face，可自由下载用于本地部署与商用。
METR：ResearchAI 评分5252 METR 发布 Task Standard，为 AI 智能体评测任务提供可移植定义标准
METR 发布 Task Standard，提供定义 AI 智能体能力评测任务的通用方式，已用于涵盖 AI R&D、网络安全、通用自主能力等领域的 1000 多个任务，英国 AI Safety Institute 等机构也在使用。
LMSYS Blog 基于压缩有限状态机实现本地LLM快速JSON解码
SGLang团队提出Jump-Forward Decoding算法，通过压缩有限状态机中的单一路径，将多token预填充合并为单步执行，突破传统方法逐token解码的限制。该技术兼容任意正则表达式与JSON/YAML schema，相比guidance+llama.cpp和outlines+vLLM等现有方案，延迟降低2倍，吞吐量提升2.5倍，使约束解码速度超越普通解码。
LMSYS Blog 利用 RadixAttention 与 SGLang 实现快速且灵活的 LLM 推理
研究团队发布 SGLang 结构化生成语言及后端技术 RadixAttention，通过基数树数据结构自动管理并重用 KV 缓存，显著减少多轮生成调用中的冗余计算。在 NVIDIA A10G GPU 上运行 Llama-7B 和 Mixtral-8x7B 模型的测试显示，该系统吞吐量较 Guidance 和 vLLM 等现有系统提升最高达 5 倍。前端提供嵌入 Python 的领域特定语言，支持解释器与编译器双模式执行，有效提升复杂 LLM 程序的编程与执行效率。
EleutherAI：Blog 第三届新英格兰 RLHF Hackers 黑客松
第三届新英格兰 RLHF Hackers 黑客松近期举办，集中展示了多个聚焦机器学习与强化学习不同领域的创新项目。重点项目 Pink Elephants Pt 3 采用 ILQL（Inverse Learning from Q-learning）方法，基于标准 trlX 实现框架训练粉色大象模型。主办方鼓励参与者加入 Discord 社区，以获取未来活动更新与更多技术资讯。
LMSYS Blog 服务数千个并发 LoRA 适配器的方案
S-LoRA 是一个专为大规模并发 LoRA 适配器服务设计的系统，通过统一分页技术动态管理 KV 缓存与适配器权重内存以减少碎片，并采用异构批处理优化不同秩的 LoRA 计算。该系统支持张量并行扩展至多 GPU，相比 HuggingFace PEFT 和 vLLM，吞吐量提升最高达 4 倍，可同时服务的适配器数量增加数个数量级。
Hugging Face 社区博客AI 评分5454 Hugging Face 发布 IDEFICS：对最先进视觉语言模型的开源复现
Hugging Face 发布 IDEFICS，一个对当时最先进视觉语言模型的开源复现。材料抓取失败，仅标题可用，详情见原文 https://huggingface.co/blog/idefics。
智源 FlagOpen：原创开源项目AI 评分5858 FlagOpen/FlagEmbedding 开源 BGE 检索工具包，覆盖嵌入、重排与 RAG
FlagOpen 开源 FlagEmbedding 项目，提供面向搜索和 RAG 的 BGE 一站式检索工具包，含 Embedder、Reranker 的推理、微调与评测，采用 MIT 许可证。
EleutherAI：Blog Minetester：基于 Minetest 构建的完全开放 RL 环境
Minetester 是一个基于开源游戏 Minetest 构建的完全开放强化学习（RL）环境。该项目概述了 Minetest 平台的技术架构及早期开发工作，为研究人员提供了一个代码完全开放、可自由修改的 AI 训练与测试平台，填补了现有 Minecraft 类 RL 环境在开放性方面的空白。
EleutherAI：Blog Safetensors 通过安全审计并将成为默认格式
Hugging Face 联合 EleutherAI 与 Stability AI 委托 Trail of Bits 对 Safetensors 库完成独立安全审计，结果证实该库安全可靠，具备成为默认格式的条件。三方组织宣布将推动 Safetensors 作为模型保存的默认格式。完整审计报告已公开发布，相关博客文章将进一步阐述该库的技术背景与后续实施计划。