SGLang 原生支持 Reflection 的 Beam 并驱动其生产 API
SGLang 团队宣布原生支持 Reflection 的 Beam 1.0(501B 参数 MoE、每 token 激活 23B),并以其驱动 Reflection 的生产 API。
推荐理由:原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据,读者可据此评估该推理栈在智能体负载下的服务性能。
技术方向
能自己拆解任务、调用工具、一步步把事办完的 AI 智能体:Claude Code、Manus 等应用,各家 Agent 框架与评测。
1,602 条精选近 30 天 176 条共收录 8,333 条
SGLang 团队宣布原生支持 Reflection 的 Beam 1.0(501B 参数 MoE、每 token 激活 23B),并以其驱动 Reflection 的生产 API。
推荐理由:原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据,读者可据此评估该推理栈在智能体负载下的服务性能。
PromptArmor 在 9800 次试验的评测中发现,开放权重模型(DeepSeek、Kimi、GLM、Qwen)对真实世界间接提示词注入攻击链的易感率为 26.7%,闭源模型(GPT、Claude、Gemini)为 14.2%,开放权重模型易感率高 88%。
推荐理由:原文基于 9800 次试验给出开放权重与闭源模型在间接提示词注入下的易感率差距和分攻击数据,方法与结果可直接用于安全选型参考。
Anthropic Claude Code 团队详解在 Claude 写约 90% 代码的情况下如何组织代码审查:审查从终点关卡变为持续进行,每个 PR 经过验证、必需 CI、AI 审查、安全审查、按风险分级的人工审批和合并队列六层检查,再辅以快速回滚。
推荐理由:Anthropic 自家团队复盘 Claude 代码审查流程,给出分层检查、风险分级审批等可直接迁移的落地做法和真实收敛数据。
推荐理由:官方说明 ChatGPT 新增读取与控制 Chrome 标签页的能力,聊天和工作两种场景的具体用途都写清楚了。
Meta 工程团队详解如何把 AI 智能体作为开发流程参与者来构建独立 Groups 应用 Forum,采用 human-on-the-loop 模式并以验证通过的生产级产出衡量成功。Forum 在八周内达到与 Facebook Groups 的核心功能对齐,自主压测循环在开发期发现并修复了内存问题,内存占用和缺页约减半,上线后智能体还协助根因分析用户反馈。
推荐理由:原文复盘了 Meta 以智能体参与开发全流程的具体做法与度量标准,可迁移的工程经验比较扎实。
Meta 发布 Muse Spark Open 开源权重,现已上线 Modal Auto Endpoints,以 Shared Endpoint 方式按 token 计费。
推荐理由:Meta 开源 Muse Spark Open 权重,Modal 已可部署,原文附 Terminal-Bench 等多基准对比,便于评估智能体编码用途。
Meta 的 Muse Spark Open 开源权重模型即日起在 Together AI 提供,Together AI 为 Day 0 发布合作方。该模型主打长时程智能体编码,具备 1M token 上下文窗口、计算机使用与多模态输入(文本、图像、音频、视频),并在行动前输出意图说明。
推荐理由:作为 Day 0 托管方,原文给出了模型定位、1M 上下文、定价和 API 用法,读者可以据此评估接入该开源权重模型的成本。
Meta 发布开源权重模型 Muse Spark Open,已在 Hugging Face 以 Muse Model License 提供。模型总参数 816B、激活 42B,上下文窗口 1M token,面向编码与智能体工作流,原生多模态(图像、音频、文档),并相比 8 月发布的 Muse Spark 增加了安全后训练。
推荐理由:Meta 开放了 Muse Spark 的权重,并给出 Helion 内核与 TorchTitan 微调支持,读者可据此评估其部署与定制路径。
今天我们发布 Muse Spark Open,这是迄今为止能力最强的美国开放权重模型。 专为编程和智能体工作打造,它擅长长周期任务、复杂软件工程和多步推理。 关键模型规格: → 816B 总参数 / 42B 激活参数 → 1M token 上下文窗口 → 原生支持文本、图像、视频、音频多模态
推荐理由:Arena 官宣 Meta 新模型进入 Agent Arena 和 Code Arena,读者可自行实测并等待基于真实任务的评分。
推荐理由:作者解释了为什么沙箱本身是 commodity 而生产级规模化才是难点,开源平台可用于自建企业级 Agent 基础设施。
Google Developers Blog 介绍 google/adk-recipes 仓库,它是 google/adk-samples 的重构后继版本,以 core/、plugins/、contrib/ 三层作为 Agent Platform 各入口的单一内容来源。
推荐理由:官方详解 google/adk-recipes 三层结构,读者可以据此了解同一仓库如何同时服务 Agents CLI、Agent Garden 和 Gemini Enterprise。
NVIDIA 发布开源 120B 参数多模态模型 Nemotron 3.5 Super VL,面向高频智能体任务,官方称其准确率可比自家最大推理模型、参数量约为五分之一,吞吐比同类次优模型快至 5 倍;同时推出边缘模型 Bolt 74B-A9B 24GB(原生 2-bit 量化,可本地运行于 RTX/DGX Spark)和 Bolt E4B 4GB(10 月 23 日上线)。
推荐理由:原文给出三款开放模型各自针对的部署层级和量化、训练数据规模,读者可据此判断哪一档适合自家智能体场景。
Step 5 Preview 来了。 @StepFun_ai 的新开放权重模型树立了新的帕累托前沿,在 @ArtificialAnlys 智能指数上与 Kimi K3 持平! 它为长时程智能体工作而打造,在软件工程和专业知识工作(尤其是金融)方面取得了前沿级成果。 - 600B 稀疏 MoE,每 token 激活 27B - 据 Artificial Analysis,每任务成本约为 Claude Opus 5.5 的 1/6 现已在 Featherless 上线,以 FP8 提供服务。 https://featherless.ai/model-pages/step-5-preview
推荐理由:引用内容给出 Step 5 Preview 的参数规模、成本对比和部署入口,读者可据此评估其性价比与获取方式。
Google Developers Blog 发布智能体评测实践指南,指出仅靠终端跑几个提示词的 vibe check 无法发现智能体重试循环、工具参数幻觉等隐性失败。
推荐理由:原文给出从 CUJ 定义到 CI/CD 门禁的完整智能体评测流程,可用 agent-eval 工具包直接复现,避开四个常见评测陷阱。
恭喜 StepFun 发布 Step 5 Preview 🙌 这是他们规模最大的开放权重发布。 这个 600B MoE 模型专为处理长达 24 小时的 agent 任务而构建。 该模型在 NVIDIA GB300 上使用 NVFP4,运行速度接近 8K tokens/sec/GPU。 NVP4 checkpoint:https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4 使用 @SGL_project 部署 - https://docs.sglang.io/cookbook/autoregressive/StepFun/Step-5-Preview 或 @vLLM_project - https://recipes.vllm.ai/stepfun-ai/Step-5-Preview 使用 NeMo Automodel 进行后训练:https://github.com/NVIDIA-NeMo/Automodel/blob/main/docs/model-coverage/llm/stepfun-ai/step-5-preview.mdx 使用 NVIDIA NIM 通过单条命令运行它:https://catalog.ngc.nvidia.com/orgs/nim/nvidia/containers/vllm-model-free-nim-experimental/-
推荐理由:原文补充了 Step 5 Preview 在 NVIDIA GB300 上的推理表现和 NVFP4 权重入口,可帮助开发者评估部署选择。
阶跃星辰(StepFun)宣布 Step 5 Preview 开放权重,BF16 和 FP8 权重已上线 Hugging Face 和 ModelScope,并附技术博客。
推荐理由:官方公告直接给出权重规格和下载入口,需要开源 MoE 权重的读者可据此评估是否纳入自己的工作流。
Tessl 发布 Verifiers,规则以 JSON 文件形式存放在仓库中,每次代码变更时由 LLM judge 逐条给出 pass 或 fail,可像 lint 或测试一样在本地、pre-commit 或 CI 中使用。
推荐理由:官方详细介绍 Verifiers 的机制、配置与接入方式,读者可据此把它当作 lint 或测试之外的确定性检查接入现有工作流。
10 月 15 日,清华大学 THUNLP、面壁智能、OpenBMB 与 AI9Stars 联合开发的 AI Agent 工作台 PilotDeck 2.0 正式开源。
推荐理由:官方开源的 Agent 工作台,给出办公 Skills、长任务续跑与智能路由的实测数据,轻量模型框架选型可参考。
推荐理由:作者实测开源Skill Anatomy并给出成本、耗时和适用模型的数字,可帮读者判断是否值得装来生成科普视频。
作者数字生命卡兹克分享开源 Skill Anatomy,其理念是"物体本身,就是解释",可将抽象原理做成可交互的机械模型动画,还能在其上生成带讲解配音的科普视频。
推荐理由:作者实测了开源 Anatomy Skill 生成原理科普视频的效果,还给出额度消耗、耗时和模型配置等一手数据,方便读者评估是否上手。