跳到正文
热点事件历史事件

Prime-RL 团队在 16 个 8xH200 节点的 P/D 分离 Wide-EP 部署上验证 zai-org/GLM-5.1-FP8 全异步 RL,训练 100+ 步保持稳定

1 篇报道1 个报道来源2026-05-28更新

先了解这件事

报道摘要

vLLM 引入原生权重同步 API,将 RL 训练器到推理引擎的权重传输标准化为初始化、开始、更新、结束四阶段,采用可插拔 WeightTransferEngine 抽象,目前支持 NCCL 和 IPC 两种后端并支持 packed tensor 优化。

摘自 vLLM 官方博客

报道时间线

沿着报道,了解事件的不同侧面。

5月28日
  1. vLLM 官方博客精选
    vLLM 推出原生 RL 权重同步 API 并修复异步 RL 死锁

    vLLM 引入原生权重同步 API,将 RL 训练器到推理引擎的权重传输标准化为初始化、开始、更新、结束四阶段,采用可插拔 WeightTransferEngine 抽象,目前支持 NCCL 和 IPC 两种后端并支持 packed tensor 优化。