跳到正文
Yann LeCun· @ylecun · X·· 2025-07-19
AI 导读

ZML 发布 LLMD 技术预览版,提供硬件无关的 LLM 推理方案。单容器同时支持 NVIDIA 与 AMD GPU,镜像仅 2.4GB,支持挂载即运行的高性能部署。

正文 · 原文

Hardware independent LLM inference engine from ZML.

引用Steeve Morin@steeve
The tech preview of LLMD is out: - Easy Setup - Just mount your model and run - Cross-Platform GPU Support - Single container works on *both* NVIDIA and AMD GPUs - Lightweight - Only 2.4GB container size - High Performance Enjoy !
在 X 查看被引用的帖子

来源:Yann LeCun · x.com