蚂蚁 inclusionAI：GitHub 新仓库· inclusionAI·· 2026-08-13AI 评分46
inclusionAI 发布 Ling Cookbook：Ling 系列模型部署与开发指南仓库
inclusionAI/ling-cookbook
AI 导读
inclusionAI 在 GitHub 开源 Ling Cookbook，为 Ling 系列大语言模型提供部署与开发指南，目前仍在开发中。仓库包含已验证的硬件部署方案，如 Ling-3.0-flash 在单台 NVIDIA DGX Spark 上通过 SGLang（MXFP4/INT4）、vLLM（INT4）及 llama.cpp（GGUF）等框架的推理示例，并附有各方案的量化配置与部署文档。
正文 · 原文
Ling Cookbook provides deployment recipes and practical examples for the Ling model family. Work in progress.
inclusionAI/ling-cookbook是 Ling 系列大语言模型的部署与开发指南仓库，提供已验证的硬件部署方案和模型的工程特性与使用技巧。当前正在开发中。
相关资源与社群
- 官方网站：ant-ling.com
- Hugging Face：inclusionAI
- ModelScope：inclusionAI
- GitHub：inclusionAI/ling-cookbook
- Discord：Ling Community
- X (Twitter)：@AntLingAGI
内容目录
本地部署 (guide/local-deploy/)
包含在消费级硬件和设备上部署 Ling 系列模型提供推理服务的示例。
Ling-3.0-flash
| 模型 | 设备 | 框架 | 量化 | 链接 |
|---|---|---|---|---|
| Ling-3.0-flash | 单台 NVIDIA DGX Spark | SGLang | MXFP4 (W4A16 / W4A8) | 文档: SGLang MXFP4 部署指南 |
| Ling-3.0-flash | 单台 NVIDIA DGX Spark | SGLang | INT4 (W4A16) | 文档: SGLang INT4 部署指南 |
| Ling-3.0-flash | 单台 NVIDIA DGX Spark | vLLM | INT4 (W4A16) | 文档: vLLM INT4 部署指南 |
| Ling-3.0-flash | 单台 NVIDIA DGX Spark | llama.cpp | GGUF (Q6_K / Q4_K) | 文档: llama.cpp GGUF 部署指南 |
来源：蚂蚁 inclusionAI：GitHub 新仓库 · github.com