跳到正文
蚂蚁 inclusionAI:HuggingFace 新模型·· 2026-08-30AI 评分47

蚂蚁 inclusionAI 发布 Ling-3.0-tiny 混合推理 MoE 模型 GGUF 版本

inclusionAI/Ling-3.0-tiny-GGUF

AI 导读

蚂蚁 inclusionAI 在 Hugging Face 发布 Ling-3.0-tiny 的 GGUF 版本。该模型为轻量混合推理 MoE 模型,总参数 7.9B,每 token 仅激活 1.3B 参数,主打低推理成本下的推理与智能体能力,适合本地和资源受限部署;提供 Q6_K(6.5 GB)和 BF16(15.8 GB)量化文件。

正文 · 原文

Ling-3.0-tiny is a lightweight hybrid reasoning MoE model with 7.9B total parameters and only 1.3B activated parameters per token. It is designed to deliver strong reasoning and agentic capabilities at low inference cost, making advanced model capabilities more accessible for local and resource-constrained deployment.

Find more details in the original model card: https://huggingface.co/inclusionAI/Ling-3.0-tiny

bailingmoe3

Q6_K 6.5 GB

BF16 15.8 GB

来源:蚂蚁 inclusionAI:HuggingFace 新模型 · huggingface.co