跳到正文
公众号:小米 MiMo· Xiaomi MiMo·· 2026-05-30AI 评分54

小米公开 MiMo-V2.5 系列推理系统全链路优化实践

MiMo-V2.5 系列推理全链路优化:将 Hybrid SWA 效率推向极致

AI 导读

小米公开 MiMo-V2.5 系列模型推理系统全链路优化实践,覆盖 KVCache 管理、分级缓存、SWA 前缀缓存树及调度策略。通过 KVCache 双池与按层异步拉取,将 SWA 存储限制在 O(W) 规模,容量效率提升约 7×。

来源:公众号:小米 MiMo · mp.weixin.qq.com