跳到正文
公众号:小红书技术· 小红书技术REDtech·· 2026-08-05AI 评分46

小红书“问一问”多模态推理加速实践:让视觉 Token 更精简、MoE 专家更聚焦

AI 导读

小红书针对“问一问”多图场景,从 Prefill 与 Decode 两端优化多模态推理:动态 Vision Token 压缩减少冗余视觉输入,SERE 专家重路由配合关键专家保护降低 Decode 阶段专家计算与权重搬运。

来源:公众号:小红书技术 · mp.weixin.qq.com