跳到正文
公众号:MiniMax· MiniMax 稀宇科技·· 2026-05-09AI 评分57

MiniMax 排查“模型说不出马嘉祺”根因:低频 token 后训练遗忘

大模型不认识马嘉祺?我们做了一次全链路排查

AI 导读

MiniMax 定位“模型无法说出马嘉祺”的根因:“嘉祺”在分词器中被合并为独立 token,但因后训练数据中出现频次极低,模型遗忘了该 token 的生成能力。

来源:公众号:MiniMax · mp.weixin.qq.com