跳到正文
公众号:智谱· 智谱·· 2026-04-30AI 评分58

智谱披露GLM-5系列Coding Agent推理“Scaling Pain”及修复

Scaling Pain:超大规模Coding Agent推理实践

AI 导读

智谱披露GLM-5系列在超大规模Coding Agent推理中遭遇乱码、复读等异常,源于PD分离架构下KV Cache复用竞态及HiCache加载时序缺失两个底层Bug。修复后异常率降至万分之三以下,并推出KV Cache分层存储方案LayerSplit,Cache命中率90%时吞吐提升10%-132%,相关修复已提交至SGLang社区。

来源:公众号:智谱 · mp.weixin.qq.com