跳到正文
公众号:龙猫LongCat· 龙猫LongCat·· 2026-08-27AI 评分57

GeoRA:为RLVR设计的LoRA——ACL 2026杰出论文解析

GeoRA: 为RLVR设计的LoRA——ACL 2026杰出论文解析

AI 导读

美团与北京大学提出GeoRA,将低秩适配显式对齐到RLVR的更新几何,先用谱先验与欧氏先验定位稀疏更新区域,再用SVD压缩为低秩稠密适配器并冻结残差锚点。在1.5B至32B的Qwen与Llama模型上,GeoRA在数学、医学、代码三类RLVR任务上稳定优于LoRA、PiSSA、MiLoRA等基线,Qwen3-8B的AIME24达23.75%,可训练参数较全参微调降低99.5%。

来源:公众号:龙猫LongCat · mp.weixin.qq.com