#RAG

UC Berkeley 开源向量索引 LEANN 将 60M chunk 的 RAG 索引从 201 GB 压缩到 6 GB

UC Berkeley Sky Computing Lab 开源了向量索引 LEANN，通过在查询时重算嵌入而非存储向量，把 60M chunk 的 Wikipedia 索引从 201 GB 压缩到 6 GB。

Rohan Paul@rohanpaul_ai· 18:52AI 评分4040

论文测试了仅输出标签和概率的 Jev 与 GPT-6 Astra 在 495 条人工标注声明上的核查表现，Jev 准确率与 Astra 相差 0.6 个百分点以内，成本低 187 倍。但 Jev 放行了 23.2% 的无依据声明，高于 Astra 的 14.1%。级联方案虽降低 Astra 费用，但随机分流同样比例的声明也能省下差不多的钱。

Rohan Paul@rohanpaul_ai· 22:30AI 评分4242

德州大学论文提出Jev-Mem，把链接、停止搜索等小决策交给快速打分模型Jev批量输出概率，LLM只在最后读取记忆并作答，使长对话记忆构建速度提升6.6倍。在LoCoMo长对话基准上，其回答得分0.777，高于最佳基线的0.700；记忆构建耗时158秒，最快对手为1,044秒，回答耗时0.93秒对1.47秒。

Chelsea Finn@chelseabfinn· 06:47AI 评分4444

我们如何扩展 LLM 的上下文？ Agentic search 可扩展到任意规模的信息，但很容易遗漏相关信息。 想法💡：针对下游效用优化信息的组织方式。即使在 OOD 领域也能带来 30+% 的提升 论文 + 代码：https://librarian-agents.github.io/

OpenBMB@OpenBMB· 21:34AI 评分4040

面壁智能 OpenBMB 提出 Trident，用多正样本视图 InfoNCE 联合训练文本、图像、融合三种视图，解决多模态检索器在图文混合语料上性能骤降的“Chaos in the Text”现象。

Rohan Paul@rohanpaul_ai· 02:42AI 评分5555

LinkedIn 论文研究一个模型继承另一个模型创建的记忆时会发生什么。固定 schema 的记忆在两个测试模型间几乎不变（KG-fixed 仅 ±0.0004），自由格式笔记可靠性差，一个方向准确率下降 13.28 点；RAG 中新旧嵌入混用索引只恢复 4.96 / 11.90 点增益。

Rohan Paul@rohanpaul_ai· 16:40AI 评分4444

论文提出 ContextPilot，让智能体主动规划、存储、压缩或删除旧上下文，并通过 RL 学习哪些上下文决策真正有效。

OpenBMB@OpenBMB· 22:07AI 评分4747

清华NLP团队（OpenBMB成员）推出九歌推敲（Jiuge-Tuiqiao），入选EMNLP 2026系统演示。该工具将古诗创作建模为字符矩阵与锁定矩阵，用户锁定字词后模型在剩余位置硬约束生成，并附28,739条搭配、PPL排序名句等四类证据供用户决策。在50行完形任务中，结合名句证据将Hit@1从12%提升至60%；80次生成请求中格律与押韵合规率达100%。

Rohan Paul@rohanpaul_ai· 13:48AI 评分4545

研究发现，恶意检索文档可提升模型token置信度与输出一致性，导致基于不确定性的检测器失效。作者将攻击下注意力集中于投毒文档而非分散于检索证据的现象称为“注意力崩溃”（Attention Collapse）。因此，仅检查最终答案或置信度可能漏报，监控检索文档间的注意力分布或可提前暴露投毒。

当 LLM 评审意见一致时，我们该相信吗？ICML 论文提出依赖感知标签聚合方法

亚马逊科学团队在 ICML 发表论文，提出用 Ising 模型建模 LLM 评审之间的相关性，并按相关性调整聚合分数，避免多个评审共享提示词模板或模型家族导致的虚假一致。

Rohan Paul@rohanpaul_ai· 20:18AI 评分4242

哈佛与斯坦福新论文建议，勿用LLM替代嵌入模型做首轮检索，仅在需要推理时引入LLM。同等质量下LLM成本最高达嵌入模型的1,431倍：Gemini 3.1 Pro在37项任务中得分77.6，与Octen-8B的77.2统计持平，但成本为$154.14对$0.11。LLM在检索任务领先8.5分，嵌入模型在分类任务领先5.6分，建议嵌入模型负责候选检索，LLM仅处理需推理的短名单。

OpenBMB@OpenBMB· 22:18AI 评分5656

清华NLP等机构推出CheckRLM，一个在推理过程中实时检查并纠正事实错误的RAG框架，而非事后审计。在2WikiMQA上，CheckRLM用QwQ-32B达到73.4 F1，比Search-o1用更少token（1364 vs 2008）和更短时间（3.3s vs 3.9s），并在最难MuSiQue集上超越最强基线+6.3 F1。

OpenBMB@OpenBMB· 21:22AI 评分5454

清华NLP与东北大学提出KG-Infused RAG，将知识图谱（Wikidata5M，约2100万三元组）引入RAG，通过“扩散激活”机制同时检索文本段落与结构化事实。

Apple 提出 CLaRa：用连续潜在推理桥接检索与生成

Apple 机器学习研究团队提出 CLaRa，一种通过连续潜在推理桥接检索与生成的新方法。该方法在检索增强生成（RAG）中引入连续潜在空间，使模型在生成答案前先进行隐式推理，从而缓解长上下文带来的性能下降。CLaRa 在多个知识密集型基准上提升了 LLM 的准确率与效率。

Rohan Paul@rohanpaul_ai· 01:23AI 评分6262

一项基于172B token的研究测试了LLM在文档问答场景中的虚构答案频率。关键发现：最佳模型在32K上下文下虚构率1.19%；强模型通常为5%-7%；中等模型对不存在事实的虚构率达25%。当上下文扩展至200K时，所有模型至少虚构10%。更长上下文显著加剧幻觉。研究表明，幻觉不仅是检索失败，模型即便能正确找到事实，也易在事实缺失时过度作答。

小红书联合浙大推出 RedParrot：基于语义缓存的 NL-to-DSL 加速框架（ICDE 2026）

RedParrot 是一种面向企业级商业分析的 NL-to-DSL 加速框架，通过查询语义缓存、骨架匹配、实体无关表示学习和多源异构 RAG，将多阶段 LLM 工作流压缩为短链路生成。在小红书真实业务数据集上，平均实现 3.6x 推理加速，执行准确率提升 8.26%，表选择准确率达 85.99%；在开放基准 Spider-DSL 和 BIRD-DSL 上，准确率分别提升 29.9 和 39.7 个百分点。P90 延迟降低至约 21 秒。框架采用短链路与长链路双路径兜底，支持增量缓存更新。

OpenBMB@OpenBMB· 21:43AI 评分4343

面壁智能 OpenBMB 联合清华NLP、慕尼黑工业大学等发布 FactNet，构建十亿级开源多语言知识图谱。它将 1.7B 原子断言统一为 1.55B FactSynsets，附带 3.01B 来自 316 种语言维基百科的字节级可追溯证据（页面ID、修订版ID、Unicode偏移），99.63% 精确重定位。人工审计 4,200 项，设计加权精度 92.1%（低资源语言 88.5%）。FactNet-Bench 包含 KGC、MKQA、MFC 三项任务，显式惩罚信息泄露，为可验证 AI 提供结构化事实基础。

OncoAgent：一个用于隐私保护肿瘤临床决策支持的双层多智能体框架

研究团队发布了开源肿瘤临床决策支持系统OncoAgent。该系统采用双层多智能体框架，结合LangGraph拓扑与四阶段Corrective RAG流程，检索超过70份权威临床指南。系统根据查询复杂度，将任务路由至9B参数的速度优化模型或27B参数的深度推理模型，两者均通过QLoRA在AMD MI300X硬件上使用包含26万余病例的数据集进行微调。系统强制执行严格的零受保护健康信息政策，并通过三层反射安全验证器确保安全，支持完全本地部署以保护患者数据主权。

Rohan Paul@rohanpaul_ai· 20:36AI 评分4848

现代AI需要三类记忆系统：存储持久知识的参数记忆、获取新鲜事实的检索记忆，以及记录目标与经验的智能体记忆。单一记忆模式存在局限，核心瓶颈在于记忆控制机制——如何协调检索、保留与更新。外部记忆为AI提供了经验索引，使其能从静态预测器转变为能长期运作、具备个性化与时序推理能力的系统。当前挑战包括长上下文成本高、检索干扰生成、记忆编辑破坏关联知识，以及多模态数据的扩展难题。未来方向在于协调永久存储、检索与经验记忆三者关系，而非构建单一巨型记忆。

Rohan Paul@rohanpaul_ai· 04:30AI 评分5656

最新研究发现，企业为提升精确性而微调RAG嵌入模型，可能导致检索质量下降高达40%。其核心矛盾在于，单个密集嵌入向量被同时要求承担广泛主题召回和精确语义判别的双重任务。当强制模型区分细微结构差异（如否定、语序颠倒）时，会损害其跨领域聚合相关材料的能力。解决方案是采用两阶段检索：先用嵌入模型快速召回，再通过能感知结构的词元级比对来验证候选结果。这揭示了“几乎相同的句子”与“相同含义”本质不同，在合同、合规等高精度领域混淆二者将导致系统关键失效。

LlamaIndex 实测 fs-explorer 智能体文件搜索与传统 RAG 的对比

LlamaIndex 用 5 篇 arXiv 论文和 5 组问答对，将其基于 Gemini 3 Flash 的 fs-explorer 智能体与采用 LlamaParse、Qdrant 和 RRF 混合检索的传统 RAG 系统对比。

Hugging Face 推出 RTEB：面向真实场景的检索嵌入模型评测基准

Hugging Face 发布 Retrieval Embedding Benchmark（RTEB）beta 版，用公开与私有数据集混合的方式评测嵌入模型的真实检索能力，默认榜单指标为 NDCG@10。该基准覆盖 20 种语言，聚焦法律、医疗、代码、金融等企业场景，每个数据集至少含 1k 文档和 50 条查询，私有部分由 MTEB 维护者评测以防过拟合。

Aim Labs 披露 Microsoft 365 Copilot 零点击漏洞 EchoLeak 可实现数据外泄

Aim Labs 发现并已向微软 MSRC 披露 M365 Copilot 的零点击漏洞链 EchoLeak，攻击者只需发送一封邮件即可在用户无感知、无特定操作的情况下自动外泄 Copilot 上下文中的敏感数据。

NVIDIA 研究解读：检索增强与长上下文 LLM 的对比与结合

LlamaIndex 解读 NVIDIA 研究，用 Nemo GPT-43B（扩展至 16K）与 LLaMA2-70B（扩展至 16K/32K）在 7 个数据集上比较检索增强与长上下文扩展。

LlamaIndex 实验：较弱的 LLM Agent 需要更多约束和更强的工具

LlamaIndex 在三份 Uber 2022 年 10-Q 财报上比较了复杂无约束的 ReAct agent 与简单路由 agent 的查询效果。