#RAG

LlamaIndex：为什么更好的抽取模型并不能缩小你的文档复核队列

LlamaIndex 发文分析 OCR 文档处理中准确率与自动化率的关系，指出路由门控而非读取能力决定直通处理率。文中算例显示 20 个字段的发票在 97% 每字段准确率下仅约 54% 文档全对，94% 准确率但带每字段置信度的 Pipeline B 可自动放行 92% 文档，而 97% 准确但无信号的 Pipeline A 直通率为 0。

LlamaIndex 解析 LLM OCR：错误更安静了，但没有更少

LlamaIndex 发布长文分析 LLM OCR 的核心风险：视觉证据弱时语言先验主导，模型会把读不清的数字替换成流畅但错误的值，或静默截断长表格，且没有逐字符置信度可供设阈值。

企业AI信任危机：57%组织遭遇智能体自信但错误的回答，根源在上下文缺失而非检索失败

VentureBeat Pulse Research对101家企业调查发现，57%的组织在过去六个月内曾遭遇AI智能体产生自信但错误的回答，且追溯至缺失或不一致的业务上下文。

Rohan Paul@rohanpaul_ai· 10:04AI 评分6262

该论文评估了商业AI聊天机器人作为新闻中介的能力。研究发现，当以多选题形式提问时，最佳系统对数小时前新闻的准确率已超过90%，这表明检索增强生成技术正从静态知识库迈向实时信息处理。然而，这种高准确性并不稳定。当要求系统自由生成回答、新闻为印地语，或用户提问包含错误预设时，其表现显著下降。超过70%的错误源于检索失败或来源偏差，即系统检索到了近似但不精确的信息，随后基于错误的来源、语言或时间戳生成了回答。论文标题为《Evaluating Commercial AI Chatbots as News Intermediaries》（arxiv.org/abs/2605.22785）。

LlamaIndex 撰文分析 grep 与语义搜索在 Agent 场景下的取舍

LlamaIndex 发文回应 grep 可取代语义搜索和 RAG 的观点，指出 grep 适合小型纯文本语料，但无法读取 PDF 等非结构化文档，且在百万级语料下延迟、召回和信噪比全面失效。文章建议分层方案：用 LlamaParse 或 LiteParse 解析非结构化文档，再以语义索引支撑大规模检索，同时保留 grep 用于精确匹配场景。

LlamaIndex：不止是 RAG 框架，转向智能体文档处理

LlamaIndex 官方宣布公司使命收窄为构建智能体文档处理基础设施（OCR、抽取与工作流），不再定位为单纯的 RAG 框架。

Hamel Husain 组织评审团对比 Langsmith、Braintrust 与 Arize Phoenix 三款 AI Evals 工具

Hamel Husain 在 AI Evals 课程中邀请 Langsmith、Braintrust 和 Arize Phoenix 三家厂商完成同一份作业，并录制评审团（含 Shreya Shankar、Bryan Bischof）的点评视频。

LlamaIndex 解析：LLM API 为何无法替代完整文档解析器

LlamaIndex 指出，直接用 OpenAI、Claude、Gemini 等 LLM API 截图解析文档仍会幻觉数值、丢失复杂结构，且缺少置信度分数、边界框和引用等企业级元数据。其 LlamaParse 通过混合文本解析与视觉模型，在基准测试中比纯截图方式准确率提升 5% 以上，并提供更便宜的纯 LLM 模式和自动升级的 auto-mode。

Hamel Husain 整理七集系列文章，论证 RAG 并未消亡

Hamel Husain 与 Ben Clavié 整理了关于 RAG 未来 的七集开放系列文章，核心观点是 2023 年那种单向量余弦相似度检索已过时，但检索本身比以往更重要，长上下文窗口也不会终结 RAG。

LlamaIndex 分析 MCP 是否取代向量搜索：两者结合才是最优解

LlamaIndex 发文回答 MCP 是否会取代向量搜索，核心论点是智能体仍需要预处理和索引层来做非结构化数据的快速语义检索。

Eugene Yan：LLM-as-Judge 救不了产品，修复评估流程才行

Eugene Yan 撰文指出，靠加评估工具、指标或 LLM-as-judge 不能拯救 AI 产品，评估应是用科学方法驱动产品改进的实践。他给出从观察数据、标注 50:50 通过与失败样本、假设失败原因、设计对照实验到量化分析的循环，并主张先写评估再开发功能的 eval-driven development，同时强调自动评估器只能放大而非替代人工标注与反馈监督。

Hamel Husain 长文：快速改进 AI 产品的实战指南

Hamel Husain 根据服务 30 多家公司的咨询经验指出，成功的 AI 团队不纠结工具选型，而是专注测量和迭代。

LlamaIndex 谈长上下文 RAG 的未来：Gemini 1.5 Pro 观察与新架构设想

LlamaIndex 基于 Gemini 1.5 Pro 的 1M 上下文窗口初步测试，提出长上下文 LLM 会简化 RAG 的分块、检索与摘要等环节，但仍面临文档规模超窗、嵌入模型上下文落后以及成本与延迟等挑战。

Eugene Yan 复盘首届 AI Engineer Summit：评测与服务成本是 LLM 部署最大痛点

Eugene Yan 参加在旧金山举行的首届 AI Engineer Summit 并分享 LLM 系统构建演讲，总结出多条要点。Amplify Partners 超 800 份问卷显示评测（evals）与服务成本是部署最大痛点；assert 断言确定但脆弱，用第三方 LLM 评分则规模化后成本高，团队用 VCR.py 缓存应对；代码生成因可直接运行验证而最易评测。