用 LlamaExtract 从 SEC 财报中提取结构化金融数据
LlamaIndex 的 LlamaExtract 可用于从 SEC 10-K/Q 财报中提取结构化数据,这类文件常超过 100 页、结构松散且含大量表格,传统方法难以跨章节保持上下文。
LlamaIndex 的 LlamaExtract 可用于从 SEC 10-K/Q 财报中提取结构化数据,这类文件常超过 100 页、结构松散且含大量表格,传统方法难以跨章节保持上下文。
Mistral 发布 Mistral OCR,一款可识别图像、文本、表格和公式的光学字符识别 API。内部基准中 Mistral OCR 2503 综合得分 94.89,高于 Gemini-2.0-Flash-001 的 88.69 和 Azure OCR 的 89.52;单节点处理速度可达每分钟 2000 页。
推荐理由:官方发布 OCR API,给出与竞品的基准对比和每分钟页数,读者可据此评估其在多模态 RAG 管线中的适配性。
LlamaIndex 推出 LlamaExtract,现已通过 LlamaParse 的 web UI 和 Python SDK 开放公测,用户定义 schema 后即可从非结构化文档提取 JSON 格式的结构化数据。工具支持 PDF、扫描件和 100 页以上长文档,基于 LlamaParse 构建,无需手动处理 OCR 和表格解析,输出符合 schema 的类型化数据,并提供免费和付费方案。
推荐理由:官方介绍 LlamaExtract 的 schema 定义和提取流程,读者可据此评估它能否替代手工或规则式文档处理。
LlamaParse 宣布更新解析模式,将解析选项简化为 Fast、Balanced、Premium 三档,并提供不使用 AI、用 LLM、用 LVM、用 Agent 四种可指定的解析方式,同时废弃旧的 parsing instructions 系统改为系统提示词与用户提示词组合。
LlamaIndex 发布用 Workflows 构建 text2cypher 知识图谱智能体的实践教程,实现朴素、重试、重试加评估和迭代规划四种流程,代码开源并提供托管应用。
LlamaIndex 推出 Agentic Document Workflows(ADW)架构,将文档处理、检索、结构化输出与智能体编排结合,实现端到端知识工作自动化,超越传统 IDP 与 RAG。该架构以文档智能体为核心,借助 LlamaParse 解析与检索能力,在合同审查、病历摘要、发票处理、车险理赔等场景中维护跨步骤状态并生成可执行建议。
LlamaIndex 与 NVIDIA 合作发布 NVIDIA AI Blueprint,用多智能体系统实现研究、撰写并优化任意主题的博客文章。
LlamaIndex 开启 LlamaReport 测试版,这是一款 API 优先的报告生成工具,可上传源文档和模板,自动完成解析、规划与报告生成。它基于 LlamaParse 做文档处理,支持 markdown、问卷等多种模板形式,并提供 LLM 驱动的局部编辑与修改理由。
LlamaParse 的 SharePoint 集成现已开箱支持权限感知,可将 SharePoint 的细粒度访问控制用于 RAG 应用。
Memgraph 与 LlamaIndex 集成,可将原始文本转化为结构化知识图谱并用自然语言查询。
LlamaIndex 在 Microsoft Ignite 上宣布与 Azure AI 完成集成,提供完全运行在 Azure 上的端到端 RAG 与知识增强智能体全栈方案。
LlamaIndex RAG-a-thon 获奖项目 RAGformation 可让用户用自然语言描述需求,自动生成云服务选型、架构流程图和 AWS 成本估算。该工具基于 LlamaIndex Workflows 与 Pinecone 向量库,支持随需求变化动态调整推荐并输出完整报告,代码已在 GitHub 开源。
LlamaIndex 黑客松获奖团队提出 RAG Context Refinement Agent,在问答阶段用智能体反复回访源文档,通过 Evaluator 判断检索片段是否足以回答问题,再由 Tool Selector 调度摘要、文件筛选、链接追踪等工具迭代精炼 scratchpad 上下文。
LlamaIndex 提出基于 RAG 的报告生成方法,让系统从简单问答升级为自动产出研究报告、演示文稿和分析等完整文档。文章给出五个构建模块,包括 Pydantic 结构化输出定义、LlamaParse 复杂文档解析、知识库集成、多智能体工作流和模板处理系统,并估计每份报告可节省 10-15 小时,附多模态报告、财务分析、Excel 模板填写和 RFP 响应生成等示例 notebook。
LlamaIndex 为 LlamaParse 推出两项新功能:Continuous Mode(Beta)可将跨页表格合并为单一表格,目前主要在 10 页以内、格式较简单的文档上测试,速度较慢,解析 80 页 10K 报告约需 30 分钟;Excel 输出可在 Accurate、Premium 或 Continuous Mode 下解析后选择 XLSX 格式导出。两个功能可结合使用。
Hamel Husain 基于帮助超过 30 家公司搭建评测系统的经验,发布 LLM-as-a-Judge 完整指南,提出名为 Critique Shadowing 的七步流程。
LlamaIndex 发布 LlamaParse Premium 模式,结合多模态模型和启发式文本解析技术处理复杂文档,官方称效果超过 Sonnet-3.5 等原生模型。
传统RAG系统在编码时易丢失上下文,导致检索失败。新方法“上下文检索”通过“上下文嵌入”和“上下文BM25”两项子技术,在检索前为文本块添加解释性上下文,能将检索失败次数减少49%,结合重排序后降幅可达67%,显著提升了下游任务性能。对于小于20万token的小型知识库,可直接将其完整内容放入提示词,结合Claude的提示词缓存功能,能降低超过2倍的延迟和高达90%的成本。对于大型知识库,上下文检索则提供了可扩展的解决方案。
推荐理由:Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。
LlamaIndex 宣布 LlamaParse 企业级 RAG 平台新增多模态功能,可在索引中同时存储和检索文本与图像块,几分钟内搭建完整的多模态 RAG 流水线。
LlamaIndex 发布教程,演示如何用 Azure OpenAI 作为 AI 提供方、在 Microsoft Azure 上部署无服务器 RAG 应用。
LlamaIndex 发布 Python 版 0.11,引入事件驱动的 Workflows 架构,取代已弃用的 Query Pipelines,并新增 instrumentation 可观测性功能。
LlamaParse 推出 Index Cloning、Chunk Visualization 等功能,帮助开发者快速试验 RAG 管道的 chunk size 配置,无需手动重建索引或管理多份数据存储。文中以三篇 ICLR 2024 论文为例,基线设置 512 tokens chunk size 时回答遗漏了 SWE-bench 的部分特征,改用 Page 分段且不分块后回答更完整。
LlamaIndex 推出 beta 功能 Workflows,一种基于事件驱动架构的编排机制,用于替代此前的 Query Pipelines 来构建复杂 AI 应用。
LlamaIndex 为 LlamaParse 发布文件级检索 API,与原有的 chunk 级检索并列,可按元数据或内容检索整份文档(如完整的 SEC 10K 文件或幻灯片),并支持切换检索模式、调整 top-k 和元数据过滤。官方还提供 Jupyter notebook,演示如何构建在 chunk 级与文件级检索之间动态选择的智能体,例如摘要类问题走文件级、具体数据问题走 chunk 级。
Hamel Husain 发布 Mastering LLMs 免费开放课程,整理自曾有超过 2000 名学员的付费课程,内容超过 40 小时。
LlamaIndex 发布 LlamaExtract beta,这是一个托管服务,可从非结构化文档中抽取结构化数据:能从候选文档集推断 schema(用户可后续编辑),并按指定 schema 抽取字段值。
推荐理由:原文来自 LlamaIndex 官方,介绍了从文档推断 schema 并抽取结构化数据的用法,读者可以评估它在 RAG 数据处理管线中的适配性。
LlamaIndex 为 LlamaParse 推出 LlamaParse Chat,可在数分钟内基于自有数据搭建带流式输出和引用的对话式 RAG 界面,并支持自定义元数据过滤、查看检索节点及文件级检索。
LlamaIndex 联合 PostgresML 演示了用 cross-encoder 重排序改进向量搜索结果相关性的方法。cross-encoder 直接比较查询与结果文本对计算相似度,无需预计算 embedding,但需逐对计算、成本较高,因此适合对检索出的子集做重排序,且不依赖大量用户交互数据即可处理新内容。
Arize AI 与 LlamaIndex 联合发布 LlamaTrace,这是 Arize OSS Phoenix 的托管版本,用于 LLM 应用的追踪与可观测性。该平台支持即时记录 traces、持久化数据集、运行实验与评测,并可与同事共享结果,今日起可通过 LlamaIndex 或 Arize 账号访问。
LlamaIndex 宣布 LlamaParse 已广泛可用并开放官方 waitlist,定位为面向企业 LLM 与 RAG 应用的生产级上下文增强服务。
Neo4j 客座教程讲解如何在 LlamaIndex 中自定义属性图谱索引,用 SchemaLLMPathExtractor 做模式引导抽取、用文本嵌入加编辑距离做实体去重,并实现先识别查询实体再分别执行 VectorContextRetriever 的自定义检索器。示例使用 250 篇新闻文章和 Neo4j 图存储,最后用自定义检索器完成问答回流,代码托管在 GitHub。
推荐理由:原文给出图谱构建、实体去重和自定义检索的完整可复现代码,读者可以迁移到自己的 GraphRAG 项目。
LlamaIndex 推出 Property Graph Index,用带标签属性图表示替代传统三元组知识图谱,支持节点类型与元数据、向量嵌入和混合检索。
推荐理由:官方详细给出了属性图谱的抽取方式、检索组合和底层存储接口,读者可以对照自己的数据场景评估是否迁移。
LlamaIndex 发布 Mozilla 客座教程,讲解用 llamafile 在笔记本上本地运行 LLM,并以 TinyLlama-1.1B 作为 LLM 与嵌入后端,结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。
推荐理由:教程给出从下载运行 llamafile 到用 LlamaIndex 搭建本地 RAG 研究助手的完整代码路径,可迁移到其他主题。
Eugene Yan 等六位作者发布长文 Applied LLMs,总结一年 LLM 应用开发经验,分战术、运营、战略三部分。战术层面涵盖 n-shot 与 CoT 提示词技巧、RAG 文档相关性、结构化输出工具 Instructor 和 Outlines、LLM-as-Judge 评测及幻觉防护;战略层面提出 PMF 之前不买 GPU、先提示词后微调、系统比模型更构成护城河等观点。
推荐理由:多位从业者基于一年真实开发经验总结提示词、RAG、评测到团队与战略的实践清单,读者可对照自己的 LLM 项目逐条借鉴。
这篇 Modal 工程博客讲解如何微调开源嵌入模型,在 Quora 重复问题数据集上用几百条样本即可在文本相似度任务上超越 OpenAI text-embedding-3-small。
推荐理由:原文给出完整的微调实验数据,读者可复用其数据量阈值和超参数网格搜索方法到自己的嵌入任务。
LlamaIndex 展示用差分隐私技术把 Bob 和 Beth 的私有敏感数据转成隐私安全的合成副本,再通过 llama-index-networks 构建可跨网络查询的 RAG 系统。
Protect AI 展示如何用开源安全工具 LLM Guard 配合 LlamaIndex 加固 RAG 应用,对文档输入和模型输出进行扫描,检测并清除提示词注入、数据泄露等恶意内容。示例中,一份简历用白色文字隐藏了提示词注入,LLM Guard 在检索阶段将其拦截。LLM Guard 模型下载量已超 250 万次,并提供针对提示词和响应的多种安全扫描器。
LlamaIndex 与开源 LLM 评估框架 UpTrain 完成集成,开发者只需添加几行代码,UpTrain Callback Handler 即可自动评估 RAG 流水线生成的响应质量、检索上下文质量及各中间步骤表现。
Langfuse 宣布与 LlamaIndex 集成,通过全局回调管理器实现一键式开源 RAG 可观测性。开发者安装 llama-index-callbacks-langfuse 并设置 set_global_handler("langfuse") 两行代码即可获得 RAG 应用的详细追踪,自动包含延迟与成本明细。
作者在 LlamaIndex RAG-A-THON 中开发 PresidioPIINodePostprocessor,将 Microsoft 开源的 Presidio 集成到 LlamaIndex 管线,对文本中的姓名、信用卡号、IBAN、IP 地址等 PII 进行类型化掩码。