LlamaParse 最新更新:推出 Chat 聊天界面、组织协作与更多数据连接器
LlamaIndex 为 LlamaParse 推出 LlamaParse Chat,可在数分钟内基于自有数据搭建带流式输出和引用的对话式 RAG 界面,并支持自定义元数据过滤、查看检索节点及文件级检索。
LlamaIndex 为 LlamaParse 推出 LlamaParse Chat,可在数分钟内基于自有数据搭建带流式输出和引用的对话式 RAG 界面,并支持自定义元数据过滤、查看检索节点及文件级检索。
LlamaIndex 联合 PostgresML 演示了用 cross-encoder 重排序改进向量搜索结果相关性的方法。cross-encoder 直接比较查询与结果文本对计算相似度,无需预计算 embedding,但需逐对计算、成本较高,因此适合对检索出的子集做重排序,且不依赖大量用户交互数据即可处理新内容。
Arize AI 与 LlamaIndex 联合发布 LlamaTrace,这是 Arize OSS Phoenix 的托管版本,用于 LLM 应用的追踪与可观测性。该平台支持即时记录 traces、持久化数据集、运行实验与评测,并可与同事共享结果,今日起可通过 LlamaIndex 或 Arize 账号访问。
LlamaIndex 宣布 LlamaParse 已广泛可用并开放官方 waitlist,定位为面向企业 LLM 与 RAG 应用的生产级上下文增强服务。
Neo4j 客座教程讲解如何在 LlamaIndex 中自定义属性图谱索引,用 SchemaLLMPathExtractor 做模式引导抽取、用文本嵌入加编辑距离做实体去重,并实现先识别查询实体再分别执行 VectorContextRetriever 的自定义检索器。示例使用 250 篇新闻文章和 Neo4j 图存储,最后用自定义检索器完成问答回流,代码托管在 GitHub。
推荐理由:原文给出图谱构建、实体去重和自定义检索的完整可复现代码,读者可以迁移到自己的 GraphRAG 项目。
LlamaIndex 推出 Property Graph Index,用带标签属性图表示替代传统三元组知识图谱,支持节点类型与元数据、向量嵌入和混合检索。
推荐理由:官方详细给出了属性图谱的抽取方式、检索组合和底层存储接口,读者可以对照自己的数据场景评估是否迁移。
LlamaIndex 发布 Mozilla 客座教程,讲解用 llamafile 在笔记本上本地运行 LLM,并以 TinyLlama-1.1B 作为 LLM 与嵌入后端,结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。
推荐理由:教程给出从下载运行 llamafile 到用 LlamaIndex 搭建本地 RAG 研究助手的完整代码路径,可迁移到其他主题。
这篇 Modal 工程博客讲解如何微调开源嵌入模型,在 Quora 重复问题数据集上用几百条样本即可在文本相似度任务上超越 OpenAI text-embedding-3-small。
推荐理由:原文给出完整的微调实验数据,读者可复用其数据量阈值和超参数网格搜索方法到自己的嵌入任务。
LlamaIndex 展示用差分隐私技术把 Bob 和 Beth 的私有敏感数据转成隐私安全的合成副本,再通过 llama-index-networks 构建可跨网络查询的 RAG 系统。
Protect AI 展示如何用开源安全工具 LLM Guard 配合 LlamaIndex 加固 RAG 应用,对文档输入和模型输出进行扫描,检测并清除提示词注入、数据泄露等恶意内容。示例中,一份简历用白色文字隐藏了提示词注入,LLM Guard 在检索阶段将其拦截。LLM Guard 模型下载量已超 250 万次,并提供针对提示词和响应的多种安全扫描器。
LlamaIndex 与开源 LLM 评估框架 UpTrain 完成集成,开发者只需添加几行代码,UpTrain Callback Handler 即可自动评估 RAG 流水线生成的响应质量、检索上下文质量及各中间步骤表现。
Langfuse 宣布与 LlamaIndex 集成,通过全局回调管理器实现一键式开源 RAG 可观测性。开发者安装 llama-index-callbacks-langfuse 并设置 set_global_handler("langfuse") 两行代码即可获得 RAG 应用的详细追踪,自动包含延迟与成本明细。
作者在 LlamaIndex RAG-A-THON 中开发 PresidioPIINodePostprocessor,将 Microsoft 开源的 Presidio 集成到 LlamaIndex 管线,对文本中的姓名、信用卡号、IBAN、IP 地址等 PII 进行类型化掩码。
LlamaIndex 发布 LlamaParse 正式版,定位为首个 GenAI 原生文档解析平台,公测 3 周内已有超过 2000 名用户解析超过 100 万页。
推荐理由:官方宣布 LlamaParse 正式版上线,解析指令、JSON 模式和定价等细节齐全,做文档 RAG 的读者可据此评估是否采用。
LlamaIndex 基于 Gemini 1.5 Pro 的 1M 上下文窗口初步测试,提出长上下文 LLM 会简化 RAG 的分块、检索与摘要等环节,但仍面临文档规模超窗、嵌入模型上下文落后以及成本与延迟等挑战。
polySpectra 创始人 Raymond 撰文复盘为 3D 生成式 AI 工具 neThing.xyz 接入 RAG 的过程:通过 LlamaIndex 和 AstraDB 检索相关示例代码替代庞大的 system prompt。
LlamaIndex 发布 llama-index-networks 库扩展,可把多个外部数据源上的 RAG 系统组成网络供他人查询。
LlamaIndex 发布 LlamaParse 和 LlamaCloud,为 LLM 与 RAG 应用提供托管解析、摄取和检索服务。
推荐理由:官方发布新解析与托管数据管线服务,给出公共预览的用量限制、试用方式与存储伙伴集成,读者可据此评估是否引入现有 RAG 工作流。
LlamaIndex 推出面向 LLM 与 RAG 应用的托管解析、摄取与检索服务套件 LlamaParse。LlamaParse 专注解析含表格和图表的复杂文档,已进入公开预览,当前聚焦 PDF 并对公开用户设用量上限;托管摄取与检索 API 处于私有预览,支持通过 LlamaHub 接入超过 150 个数据源和 40 多种数据存储方案。
推荐理由:LlamaIndex 官方公告,列出 LlamaParse 的解析能力、公开预览状态和配套托管 API 的开放范围,便于评估是否引入 RAG 工作流。
LlamaIndex 发布教程,演示如何用 LlamaIndex Python API 结合 OpenAI GPT4V 和 LanceDB 构建视频多模态 RAG 系统。
LlamaIndex 发布 v0.10.0,是其 Python 包迄今最大更新。核心变化包括:拆出精简的 llama-index-core 包,数百个集成(150+ 数据加载器。
推荐理由:官方发布说明了包拆分、导入路径变化和迁移工具,正在迁移或维护 LlamaIndex 项目的开发者可以直接对照升级。
RAGArch 是一款基于 LlamaIndex 的无代码 RAG 流水线配置工具,支持在 Streamlit 界面中交互式选择 LLM、嵌入模型、Node Parser、响应合成方法与向量存储,并用自己的数据实时测试效果。
LlamaIndex 发布教程,讲解如何在 Weaviate 中结合其检索评测模块,对 RAG 混合检索中的 Alpha 参数进行调优,覆盖 Web 搜索、概念、事实、关键词、拼写错误和精确子串六类查询。
LlamaIndex 发布教程,演示如何用 LlamaIndex 与 Nomic Embed 构建完全开源的 RAG 检索器。
LlamaIndex 博客介绍 Agentic RAG 架构:将最多 100 篇文档拆分后,为每篇文档创建具备嵌入搜索与摘要能力的文档 Agent,再由顶层 meta-agent 通过工具检索和 CoT 回答用户问题,并用 Rerank 端点对文档按相关性排序。
推荐理由:原文拆解了多文档 Agent 与顶层 meta-agent 的编排结构,并给出可运行的 Colab 示例,读者可据此理解 Agentic RAG 的扩展方式。
LlamaIndex 推出 llamaindex-cli 命令行工具,随 pip install llama-index 安装,底层使用 Chroma 向量数据库,可不经写代码完成 RAG。
推荐理由:官方发布零代码 RAG 命令行工具,给出完整上手步骤和可换本地模型的自定义路径,读者可以直接照着试。
Tonic Validate 已原生集成进 LlamaIndex 核心库,可用于对 RAG 系统做集成测试与性能监控。教程演示了用 create-llama 搭建示例 RAG 应用(选用 gpt-4-1106-preview、FastAPI 模板),再通过 tonic-validate 编写测试,并结合 GitHub Actions 在 RAG 性能变化时发出告警。
LlamaIndex 发布分步教程,教读者用 LlamaIndex、Qdrant 和 Render 构建并部署一个监听 Slack 对话、存储事实并回答问题的 Slackbot。
推荐理由:LlamaIndex 官方教程从零搭建一个能监听 Slack 消息、用向量索引存储记忆并用 Qdrant 持久化的机器人,步骤完整可复现。
Modal 官方工程博客展示了用 Hugging Face Text Embedding Inference 在 Modal 无服务器平台上为整个英文 Wikipedia 生成嵌入向量的方案,耗时不到 15 分钟,成本约 15 美元。
LlamaIndex 发布教程,讲解如何在 RAG 系统中实现多租户隔离,确保各用户只能检索自己索引的文档。
LlamaIndex 与 Activeloop、Towards AI、Intel Disruptor Initiative 合作推出免费课程"Advanced Retrieval Augmented Generation for Production",属于 Gen AI 360 认证系列。
LlamaIndex 推出 Query Pipelines,一个全新的声明式 API,可用更少代码将 LLM、提示词、检索器、查询引擎等模块编排成顺序链或任意复杂度的 DAG,覆盖 RAG、结构化数据抽取等场景。它支持链式写法和 add_modules/add_link 构建 DAG 两种用法,自带端到端回调与可观测性集成,未来计划支持序列化和缓存层。
LlamaIndex 发布构建高级 RAG 的速查表与系列代码配方,将 RAG 成功标准归纳为检索找到最相关文档、生成充分利用检索结果两条要求。文章基于 RAG 综述论文(Gao, Yunfan et al. 2023)给出 Chunk-Size 优化、递归检索、信息压缩、重排序、生成器增强检索、迭代检索生成等 LlamaIndex 配方,并附评测指南与 RAGAs 集成。
教程演示如何结合 OpenLLM 与 LlamaIndex 构建基于自定义语料的智能查询响应系统。OpenLLM 负责部署开源 LLM,示例用 `openllm start meta-llama/Llama-2-7b-chat-hf --backend vllm` 启动 Llama 2 7B 本地服务。
LlamaIndex 作者将 25K 文档的索引构建时间从 10-20 分钟降到约 5 分钟,方法是部署 TEI 嵌入服务、RabbitMQ 队列和 EKS worker 集群。文章给出完整架构、CLI 命令和代码仓库 https://github.com/run-llama/llamaindex_aws_ingestion,测试数天花费约 $40CAD,并提醒用完后删除集群资源。
LlamaIndex 发布教程,讲解如何用 Ollama 在本地运行 Mixtral 8x7b 并结合 LlamaIndex 使用。Mixtral 是 Mistral AI 发布的八专家混合模型,各含 7B 参数,博客称其在多项基准上匹敌或超过 GPT-3.5 和 Llama2 70b。
推荐理由:原文提供从安装到建 API 的完整本地 Mixtral 流程,含代码和硬件要求,读者可以直接照做搭建本地 RAG。
LlamaIndex 推出 LabelledEvaluatorDataset 和 LabelledPairwiseEvaluatorDataset 两款新 llama-dataset,用于评测作为评估器的 LLM,并配套发布 EvaluatorBenchmarkerPack。
作者演示如何用 LlamaIndex 和 Neo4j 实现多模态 RAG 流水线,将文本与图像分别用 ada-002 和 CLIP 嵌入后存入两个向量库,检索结果交给 gpt-4-vision-preview 生成答案。测试数据为其 2022 与 2023 年的 Medium 文章,共解析出 252 个文本块和 328 张图片,代码已开源在 GitHub。
LlamaIndex 发布教程,演示如何在 LlamaIndex 框架中用开源 Prometheus 模型对 RAG 做评估,并与 GPT-4 在 Correctness、Faithfulness、Context Relevancy 三项指标上对比。
LlamaIndex 在 Gemini 公开发布当天成为 day 1 启动合作伙伴,自 0.9.15 起全面支持 Gemini Pro 与 Gemini Ultra。集成覆盖纯文本与多模态两种变体,支持流式/非流式、同步/异步、补全/对话共 8 种组合,并新增对 Semantic Retriever API 的支持,可将存储、嵌入模型、检索与 LLM 打包为 RAG 流水线。