跳到正文
2024年7月19日周五
  1. LlamaIndex:产品、工程与评测43

    LlamaIndex 与 PostgresML 如何用重排序改进向量搜索

    LlamaIndex 联合 PostgresML 演示了用 cross-encoder 重排序改进向量搜索结果相关性的方法。cross-encoder 直接比较查询与结果文本对计算相似度,无需预计算 embedding,但需逐对计算、成本较高,因此适合对检索出的子集做重排序,且不依赖大量用户交互数据即可处理新内容。

2024年7月11日周四
2024年7月9日周二
2024年6月11日周二
  1. LlamaIndex:产品、工程与评测60

    LlamaIndex 教程:自定义属性图谱索引以提升 GraphRAG 准确率

    Neo4j 客座教程讲解如何在 LlamaIndex 中自定义属性图谱索引,用 SchemaLLMPathExtractor 做模式引导抽取、用文本嵌入加编辑距离做实体去重,并实现先识别查询实体再分别执行 VectorContextRetriever 的自定义检索器。示例使用 250 篇新闻文章和 Neo4j 图存储,最后用自定义检索器完成问答回流,代码托管在 GitHub。

    推荐理由:原文给出图谱构建、实体去重和自定义检索的完整可复现代码,读者可以迁移到自己的 GraphRAG 项目。

2024年5月29日周三
2024年5月14日周二
  1. LlamaIndex:产品、工程与评测62

    用 LlamaIndex 和 llamafile 搭建本地私有研究助手

    LlamaIndex 发布 Mozilla 客座教程,讲解用 llamafile 在笔记本上本地运行 LLM,并以 TinyLlama-1.1B 作为 LLM 与嵌入后端,结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。

    推荐理由:教程给出从下载运行 llamafile 到用 LlamaIndex 搭建本地 RAG 研究助手的完整代码路径,可迁移到其他主题。

2024年4月26日周五
  1. Modal 官方工程博客61

    Jason Liu 演示用几百条数据微调开源嵌入模型超越 OpenAI text-embedding-3-small

    这篇 Modal 工程博客讲解如何微调开源嵌入模型,在 Quora 重复问题数据集上用几百条样本即可在文本相似度任务上超越 OpenAI text-embedding-3-small。

    推荐理由:原文给出完整的微调实验数据,读者可复用其数据量阈值和超参数网格搜索方法到自己的嵌入任务。

2024年3月20日周三
  1. LlamaIndex:产品、工程与评测43

    用 LlamaIndex 和 Protect AI 的 LLM Guard 构建安全 RAG

    Protect AI 展示如何用开源安全工具 LLM Guard 配合 LlamaIndex 加固 RAG 应用,对文档输入和模型输出进行扫描,检测并清除提示词注入、数据泄露等恶意内容。示例中,一份简历用白色文字隐藏了提示词注入,LLM Guard 在检索阶段将其拦截。LLM Guard 模型下载量已超 250 万次,并提供针对提示词和响应的多种安全扫描器。

2024年3月19日周二
2024年3月18日周一
2024年3月13日周三
  1. LlamaIndex:产品、工程与评测63

    LlamaIndex 推出 GenAI 原生文档解析平台 LlamaParse,新增自然语言解析指令与 JSON 模式

    LlamaIndex 发布 LlamaParse 正式版,定位为首个 GenAI 原生文档解析平台,公测 3 周内已有超过 2000 名用户解析超过 100 万页。

    推荐理由:官方宣布 LlamaParse 正式版上线,解析指令、JSON 模式和定价等细节齐全,做文档 RAG 的读者可据此评估是否采用。

2024年3月1日周五
2024年2月29日周四
2024年2月27日周二
2024年2月20日周二
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 发布 LlamaParse 及托管摄取与检索服务

    LlamaIndex 推出面向 LLM 与 RAG 应用的托管解析、摄取与检索服务套件 LlamaParse。LlamaParse 专注解析含表格和图表的复杂文档,已进入公开预览,当前聚焦 PDF 并对公开用户设用量上限;托管摄取与检索 API 处于私有预览,支持通过 LlamaHub 接入超过 150 个数据源和 40 多种数据存储方案。

    推荐理由:LlamaIndex 官方公告,列出 LlamaParse 的解析能力、公开预览状态和配套托管 API 的开放范围,便于评估是否引入 RAG 工作流。

2024年2月17日周六
2024年2月12日周一
  1. LlamaIndex:产品、工程与评测61

    LlamaIndex v0.10 发布:拆分 llama-index-core 与集成包并弃用 ServiceContext

    LlamaIndex 发布 v0.10.0,是其 Python 包迄今最大更新。核心变化包括:拆出精简的 llama-index-core 包,数百个集成(150+ 数据加载器。

    推荐理由:官方发布说明了包拆分、导入路径变化和迁移工具,正在迁移或维护 LlamaIndex 项目的开发者可以直接对照升级。

2024年2月2日周五
2024年1月31日周三
2024年1月30日周二
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 讲解 Agentic RAG:用多文档 Agent 构建可扩展的 RAG 架构

    LlamaIndex 博客介绍 Agentic RAG 架构:将最多 100 篇文档拆分后,为每篇文档创建具备嵌入搜索与摘要能力的文档 Agent,再由顶层 meta-agent 通过工具检索和 CoT 回答用户问题,并用 Rerank 端点对文档按相关性排序。

    推荐理由:原文拆解了多文档 Agent 与顶层 meta-agent 的编排结构,并给出可运行的 Colab 示例,读者可据此理解 Agentic RAG 的扩展方式。

2024年1月26日周五
2024年1月25日周四
  1. LlamaIndex:产品、工程与评测63

    LlamaIndex 教程:用 LlamaIndex、Qdrant 和 Render 构建可学习的 Slack 机器人

    LlamaIndex 发布分步教程,教读者用 LlamaIndex、Qdrant 和 Render 构建并部署一个监听 Slack 对话、存储事实并回答问题的 Slackbot。

    推荐理由:LlamaIndex 官方教程从零搭建一个能监听 Slack 消息、用向量索引存储记忆并用 Qdrant 持久化的机器人,步骤完整可复现。

2024年1月23日周二
2024年1月15日周一
2024年1月11日周四
2024年1月8日周一
  1. LlamaIndex:产品、工程与评测54

    LlamaIndex 发布 Query Pipelines 声明式查询编排 API

    LlamaIndex 推出 Query Pipelines,一个全新的声明式 API,可用更少代码将 LLM、提示词、检索器、查询引擎等模块编排成顺序链或任意复杂度的 DAG,覆盖 RAG、结构化数据抽取等场景。它支持链式写法和 add_modules/add_link 构建 DAG 两种用法,自带端到端回调与可观测性集成,未来计划支持序列化和缓存层。

2024年1月5日周五
  1. LlamaIndex:产品、工程与评测53

    LlamaIndex 发布高级 RAG 构建速查表与代码配方

    LlamaIndex 发布构建高级 RAG 的速查表与系列代码配方,将 RAG 成功标准归纳为检索找到最相关文档、生成充分利用检索结果两条要求。文章基于 RAG 综述论文(Gao, Yunfan et al. 2023)给出 Chunk-Size 优化、递归检索、信息压缩、重排序、生成器增强检索、迭代检索生成等 LlamaIndex 配方,并附评测指南与 RAGAs 集成。

2024年1月3日周三
2024年1月2日周二
  1. LlamaIndex:产品、工程与评测59

    LlamaIndex 工程师分享基于 AWS 的可扩展数据摄取管线实践

    LlamaIndex 作者将 25K 文档的索引构建时间从 10-20 分钟降到约 5 分钟,方法是部署 TEI 嵌入服务、RabbitMQ 队列和 EKS worker 集群。文章给出完整架构、CLI 命令和代码仓库 https://github.com/run-llama/llamaindex_aws_ingestion,测试数天花费约 $40CAD,并提醒用完后删除集群资源。

2023年12月21日周四
  1. LlamaIndex:产品、工程与评测71

    LlamaIndex 教程:用 Ollama 本地运行 Mixtral 8x7b 并构建 RAG 应用

    LlamaIndex 发布教程,讲解如何用 Ollama 在本地运行 Mixtral 8x7b 并结合 LlamaIndex 使用。Mixtral 是 Mistral AI 发布的八专家混合模型,各含 7B 参数,博客称其在多项基准上匹敌或超过 GPT-3.5 和 Llama2 70b。

    推荐理由:原文提供从安装到建 API 的完整本地 Mixtral 流程,含代码和硬件要求,读者可以直接照做搭建本地 RAG。

2023年12月20日周三
2023年12月18日周一
  1. LlamaIndex:产品、工程与评测55

    用 LlamaIndex 和 Neo4j 搭建多模态 RAG 流水线的实践教程

    作者演示如何用 LlamaIndex 和 Neo4j 实现多模态 RAG 流水线,将文本与图像分别用 ada-002 和 CLIP 嵌入后存入两个向量库,检索结果交给 gpt-4-vision-preview 生成答案。测试数据为其 2022 与 2023 年的 Medium 文章,共解析出 252 个文本块和 328 张图片,代码已开源在 GitHub。

2023年12月15日周五
2023年12月13日周三
  1. LlamaIndex:产品、工程与评测43

    LlamaIndex 宣布支持 Gemini,并集成 Semantic Retriever API

    LlamaIndex 在 Gemini 公开发布当天成为 day 1 启动合作伙伴,自 0.9.15 起全面支持 Gemini Pro 与 Gemini Ultra。集成覆盖纯文本与多模态两种变体,支持流式/非流式、同步/异步、补全/对话共 8 种组合,并新增对 Semantic Retriever API 的支持,可将存储、嵌入模型、检索与 LLM 打包为 RAG 流水线。