跳到正文
2025年3月17日周一
2025年3月6日周四
  1. Mistral AI:News63

    Mistral 发布 OCR API,文档理解基准超过 Google Document AI 与 Azure OCR

    Mistral 发布 Mistral OCR,一款可识别图像、文本、表格和公式的光学字符识别 API。内部基准中 Mistral OCR 2503 综合得分 94.89,高于 Gemini-2.0-Flash-001 的 88.69 和 Azure OCR 的 89.52;单节点处理速度可达每分钟 2000 页。

    推荐理由:官方发布 OCR API,给出与竞品的基准对比和每分钟页数,读者可据此评估其在多模态 RAG 管线中的适配性。

2025年2月27日周四
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 推出 LlamaExtract 公测:几步即可从非结构化文档提取结构化数据

    LlamaIndex 推出 LlamaExtract,现已通过 LlamaParse 的 web UI 和 Python SDK 开放公测,用户定义 schema 后即可从非结构化文档提取 JSON 格式的结构化数据。工具支持 PDF、扫描件和 100 页以上长文档,基于 LlamaParse 构建,无需手动处理 OCR 和表格解析,输出符合 schema 的类型化数据,并提供免费和付费方案。

    推荐理由:官方介绍 LlamaExtract 的 schema 定义和提取流程,读者可据此评估它能否替代手工或规则式文档处理。

2025年2月20日周四
2025年1月15日周三
2025年1月9日周四
  1. LlamaIndex:产品、工程与评测42

    LlamaIndex 推出 Agentic Document Workflows(ADW)架构

    LlamaIndex 推出 Agentic Document Workflows(ADW)架构,将文档处理、检索、结构化输出与智能体编排结合,实现端到端知识工作自动化,超越传统 IDP 与 RAG。该架构以文档智能体为核心,借助 LlamaParse 解析与检索能力,在合同审查、病历摘要、发票处理、车险理赔等场景中维护跨步骤状态并生成可执行建议。

2025年1月6日周一
2024年12月17日周二
2024年12月6日周五
2024年11月21日周四
2024年11月19日周二
2024年11月14日周四
  1. LlamaIndex:产品、工程与评测43

    RAGformation:用 RAG 自动生成云服务配置与架构图

    LlamaIndex RAG-a-thon 获奖项目 RAGformation 可让用户用自然语言描述需求,自动生成云服务选型、架构流程图和 AWS 成本估算。该工具基于 LlamaIndex Workflows 与 Pinecone 向量库,支持随需求变化动态调整推荐并输出完整报告,代码已在 GitHub 开源。

2024年11月7日周四
2024年11月5日周二
  1. LlamaIndex:产品、工程与评测51

    LlamaIndex 详解超越基础 RAG 的 LLM 报告生成构建模块

    LlamaIndex 提出基于 RAG 的报告生成方法,让系统从简单问答升级为自动产出研究报告、演示文稿和分析等完整文档。文章给出五个构建模块,包括 Pydantic 结构化输出定义、LlamaParse 复杂文档解析、知识库集成、多智能体工作流和模板处理系统,并估计每份报告可节省 10-15 小时,附多模态报告、财务分析、Excel 模板填写和 RFP 响应生成等示例 notebook。

2024年11月1日周五
  1. LlamaIndex:产品、工程与评测51

    LlamaParse 新增多页表格 Continuous Mode(Beta)与 Excel 表格输出

    LlamaIndex 为 LlamaParse 推出两项新功能:Continuous Mode(Beta)可将跨页表格合并为单一表格,目前主要在 10 页以内、格式较简单的文档上测试,速度较慢,解析 80 页 10K 报告约需 30 分钟;Excel 输出可在 Accurate、Premium 或 Continuous Mode 下解析后选择 XLSX 格式导出。两个功能可结合使用。

2024年10月29日周二
2024年9月19日周四
  1. Anthropic:Engineering72

    引入上下文检索:大幅提升RAG系统准确性的新方法

    传统RAG系统在编码时易丢失上下文,导致检索失败。新方法“上下文检索”通过“上下文嵌入”和“上下文BM25”两项子技术,在检索前为文本块添加解释性上下文,能将检索失败次数减少49%,结合重排序后降幅可达67%,显著提升了下游任务性能。对于小于20万token的小型知识库,可直接将其完整内容放入提示词,结合Claude的提示词缓存功能,能降低超过2倍的延迟和高达90%的成本。对于大型知识库,上下文检索则提供了可扩展的解决方案。

    推荐理由:Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。

2024年9月17日周二
2024年8月27日周二
2024年8月22日周四
2024年8月21日周三
  1. LlamaIndex:产品、工程与评测45

    如何用 LlamaParse 优化 RAG 管道的 chunk size

    LlamaParse 推出 Index Cloning、Chunk Visualization 等功能,帮助开发者快速试验 RAG 管道的 chunk size 配置,无需手动重建索引或管理多份数据存储。文中以三篇 ICLR 2024 论文为例,基线设置 512 tokens chunk size 时回答遗漏了 SWE-bench 的部分特征,改用 Page 分段且不分块后回答更完整。

2024年8月1日周四
2024年7月30日周二
  1. LlamaIndex:产品、工程与评测48

    LlamaParse 推出文件级检索,支持动态路由的检索智能体

    LlamaIndex 为 LlamaParse 发布文件级检索 API,与原有的 chunk 级检索并列,可按元数据或内容检索整份文档(如完整的 SEC 10K 文件或幻灯片),并支持切换检索模式、调整 top-k 和元数据过滤。官方还提供 Jupyter notebook,演示如何构建在 chunk 级与文件级检索之间动态选择的智能体,例如摘要类问题走文件级、具体数据问题走 chunk 级。

2024年7月29日周一
2024年7月25日周四
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 推出 LlamaExtract Beta:从非结构化文档抽取结构化数据

    LlamaIndex 发布 LlamaExtract beta,这是一个托管服务,可从非结构化文档中抽取结构化数据:能从候选文档集推断 schema(用户可后续编辑),并按指定 schema 抽取字段值。

    推荐理由:原文来自 LlamaIndex 官方,介绍了从文档推断 schema 并抽取结构化数据的用法,读者可以评估它在 RAG 数据处理管线中的适配性。

2024年7月19日周五
  1. LlamaIndex:产品、工程与评测43

    LlamaIndex 与 PostgresML 如何用重排序改进向量搜索

    LlamaIndex 联合 PostgresML 演示了用 cross-encoder 重排序改进向量搜索结果相关性的方法。cross-encoder 直接比较查询与结果文本对计算相似度,无需预计算 embedding,但需逐对计算、成本较高,因此适合对检索出的子集做重排序,且不依赖大量用户交互数据即可处理新内容。

2024年7月11日周四
2024年7月9日周二
2024年6月11日周二
  1. LlamaIndex:产品、工程与评测60

    LlamaIndex 教程:自定义属性图谱索引以提升 GraphRAG 准确率

    Neo4j 客座教程讲解如何在 LlamaIndex 中自定义属性图谱索引,用 SchemaLLMPathExtractor 做模式引导抽取、用文本嵌入加编辑距离做实体去重,并实现先识别查询实体再分别执行 VectorContextRetriever 的自定义检索器。示例使用 250 篇新闻文章和 Neo4j 图存储,最后用自定义检索器完成问答回流,代码托管在 GitHub。

    推荐理由:原文给出图谱构建、实体去重和自定义检索的完整可复现代码,读者可以迁移到自己的 GraphRAG 项目。

2024年5月29日周三
2024年5月14日周二
  1. LlamaIndex:产品、工程与评测62

    用 LlamaIndex 和 llamafile 搭建本地私有研究助手

    LlamaIndex 发布 Mozilla 客座教程,讲解用 llamafile 在笔记本上本地运行 LLM,并以 TinyLlama-1.1B 作为 LLM 与嵌入后端,结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。

    推荐理由:教程给出从下载运行 llamafile 到用 LlamaIndex 搭建本地 RAG 研究助手的完整代码路径,可迁移到其他主题。

2024年5月12日周日
  1. Eugene Yan:Writing82

    Applied LLMs:一年 LLM 应用开发的经验总结

    Eugene Yan 等六位作者发布长文 Applied LLMs,总结一年 LLM 应用开发经验,分战术、运营、战略三部分。战术层面涵盖 n-shot 与 CoT 提示词技巧、RAG 文档相关性、结构化输出工具 Instructor 和 Outlines、LLM-as-Judge 评测及幻觉防护;战略层面提出 PMF 之前不买 GPU、先提示词后微调、系统比模型更构成护城河等观点。

    推荐理由:多位从业者基于一年真实开发经验总结提示词、RAG、评测到团队与战略的实践清单,读者可对照自己的 LLM 项目逐条借鉴。

2024年4月26日周五
  1. Modal 官方工程博客61

    Jason Liu 演示用几百条数据微调开源嵌入模型超越 OpenAI text-embedding-3-small

    这篇 Modal 工程博客讲解如何微调开源嵌入模型,在 Quora 重复问题数据集上用几百条样本即可在文本相似度任务上超越 OpenAI text-embedding-3-small。

    推荐理由:原文给出完整的微调实验数据,读者可复用其数据量阈值和超参数网格搜索方法到自己的嵌入任务。

2024年3月20日周三
  1. LlamaIndex:产品、工程与评测43

    用 LlamaIndex 和 Protect AI 的 LLM Guard 构建安全 RAG

    Protect AI 展示如何用开源安全工具 LLM Guard 配合 LlamaIndex 加固 RAG 应用,对文档输入和模型输出进行扫描,检测并清除提示词注入、数据泄露等恶意内容。示例中,一份简历用白色文字隐藏了提示词注入,LLM Guard 在检索阶段将其拦截。LLM Guard 模型下载量已超 250 万次,并提供针对提示词和响应的多种安全扫描器。

2024年3月19日周二
2024年3月18日周一
2024年3月13日周三