Liquid AI 发布 Liquid Nanos 系列 350M–2.6B 端侧专用小模型
Liquid AI 发布 Liquid Nanos 系列,包含 350M 至 2.6B 参数的任务专用 LFM2 模型,可完全在手机、笔记本和嵌入式设备上运行。
推荐理由:原文给出各款小模型的参数量、任务定位和评测对比,读者可判断端侧专用模型能否替代云端大模型。
Liquid AI 发布 Liquid Nanos 系列,包含 350M 至 2.6B 参数的任务专用 LFM2 模型,可完全在手机、笔记本和嵌入式设备上运行。
推荐理由:原文给出各款小模型的参数量、任务定位和评测对比,读者可判断端侧专用模型能否替代云端大模型。
LlamaIndex 自建包含 1000 篇 ArXiv 论文的基准,测试 Claude Code 在有无 SemTools 时的文档搜索表现。
Bright Data 通过 LlamaHub 原生集成 LlamaIndex,为 AI 智能体提供网页抓取、搜索与数据增强能力。
Claude API 和 Vertex AI 的搜索结果内容块(Search result content blocks)现已正式可用。该功能可为 RAG 应用提供带来源归属的自然引用,无需再使用 beta 头 `search-results-2025-06-09`。
LlamaIndex 发布教程,演示如何用 LlamaParse Index 解析并索引非结构化文档,再通过开源智能体框架接入 AI 智能体。教程以 JPMorgan Chase 存款账户披露文件为数据集,用 Claude Sonnet 4 搭建查询引擎与 FunctionAgent,可完成透支费、补卡费和止付费等复合计算。
LlamaIndex 指出,直接用 OpenAI、Claude、Gemini 等 LLM API 截图解析文档仍会幻觉数值、丢失复杂结构,且缺少置信度分数、边界框和引用等企业级元数据。其 LlamaParse 通过混合文本解析与视觉模型,在基准测试中比纯截图方式准确率提升 5% 以上,并提供更便宜的纯 LLM 模式和自动升级的 auto-mode。
DeepEval 与 LlamaIndex 组合可对 RAG 流水线做单元测试式评测:DeepEval 提供 50+ 开箱即用指标,默认由 OpenAI gpt-4o 驱动,示例选用 Answer Relevancy、Faithfulness 和 Contextual Precision 三项 RAG 指标。
LlamaIndex 发文拆解"上下文工程"概念,指出它与提示词工程的区别在于更关注用最相关信息填满 LLM 的上下文窗口,而非仅提供指令。文章将上下文拆为系统提示词、用户输入、短期与长期记忆、知识库检索、工具定义与响应、结构化输出、全局状态等来源,并给出知识库或工具选择、上下文排序与压缩等策略,可用 LlamaIndex 和 LlamaParse 落地。
LlamaIndex 发文回答 MCP 是否会取代向量搜索,核心论点是智能体仍需要预处理和索引层来做非结构化数据的快速语义检索。
Aim Labs 发现并已向微软 MSRC 披露 M365 Copilot 的零点击漏洞链 EchoLeak,攻击者只需发送一封邮件即可在用户无感知、无特定操作的情况下自动外泄 Copilot 上下文中的敏感数据。
推荐理由:安全团队原创拆解了 EchoLeak 零点击攻击链与 LLM Scope Violation 概念,读者可据此评估其他 RAG 应用的同类暴露面。
Mistral 发布首个专为代码打造的嵌入模型 Codestral Embed,在真实代码检索任务上显著优于 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大型嵌入模型。
LlamaParse 5 月更新新增 OpenAI GPT-4.1 和 Google Gemini 2.5 Pro 两个解析模型,并加入自动方向与倾斜检测,可识别 90º、180º、270º 旋转及 1º-12º 倾斜并自动校正。
LlamaIndex 为 LlamaExtract 加入可选的引用与推理功能,每个提取字段都会给出原文位置和智能体的提取理由。用户可在 LlamaParse UI 或开源 SDK 中通过 ExtractConfig 设置 use_reasoning 和 cite_sources 开启,推理结果会标注 "VERBATIM EXTRACTION" 或 "INSUFFICIENT DATA"。
LlamaIndex 提出 Agentic Document Workflow(ADW)参考架构,用 Parse、Retrieve、Reason、Act 四个阶段和 Pydantic 类型化数据契约,把企业文档处理从"与文档聊天"原型推进到全自动流程。
Mistral 团队介绍用 LLM as a Judge 评估 RAG 系统的方法,即让一个"judge LLM"按数值、二值或定性量表为"generator LLM"的答案打分,再对评测数据集求加权平均。
LlamaIndex 发布 LlamaParse 使用指南,演示用 Python 几行代码把 PDF 解析为 markdown,注册可获得 10,000 免费积分、每天免费解析 1000 页。
LlamaIndex 的 LlamaExtract 可用于从 SEC 10-K/Q 财报中提取结构化数据,这类文件常超过 100 页、结构松散且含大量表格,传统方法难以跨章节保持上下文。
Mistral 发布 Mistral OCR,一款可识别图像、文本、表格和公式的光学字符识别 API。内部基准中 Mistral OCR 2503 综合得分 94.89,高于 Gemini-2.0-Flash-001 的 88.69 和 Azure OCR 的 89.52;单节点处理速度可达每分钟 2000 页。
推荐理由:官方发布 OCR API,给出与竞品的基准对比和每分钟页数,读者可据此评估其在多模态 RAG 管线中的适配性。
LlamaIndex 推出 LlamaExtract,现已通过 LlamaParse 的 web UI 和 Python SDK 开放公测,用户定义 schema 后即可从非结构化文档提取 JSON 格式的结构化数据。工具支持 PDF、扫描件和 100 页以上长文档,基于 LlamaParse 构建,无需手动处理 OCR 和表格解析,输出符合 schema 的类型化数据,并提供免费和付费方案。
推荐理由:官方介绍 LlamaExtract 的 schema 定义和提取流程,读者可据此评估它能否替代手工或规则式文档处理。
LlamaParse 宣布更新解析模式,将解析选项简化为 Fast、Balanced、Premium 三档,并提供不使用 AI、用 LLM、用 LVM、用 Agent 四种可指定的解析方式,同时废弃旧的 parsing instructions 系统改为系统提示词与用户提示词组合。
LlamaIndex 发布用 Workflows 构建 text2cypher 知识图谱智能体的实践教程,实现朴素、重试、重试加评估和迭代规划四种流程,代码开源并提供托管应用。
LlamaIndex 推出 Agentic Document Workflows(ADW)架构,将文档处理、检索、结构化输出与智能体编排结合,实现端到端知识工作自动化,超越传统 IDP 与 RAG。该架构以文档智能体为核心,借助 LlamaParse 解析与检索能力,在合同审查、病历摘要、发票处理、车险理赔等场景中维护跨步骤状态并生成可执行建议。
LlamaIndex 与 NVIDIA 合作发布 NVIDIA AI Blueprint,用多智能体系统实现研究、撰写并优化任意主题的博客文章。
LlamaIndex 开启 LlamaReport 测试版,这是一款 API 优先的报告生成工具,可上传源文档和模板,自动完成解析、规划与报告生成。它基于 LlamaParse 做文档处理,支持 markdown、问卷等多种模板形式,并提供 LLM 驱动的局部编辑与修改理由。
LlamaParse 的 SharePoint 集成现已开箱支持权限感知,可将 SharePoint 的细粒度访问控制用于 RAG 应用。
Memgraph 与 LlamaIndex 集成,可将原始文本转化为结构化知识图谱并用自然语言查询。
LlamaIndex 在 Microsoft Ignite 上宣布与 Azure AI 完成集成,提供完全运行在 Azure 上的端到端 RAG 与知识增强智能体全栈方案。
LlamaIndex RAG-a-thon 获奖项目 RAGformation 可让用户用自然语言描述需求,自动生成云服务选型、架构流程图和 AWS 成本估算。该工具基于 LlamaIndex Workflows 与 Pinecone 向量库,支持随需求变化动态调整推荐并输出完整报告,代码已在 GitHub 开源。
LlamaIndex 黑客松获奖团队提出 RAG Context Refinement Agent,在问答阶段用智能体反复回访源文档,通过 Evaluator 判断检索片段是否足以回答问题,再由 Tool Selector 调度摘要、文件筛选、链接追踪等工具迭代精炼 scratchpad 上下文。
LlamaIndex 提出基于 RAG 的报告生成方法,让系统从简单问答升级为自动产出研究报告、演示文稿和分析等完整文档。文章给出五个构建模块,包括 Pydantic 结构化输出定义、LlamaParse 复杂文档解析、知识库集成、多智能体工作流和模板处理系统,并估计每份报告可节省 10-15 小时,附多模态报告、财务分析、Excel 模板填写和 RFP 响应生成等示例 notebook。
LlamaIndex 为 LlamaParse 推出两项新功能:Continuous Mode(Beta)可将跨页表格合并为单一表格,目前主要在 10 页以内、格式较简单的文档上测试,速度较慢,解析 80 页 10K 报告约需 30 分钟;Excel 输出可在 Accurate、Premium 或 Continuous Mode 下解析后选择 XLSX 格式导出。两个功能可结合使用。
LlamaIndex 发布 LlamaParse Premium 模式,结合多模态模型和启发式文本解析技术处理复杂文档,官方称效果超过 Sonnet-3.5 等原生模型。
传统RAG系统在编码时易丢失上下文,导致检索失败。新方法“上下文检索”通过“上下文嵌入”和“上下文BM25”两项子技术,在检索前为文本块添加解释性上下文,能将检索失败次数减少49%,结合重排序后降幅可达67%,显著提升了下游任务性能。对于小于20万token的小型知识库,可直接将其完整内容放入提示词,结合Claude的提示词缓存功能,能降低超过2倍的延迟和高达90%的成本。对于大型知识库,上下文检索则提供了可扩展的解决方案。
推荐理由:Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。
LlamaIndex 宣布 LlamaParse 企业级 RAG 平台新增多模态功能,可在索引中同时存储和检索文本与图像块,几分钟内搭建完整的多模态 RAG 流水线。
LlamaIndex 发布教程,演示如何用 Azure OpenAI 作为 AI 提供方、在 Microsoft Azure 上部署无服务器 RAG 应用。
LlamaIndex 发布 Python 版 0.11,引入事件驱动的 Workflows 架构,取代已弃用的 Query Pipelines,并新增 instrumentation 可观测性功能。
LlamaParse 推出 Index Cloning、Chunk Visualization 等功能,帮助开发者快速试验 RAG 管道的 chunk size 配置,无需手动重建索引或管理多份数据存储。文中以三篇 ICLR 2024 论文为例,基线设置 512 tokens chunk size 时回答遗漏了 SWE-bench 的部分特征,改用 Page 分段且不分块后回答更完整。
LlamaIndex 推出 beta 功能 Workflows,一种基于事件驱动架构的编排机制,用于替代此前的 Query Pipelines 来构建复杂 AI 应用。
LlamaIndex 为 LlamaParse 发布文件级检索 API,与原有的 chunk 级检索并列,可按元数据或内容检索整份文档(如完整的 SEC 10K 文件或幻灯片),并支持切换检索模式、调整 top-k 和元数据过滤。官方还提供 Jupyter notebook,演示如何构建在 chunk 级与文件级检索之间动态选择的智能体,例如摘要类问题走文件级、具体数据问题走 chunk 级。
LlamaIndex 发布 LlamaExtract beta,这是一个托管服务,可从非结构化文档中抽取结构化数据:能从候选文档集推断 schema(用户可后续编辑),并按指定 schema 抽取字段值。
推荐理由:原文来自 LlamaIndex 官方,介绍了从文档推断 schema 并抽取结构化数据的用法,读者可以评估它在 RAG 数据处理管线中的适配性。