LangChain 基准测试 CSV 数据问答:用 OpenAI functions 智能体结合 Python REPL 与检索器
LangChain 发布对 CSV 表格数据问答的基准测试复盘,最终方案是一个使用 OpenAI functions 的智能体,配备 Python REPL 和检索器两个工具。
LangChain 发布对 CSV 表格数据问答的基准测试复盘,最终方案是一个使用 OpenAI functions 的智能体,配备 Python REPL 和检索器两个工具。
LlamaIndex 发布教程,演示如何用 Text2SQL 加 RAG 分析商品评论数据。方法先把自然语言问题用 gpt-3.5-turbo 拆成取数与解读两个子问题。
Zep 为 LlamaIndex 推出新的 ZepVectorStore,可直接接入 Zep 的 Document Vector Store。开发者通过 ZepVectorStore 创建 Collection 并构建索引,即可对文档做混合语义搜索,并用 LlamaIndex 的 MetadataFilters 按元数据过滤结果。
LangChain 团队尝试构建自动化网络研究的 agent,迭代搜索表现不佳后,改为并行搜索、抓取页面并用 LLM 从每页提取最相关内容,最终将其演化为一个新的 LangChain retriever,提供文档和配置示例。
LlamaIndex 工程师在发布 LlamaHub Tools(含 Gmail、Google Calendar、Wolfram Alpha 等 15 个工具)后,总结编写 LLM Agent 工具的技巧。
推荐理由:作者结合 LlamaHub Tools 的开发实践,总结出输入容错、错误自恢复、日期函数等可直接套用的 Agent 工具编写方法。
作者为 LlamaIndex 新增了图数据库和 GraphQL API 两个数据加载器,并演示如何用加载器把外部数据接入 LLM 查询。文中先用 SimpleCSVReader 加载 countries.csv 构建 GPTVectorStoreIndex,配合 gpt-3.5-turbo 完成跨语言问答并返回引用文档。
LlamaIndex 与 Anyscale 联合发布教程,演示用 LlamaIndex + Ray 构建针对 Ray 文档和博客的查询引擎。
LlamaIndex 与 TruLens 团队合作,在 TruLens 最新版本中为 LlamaIndex 应用引入 tracing,只需几行代码即可自动评测应用输入输出、LLM 调用、检索到的上下文块、延迟等组件。开发者用 TruLlama 包装 query engine 并添加反馈函数,即可在 TruLens dashboard 中查看评测结果并定位检索块不相关导致的模型幻觉。
LlamaIndex 与 Weaviate 组合可搭建 RAG 技术栈:Weaviate 作为向量数据库充当外部存储,LlamaIndex 负责数据管理与编排。
Michael Chang 在 LangChain 博客发布 data-driven-characters 开源仓库,可上传语料、命名角色即可生成角色聊天机器人,支持导出到 character.ai、命令行和 Streamlit 三种交互方式。
LlamaIndex 团队为 Transformers Agents 实现了一个 Text2Image Prompt Assistant 工具,通过索引 10K 条 DiffusionDB 提示词,让 LLM 参考示例改写提示词后再生成图像。
Vellum 与 LlamaIndex 完成集成,LlamaIndex 用户可通过 VellumPredictor 自动注册提示词,并获得 Sandbox 迭代环境和带版本管理、请求监控的 Deployment。集成还支持用 Vellum Test Suites 批量上传 CSV 测试用例,在生产前跑 50–100 条用例做单元测试,并在生产中对历史输入做回归测试。
LlamaIndex 在博客中展示新查询引擎 SQLAutoVectorQueryEngine,可同时利用 SQL 数据库和向量数据库回答同时涉及结构化与非结构化数据的自然语言查询。
推荐理由:原文给出 SQLAutoVectorQueryEngine 的工作流程、示例代码和实验结果,读者可以照着复现结构化与非结构化数据的组合查询。
LlamaIndex 与 MongoDB 联合发布教程,讲解如何用 LlamaIndex 连接私有数据并结合 MongoDB 存储,构建可对自有文档进行英文问答的系统。
LlamaIndex 团队介绍了围绕 LLM 驱动检索与重排序构建的核心抽象,用于改进传统 top-k 嵌入检索。
LlamaIndex 作者 Jerry 在 TWIML AI 播客中回顾了项目起源:2022 年 11 月为做销售机器人而尝试把 Notion、Slack、Salesforce 等私有数据接入 GPT-3,由此催生这一连接语言模型与数据的工具包。
LlamaIndex 发布新的数据结构 Document Summary Index,为每个文档用 LLM 提取摘要并建立摘要到源文档节点的映射,以提升检索效果。
LlamaIndex 提供 Question Generation 与无标注 Evaluation 模块,用三步流程评测检索增强问答系统:先用 DataGenerator 从文档生成问题,再用 QueryEngine 生成答案与 source nodes,最后判断三者是否匹配。
LangChain 发布技术博客,对比近两周流行的 AutoGPT、BabyAGI、CAMEL 和 Generative Agents 四个 Agent 项目,将其分为自主智能体与智能体模拟两类。
推荐理由:原文对比 AutoGPT、BabyAGI、CAMEL 等项目的新颖点,并说明 LangChain 已复刻哪些部分,读者可据此了解各框架差异与可复用实现。
系统阐述 Transformer 架构在计算负载与内存占用方面的基础数学原理,涵盖前向传播与反向传播过程中的浮点运算量(FLOPs)估算、模型参数量与显存需求的计算公式,以及注意力机制的复杂度分析。通过量化方法解析大语言模型训练与推理阶段的资源消耗规律,为模型设计与硬件选型提供理论依据。
LangChain 与社区成员 Francisco Ingham、Jon Luo 发布 LLM 与 SQL 结合的实践指南,并宣布 3 月 22 日举行一小时网络研讨会。
推荐理由:LangChain 团队系统整理了让 LLM 生成有效 SQL 的三类问题与对应解法,方法可直接迁移到自己的 Text-to-SQL 场景。
OpenAI 发布文章梳理大型神经网络的训练技术,指出训练这类模型是一项困难的工程与研究挑战,需要编排一整个 GPU 集群来完成单次同步计算。
Cohere、OpenAI 和 AI21 Labs 共同制定了一套初步的大语言模型最佳实践,适用于任何开发或部署大语言模型的组织。
OpenAI 将 Kubernetes 集群扩展至 7,500 节点,为 GPT-3、CLIP、DALL·E 等大模型提供可扩展基础设施,同时支持小规模快速迭代研究。
OpenAI 发布 Spinning Up in Deep RL,一套旨在让任何人学会成为深度强化学习熟练从业者的教育材料。资源包含清晰的 RL 代码示例、教育性练习、文档和教程。
推荐理由:OpenAI 自家发布的深度强化学习教育资源,代码示例、练习和教程齐全,适合想系统入门深度 RL 的开发者按图索骥。
对抗样本是攻击者刻意设计、能让机器学习模型出错的输入,相当于给机器看的视错觉。OpenAI 展示了对抗样本在不同媒介上的表现,并讨论了为何防御这类攻击十分困难。