METR 发布首份公开报告:评测语言模型智能体在真实自主任务上的表现
METR 的 ARC Evals 团队发布首份公开报告,提出评估 LLM 智能体“自主复制与适应”(ARA)能力的方法。研究设计了 12 个难度递增的真实任务,如搜索文件、用 Twilio 打电话、部署 GPT-J、微调 LLaMA-7B 扩展上下文等,并构建 4 个基于 GPT-4 和 Claude 的脚手架智能体进行测试。
METR 的 ARC Evals 团队发布首份公开报告,提出评估 LLM 智能体“自主复制与适应”(ARA)能力的方法。研究设计了 12 个难度递增的真实任务,如搜索文件、用 Twilio 打电话、部署 GPT-J、微调 LLaMA-7B 扩展上下文等,并构建 4 个基于 GPT-4 和 Claude 的脚手架智能体进行测试。
LangChain 团队尝试构建自动化网络研究的 agent,迭代搜索表现不佳后,改为并行搜索、抓取页面并用 LLM 从每页提取最相关内容,最终将其演化为一个新的 LangChain retriever,提供文档和配置示例。
LlamaIndex 与 Zapier NLA 团队联合宣布 LlamaIndex 数据智能体接入 Zapier NLA。用 ZapierToolSpec 和 OpenAIAgent 约 5 行代码即可访问 Zapier 上的 5000+ 第三方应用和 30000+ 动作,示例展示了总结未读邮件并发送到 Slack。提供免费与付费方案。
LlamaIndex 工程师在发布 LlamaHub Tools(含 Gmail、Google Calendar、Wolfram Alpha 等 15 个工具)后,总结编写 LLM Agent 工具的技巧。
推荐理由:作者结合 LlamaHub Tools 的开发实践,总结出输入容错、错误自恢复、日期函数等可直接套用的 Agent 工具编写方法。
LlamaIndex 发布 Data Agents,LLM 驱动的知识工作者可对非结构化、半结构化和结构化数据执行读取与写入任务。
推荐理由:发布方亲自讲解 Data Agents 的推理循环与工具抽象设计,并给出可直接复用的代码示例,适合想在自己的数据上搭建智能体的开发者参考。
LlamaIndex 发布新博客系列 LlamaIndex Update,并推出多项功能更新:支持 NebulaGraph 的知识图谱 RAG、可内联引用来源的 CitationQueryEngine、集成 Microsoft Guidance 实现结构化输出,以及支持顺序工具调用和异步回调的 OpenAIAgent。
Michael Chang 在 LangChain 博客发布 data-driven-characters 开源仓库,可上传语料、命名角色即可生成角色聊天机器人,支持导出到 character.ai、命令行和 Streamlit 三种交互方式。
LlamaIndex 团队为 Transformers Agents 实现了一个 Text2Image Prompt Assistant 工具,通过索引 10K 条 DiffusionDB 提示词,让 LLM 参考示例改写提示词后再生成图像。
LlamaIndex 在三份 Uber 2022 年 10-Q 财报上比较了复杂无约束的 ReAct agent 与简单路由 agent 的查询效果。
LangChain 发布名为 Plan-and-Execute 的新型智能体执行器,先由 planner 规划步骤,再由执行器逐步完成,与此前基于 ReAct 的 Action Agent 形成对比。该设计将规划与执行分离以提升可靠性,代价是更多 LLM 调用,灵感来自 BabyAGI 和 Plan-and-Solve 论文,首版放在实验模块,提供 Python 和 JS/TS 文档。
推荐理由:原文解释了 Plan-and-Execute 与传统 Action Agent 的算法差异和代价,读者可以据此判断它适合的复杂任务场景。
LlamaIndex 作者 Jerry 在 TWIML AI 播客中回顾了项目起源:2022 年 11 月为做销售机器人而尝试把 Notion、Slack、Salesforce 等私有数据接入 GPT-3,由此催生这一连接语言模型与数据的工具包。
LangChain 发布技术博客,对比近两周流行的 AutoGPT、BabyAGI、CAMEL 和 Generative Agents 四个 Agent 项目,将其分为自主智能体与智能体模拟两类。
推荐理由:原文对比 AutoGPT、BabyAGI、CAMEL 等项目的新颖点,并说明 LangChain 已复刻哪些部分,读者可据此了解各框架差异与可复用实现。
OpenAI 通过 Video PreTraining(VPT)在大量无标注人类 Minecraft 游玩视频上训练神经网络,仅使用少量承包商标注数据,微调后模型可合成钻石工具,这一任务熟练人类通常需要超过 20 分钟、约 24,000 个操作。模型使用键盘和鼠标的原生人类接口,是迈向通用计算机操作智能体的一步。
推荐理由:原文说明 VPT 用少量标注数据配合海量无标注视频训练模型,读者可了解这种半监督路线对训练通用智能体的参考价值。
OpenAI 报告在新构建的模拟躲猫猫环境中,智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略,其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明,多智能体共同适应未来可能产生极复杂且智能的行为。
推荐理由:原文记录了多智能体在躲猫猫环境中自发形成的六种策略与反策略,可帮助读者理解多智能体协同如何催生复杂行为。
OpenAI 发布训练环境 CoinRun,用于衡量智能体将经验迁移到新情境的能力,并已帮助厘清强化学习领域一个长期存在的难题。CoinRun 在复杂度上取得平衡:比《刺猬索尼克》等传统平台游戏更简单,但仍对当前最先进算法构成值得挑战的泛化测试。