OpenAI Cookbook 发布:用 LlamaIndex 评估 RAG 系统
OpenAI Cookbook 发布了一份使用 LlamaIndex 评估 RAG 系统的指南,分为理解 RAG、用 LlamaIndex 构建 RAG、评估 RAG 三部分。
OpenAI Cookbook 发布了一份使用 LlamaIndex 评估 RAG 系统的指南,分为理解 RAG、用 LlamaIndex 构建 RAG、评估 RAG 三部分。
OpenAI 官方宣布领导层变动,材料抓取失败,仅标题可用,具体细节以原文为准。
OpenAI 启动 Data Partnerships 计划,与各方合作创建用于 AI 训练的开源和私有数据集。该计划旨在为模型训练提供更多数据来源。
LlamaIndex 在 OpenAI 开发者日当天更新库,支持 gpt-4-1106-preview(GPT-4 Turbo,128,000 token 上下文窗口、JSON mode、并行函数调用等)和 gpt-4-vision-preview 多模态模型。同时新增 Azure OpenAI 端点、嵌入抽象与函数调用示例,其 RAG 演示 SEC Insights 已改用最新版 GPT-4。
推荐理由:LlamaIndex 当天即完成对 OpenAI 新模型的支持,读者可借此了解新能力在 RAG 工作流中的接入方式。
OpenAI 在 DevDay 上发布 GPT-4 Turbo,支持 128K 上下文且价格更低,同时推出新模型和开发者产品,包括 Assistants API、GPT-4 Turbo with Vision 和 DALL·E 3 API 等。
推荐理由:官方一次性列出多模型与开发者产品更新,128K 上下文和降价信息可帮助开发者评估迁移成本。
OpenAI 推出 GPTs,用户可以创建结合指令、额外知识和任意技能组合的 ChatGPT 自定义版本。
推荐理由:OpenAI 官方宣布用户可自建结合指令、额外知识与技能的定制版 ChatGPT,可据此了解这一新功能的用途。
OpenAI 宣布为高能力 AI 系统的安全建立灾难性风险防范(Preparedness)方法,包括组建 Preparedness 团队并发起一项挑战赛。
OpenAI 联合 Anthropic、Google 和 Microsoft 宣布 Frontier Model Forum 新任执行董事,并设立 1000 万美元 AI 安全基金。该论坛由上述四家公司共同参与,此次更新同时涉及人事任命与资金投入两项内容。
LlamaIndex 解读 NVIDIA 研究,用 Nemo GPT-43B(扩展至 16K)与 LLaMA2-70B(扩展至 16K/32K)在 7 个数据集上比较检索增强与长上下文扩展。
OpenAI 宣布 DALL·E 3 正式在 ChatGPT Plus 和 Enterprise 中可用。官方表示已为更广泛发布构建了安全缓解措施堆栈,并同步分享了来源(provenance)研究的最新进展。
推荐理由:官方宣布 DALL·E 3 上线 ChatGPT Plus 和 Enterprise,并提及安全缓解措施与来源研究进展。
Rubric Labs 团队在 LangChain 博客发布指南,讲解为 Cal.com 构建的 AI 邮件调度助手 Cal.ai 的生产架构。
推荐理由:原文拆解了一个已在生产环境运行的邮件调度 Agent 架构,读者可以借鉴其工具设计与提示词构造方法。
OpenAI 发布 GPT-4V(ision) 系统卡,说明该多模态模型的相关信息。
OpenAI 宣布 ChatGPT 新增看、听、说能力。用户可向 ChatGPT 展示图像并进行对话讨论,也可用语音与它交流。
OpenAI 宣布公开招募 Red Teaming Network 成员,邀请各领域专家参与,以提升其模型的安全性。
OpenAI 发布面向教师的 ChatGPT 课堂使用指南。内容包含建议提示词、ChatGPT 工作原理及其局限性说明、AI 检测器的有效性,以及偏见问题。
推荐理由:官方指南汇总了课堂提示词、模型局限与 AI 检测器效果等要点,教师可据此了解 ChatGPT 在教学中的实际用法。
OpenAI 发布 ChatGPT Enterprise,提供企业级安全与隐私保障,并称这是迄今最强大的 ChatGPT 版本。
推荐理由:OpenAI 官方宣布面向企业的 ChatGPT 版本,主打企业级安全隐私与更强能力,可帮助读者了解其商业产品线动向。
Cube 与 LangChain 集成,推出 CubeSemanticLoader 文档加载器,可将语义层数据模型的嵌入向量写入向量数据库,用于将自然语言问题匹配到数据模型中的视图和字段。官方同时提供基于 OpenAI、FAISS 和 Streamlit 的对话式演示应用,示例提示词可生成查询 Cube SQL API 的语句,代码已在 GitHub 开源。
OpenAI 宣布开发者可使用自有数据对 GPT-3.5 Turbo 进行微调,以适配各自的使用场景。此次更新同时包含若干 API 更新。
推荐理由:官方宣布开发者可用自有数据微调 GPT-3.5 Turbo,适合关注模型定制入口变化的读者。
OpenAI 宣布收购 Global Illumination,其整个团队已加入 OpenAI。公告未披露交易金额及其他细节。
OpenAI 将 GPT-4 用于内容政策制定与内容审核决策,可实现更一致的标注、更快的政策优化反馈闭环,并减少人工审核员的参与。
METR 的 ARC Evals 团队发布首份公开报告,提出评估 LLM 智能体“自主复制与适应”(ARA)能力的方法。研究设计了 12 个难度递增的真实任务,如搜索文件、用 Twilio 打电话、部署 GPT-J、微调 LLaMA-7B 扩展上下文等,并构建 4 个基于 GPT-4 和 Claude 的脚手架智能体进行测试。
OpenAI 宣布参与成立行业机构 Frontier Model Forum,推动前沿 AI 系统的安全和负责任开发。该机构将推进 AI 安全研究、确定最佳实践和标准,并促进政策制定者与行业之间的信息共享。
OpenAI 与其他领先实验室通过自愿承诺加强 AI 的安全性、安保和可信度。材料仅提供摘要,正文细节未公开。
OpenAI 推出 ChatGPT 自定义指令功能,让用户对 ChatGPT 的回复方式有更多控制。用户设置偏好后,ChatGPT 会在之后的所有对话中记住并遵循这些偏好。
推荐理由:ChatGPT 新增自定义指令功能,用户可一次设定偏好并作用于后续所有对话,便于按需调整回复方式。
OpenAI 宣布 API 更新,包括可控性更强的模型、函数调用(function calling)能力、更长的上下文以及更低的价格。
推荐理由:原文给出 OpenAI API 的功能调用、上下文与价格等更新方向,读者可据此评估对现有接入成本和控制力的影响。
OpenAI 训练模型在数学问题求解上取得新的 state-of-the-art,方法是对每个正确的推理步骤给予奖励(过程监督),而非只奖励最终正确答案(结果监督)。除提升性能外,过程监督还有对齐收益:它直接训练模型产生人类认可的思维链。
推荐理由:原文说明过程监督相对结果监督的性能提升与对齐收益,读者可了解一种训练思路的取舍。
OpenAI 非营利组织 OpenAI, Inc. 推出 Democratic Inputs to AI 计划,将颁发 10 笔各 10 万美元的资助,用于资助设立民主流程、决定 AI 系统应在法律边界内遵循哪些规则的实验。
OpenAI 提出应从现在开始思考超级智能的治理问题,即未来能力远超 AGI 的 AI 系统。该表态未给出具体治理方案或时间表。
OpenAI 推出 ChatGPT iOS 应用。应用支持跨设备同步对话记录和语音输入,并将最新模型改进带给用户。
推荐理由:官方宣布 iOS 应用上线,对话同步和语音输入信息来自当事方,读者可了解 ChatGPT 的移动端入口。
LMSYS Org发布Chatbot Arena第二周排行榜,新增GPT-4、Claude-v1、GPT-3.5-turbo和RWKV-4-Raven-14B四款模型。基于1.3万条匿名投票的Elo评分显示,GPT-4以1274分领跑,Claude-v1(1224分)和GPT-3.5-turbo(1155分)分列二、三位。专有模型与开源模型差距显著,GPT-4对Vicuna-13B胜率达82%,但Claude在66场非平局对决中对GPT-4取得48%胜率。RWKV-4-Raven-14B作为非Transformer架构的RNN模型排名第六,表现超出预期。
OpenAI 用 GPT-4 为大语言模型中神经元的行为自动编写解释,并对这些解释进行评分。同时发布了覆盖 GPT-2 每个神经元的解释与评分数据集,OpenAI 自述这些解释并不完美。
OpenAI 宣布 ChatGPT 用户现在可以关闭聊天记录,从而选择哪些对话可用于训练其模型。
OpenAI 宣布推出漏洞赏金计划,邀请外界帮助发现其技术与服务中的安全漏洞,以打造安全、可靠、可信的 AI。该计划是 OpenAI 践行开发安全且先进 AI 承诺的重要举措。
OpenAI 发布 3 月 20 日 ChatGPT 故障的事后说明,介绍了调查发现、已采取的措施以及该 bug 的技术细节。
OpenAI 宣布在 ChatGPT 中实现对 plugins 的初步支持。插件是以安全为核心原则、专为语言模型设计的工具,可帮助 ChatGPT 获取最新信息、运行计算或使用第三方服务。
推荐理由:原文是 OpenAI 官方对 ChatGPT 插件机制的首批说明,读者可以借此了解插件如何让 ChatGPT 获取最新信息和调用第三方服务。
OpenAI 发布论文 GPTs are GPTs: An early look at the labor market impact potential of large language models,对大语言模型的劳动力市场影响潜力进行早期分析。材料抓取失败,仅标题可用,论文具体方法与结论暂无法核验。
推荐理由:OpenAI 论文标题直指大语言模型对劳动力市场影响的早期评估,适合关注 AI 就业议题的读者。
ARC 作为第三方评估方与 Anthropic、OpenAI 等实验室合作,在受控环境中测试前沿模型自主获取资源、逃避人工监督的危险能力。结论是被测的 Claude 和 GPT-4 版本均未能产出可信的完整自主复制计划,执行中易出错、有幻觉、难以在多副本间分派任务,但能部分完成浏览网页、雇佣人类代办、制定长期计划等子任务。
推荐理由:ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。
OpenAI 发布 GPT-4,称其为扩展深度学习的最新里程碑。GPT-4 是接受图像和文本输入、输出文本的大型多模态模型,在多项专业和学术基准上达到人类水平表现,但在许多现实场景中仍不及人类。
推荐理由:官方原文明确了 GPT-4 的多模态输入形态和基准表现定位,可作为了解该模型能力边界的直接信源。
OpenAI 发布 GPT-4。官方介绍其可生成、编辑并与用户迭代创意和技术写作任务,如创作歌曲、编写剧本或学习用户的写作风格。
推荐理由:OpenAI 官方介绍 GPT-4 在创意与技术写作上可与用户迭代协作,适合关注其文本能力边界的读者。
OpenAI 发文阐述其对 AGI 的规划,将 AGI 定义为"比人类更聪明的 AI 系统",并重申使命是确保其造福全人类。