LangChain 发布 LangGraph v0.1 稳定版与 LangGraph Cloud Beta
LangChain 宣布 LangGraph v0.1 稳定版发布,并推出处于封闭 Beta 的 LangGraph Cloud,用于大规模、容错地部署智能体。
推荐理由:官方发布交代了 LangGraph v0.1 稳定版的控制设计与 Cloud 的容错部署能力,可帮助读者判断智能体上线时的基础设施选型。
LangChain 宣布 LangGraph v0.1 稳定版发布,并推出处于封闭 Beta 的 LangGraph Cloud,用于大规模、容错地部署智能体。
推荐理由:官方发布交代了 LangGraph v0.1 稳定版的控制设计与 Cloud 的容错部署能力,可帮助读者判断智能体上线时的基础设施选型。
Claude Platform 更新日志页面汇总了 Claude API、客户端 SDK 和 Claude Console 的变更,按时间倒序列出。
LangChain 为 LangSmith 评估器推出自改进功能:用户在应用内对 LLM-as-a-Judge 的反馈做修正,修正会自动存为 few-shot 示例并注入后续提示词。该机制借鉴了 Berkeley 的 Who Validates the Validators? 论文,让评估器逐步对齐人类偏好,无需额外提示词工程。
LlamaIndex 宣布开源框架 llama-agents 的 alpha 版发布,用于构建和部署生产级多智能体 AI 系统,可将每个 agent 变成独立运行的微服务。
推荐理由:官方发布开源多智能体框架 alpha 版,介绍了微服务架构、编排方式、监控工具和从本地到生产部署的具体用法。
Anthropic 在 Claude Platform 版本说明中发布 Claude Sonnet 5.5(claude-sonnet-5-5)和 Claude Opus 5.5(claude-opus-5-5),后者默认 1M token 上下文窗口、128k 最大输出 token、始终开启的自适应思考,定价 $4/$20 USD 每 MTok。
Suno 发布 Audio Input 功能,Pro 和 Premier 用户可上传或录制音频来生成歌曲。音频片段需在 6 到 60 秒之间,上传后可选择 Extend、设定起始时间戳、指定风格并添加歌词。官方表示将阻止受版权保护的作品上传,含人声的输入将保持私密且不可搜索。
推荐理由:原文给出使用步骤和上传限制,读者可以据此判断如何把自己的音频接入 Suno 创作流程。
Cognition 发布 Devin 6 月产品更新,用户可通过 VSCode 直接读写 Devin 的文件并在其机器上开终端,还能用 Interactive Browser 直接操作其浏览器。
Mistral AI 在 la Plateforme 上推出模型定制能力,提供三种微调入口:开源微调 SDK mistral-finetune、la Plateforme 上的 serverless 微调服务,以及面向部分客户的定制训练服务。
推荐理由:原文给出三种微调入口的具体形态、底层 LoRA 技术和适用模型,读者可据此为自建或托管微调选型。
OpenAI 推出 OpenAI for Education,面向大学提供可负担的方案,让高校负责任地把 AI 引入校园。
Anthropic 在 Claude Platform 版本说明中发布 Claude Sonnet 5.5(claude-sonnet-5-5),可用性覆盖 Claude API。
推荐理由:版本说明集中列出各新模型的破坏性变更与迁移指南,开发者可据此排查现有代码是否受影响。
LlamaIndex 推出 Property Graph Index,用带标签属性图表示替代传统三元组知识图谱,支持节点类型与元数据、向量嵌入和混合检索。
推荐理由:官方详细给出了属性图谱的抽取方式、检索组合和底层存储接口,读者可以对照自己的数据场景评估是否迁移。
OpenAI 更新 ChatGPT 数据分析功能,新增表格和图表交互,并可直接从 Google Drive 和 Microsoft OneDrive 添加文件。
推荐理由:原文仅公告 ChatGPT 数据分析支持表格图表交互及直接接入 Google Drive 和 OneDrive 文件,未提供更多细节,可据此了解入口变化。
Modal 本月新增 AWS S3 和 Cloudflare R2 存储桶挂载功能,可将桶作为可写文件系统卷挂载到容器中。同时推出 @web_server 装饰器支持非 ASGI/WSGI 协议的 Web 服务器托管,并为企业管理版用户提供 Okta 单点登录。此外还上线了 Volume 文件系统查看器及多项客户端更新。
OpenAI 宣布 GPT-4 API 全面可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同时全面开放。同时发布 Completions API 旧模型的退役计划,这些旧模型将于 2024 年初退役。
推荐理由:官方宣布 GPT-4 等 API 全面开放,并给出旧版 Completions 模型的退役时间表,开发者可据此调整接口迁移。
OpenAI 宣布推出 ChatGPT 和 Whisper API。正文抓取失败,仅有标题信息可确认发布动作。
OpenAI 宣布用户无需注册账号即可直接开始使用 ChatGPT,降低了体验 AI 的门槛。
推荐理由:OpenAI 官方宣布取消注册门槛,读者可以据此了解 ChatGPT 使用方式的变化和入口调整。
Langfuse 宣布与 LlamaIndex 集成,通过全局回调管理器实现一键式开源 RAG 可观测性。开发者安装 llama-index-callbacks-langfuse 并设置 set_global_handler("langfuse") 两行代码即可获得 RAG 应用的详细追踪,自动包含延迟与成本明细。
LlamaIndex 发布 LlamaParse 正式版,定位为首个 GenAI 原生文档解析平台,公测 3 周内已有超过 2000 名用户解析超过 100 万页。
推荐理由:官方宣布 LlamaParse 正式版上线,解析指令、JSON 模式和定价等细节齐全,做文档 RAG 的读者可据此评估是否采用。
Cognition 发布 AI 软件工程师 Devin,可规划并执行需要数千次决策的复杂工程任务,配备 shell、代码编辑器和浏览器等沙盒开发环境,并能实时汇报进度、接受反馈与用户协作。
推荐理由:官方宣布 Devin 并给出 SWE-bench 13.86% 的成绩与具体能力示例,读者可据此评估智能体在真实工程任务中的可用性。
Modal 现已支持 WebSocket 连接,开发者无需额外配置即可在 Modal 函数上搭建 WebSocket 服务器,每个连接被视为单个输入,非 CPU/GPU 密集型函数需开启并发输入,否则 Modal 会为每个连接启动新容器。
LlamaIndex 发布 llama-index-networks 库扩展,可把多个外部数据源上的 RAG 系统组成网络供他人查询。
Mistral AI 发布对话助手 Le Chat,作为与 Mistral 各模型交互的入口,底层可使用 Mistral Large、Mistral Small 或原型模型 Mistral Next。产品提供可调节的系统级审核机制,并同步推出支持自部署和细粒度审核的 Le Chat Enterprise;目前 beta 用户可注册试用,但 Le Chat 尚无法联网,可能给出过时信息。
推荐理由:官方首发公告说明了可切换的底层模型与企业版能力,读者可据此了解 Mistral 产品入口的初步形态。
LlamaIndex 发布 LlamaParse 和 LlamaCloud,为 LLM 与 RAG 应用提供托管解析、摄取和检索服务。
推荐理由:官方发布新解析与托管数据管线服务,给出公共预览的用量限制、试用方式与存储伙伴集成,读者可据此评估是否引入现有 RAG 工作流。
LlamaIndex 推出面向 LLM 与 RAG 应用的托管解析、摄取与检索服务套件 LlamaParse。LlamaParse 专注解析含表格和图表的复杂文档,已进入公开预览,当前聚焦 PDF 并对公开用户设用量上限;托管摄取与检索 API 处于私有预览,支持通过 LlamaHub 接入超过 150 个数据源和 40 多种数据存储方案。
推荐理由:LlamaIndex 官方公告,列出 LlamaParse 的解析能力、公开预览状态和配套托管 API 的开放范围,便于评估是否引入 RAG 工作流。
Sierra 发布面向企业的对话式 AI 平台,让每家公司都能构建自己的 AI 智能体。该平台已与 WeightWatchers、SiriusXM、Sonos、OluKai 等品牌合作,其中 WeightWatchers 的智能体已处理近 70% 的客户会话,满意度达 4.6/5。平台强调智能体可推理决策、调用企业系统采取行动,并提供审计与数据治理工具以保障合规与可信。
OpenAI 正在测试让 ChatGPT 记住用户讨论内容的能力,以便在未来对话中提供更有帮助的回应。用户可以控制 ChatGPT 的记忆。
推荐理由:OpenAI 官方宣布 ChatGPT 正在测试记忆功能,读者可以据此了解该功能的用途和用户控制方式。
LlamaIndex 发布 v0.10.0,是其 Python 包迄今最大更新。核心变化包括:拆出精简的 llama-index-core 包,数百个集成(150+ 数据加载器。
推荐理由:官方发布说明了包拆分、导入路径变化和迁移工具,正在迁移或维护 LlamaIndex 项目的开发者可以直接对照升级。
Connery 发布开源插件基础设施,为 LLM 应用和 OpenGPTs 提供第三方服务集成能力,并管理运行时。它提供连接管理界面,支持 OAuth 授权、Secrets Management 密钥存储、个性化配置,以及 metadata、human-in-the-loop 和审计日志等 AI 安全控制。该项目还计划构建开源插件生态,让社区创建、分享和定制插件。
Modal 宣布全部用户即日起可使用 NVIDIA H100 GPU。据 NVIDIA 数据,H100 相比 A100 在大模型上训练最高提速 4x、推理最高提速 30x;H100 配备 80 GB 显存,16 位精度算力接近 2000 teraFLOPS,单卡 $7.65/小时,最多可同时使用 8 卡并通过 NVLink 互联(3.6 TB/s 双向带宽)。
RAGArch 是一款基于 LlamaIndex 的无代码 RAG 流水线配置工具,支持在 Streamlit 界面中交互式选择 LLM、嵌入模型、Node Parser、响应合成方法与向量存储,并用自己的数据实时测试效果。
LlamaIndex 推出 llamaindex-cli 命令行工具,随 pip install llama-index 安装,底层使用 Chroma 向量数据库,可不经写代码完成 RAG。
推荐理由:官方发布零代码 RAG 命令行工具,给出完整上手步骤和可换本地模型的自定义路径,读者可以直接照着试。
OpenAI 宣布推出 GPT Store。原文正文抓取失败,仅标题可用,详情以官方公告为准。
OpenAI 推出面向各种规模团队的新 ChatGPT 订阅方案 ChatGPT Team,提供安全、可协作的工作区,帮助团队在工作中更好地使用 ChatGPT。
推荐理由:OpenAI 官方宣布面向团队的新订阅方案,读者可以借此了解其在工作场景协作功能上的布局。
LlamaIndex 推出 Query Pipelines,一个全新的声明式 API,可用更少代码将 LLM、提示词、检索器、查询引擎等模块编排成顺序链或任意复杂度的 DAG,覆盖 RAG、结构化数据抽取等场景。它支持链式写法和 add_modules/add_link 构建 DAG 两种用法,自带端到端回调与可观测性集成,未来计划支持序列化和缓存层。
LlamaIndex 推出 LabelledEvaluatorDataset 和 LabelledPairwiseEvaluatorDataset 两款新 llama-dataset,用于评测作为评估器的 LLM,并配套发布 EvaluatorBenchmarkerPack。
LlamaIndex 在 Gemini 公开发布当天成为 day 1 启动合作伙伴,自 0.9.15 起全面支持 Gemini Pro 与 Gemini Ultra。集成覆盖纯文本与多模态两种变体,支持流式/非流式、同步/异步、补全/对话共 8 种组合,并新增对 Semantic Retriever API 的支持,可将存储、嵌入模型、检索与 LLM 打包为 RAG 流水线。
Mistral AI 开放 La Plateforme 平台 beta 访问,提供 mistral-tiny、mistral-small、mistral-medium 三个文本生成端点和 mistral-embed 嵌入端点。
推荐理由:官方公布三个文本端点和一个嵌入端点的性能与定价取舍,并附 MT-Bench 和 MTEB 分数,便于开发者按成本与质量选型。
LlamaIndex 发布 AutoTranslateDoc,一款命令行工具,可从 GitHub 仓库抓取 .md 和 .mdx 文档,用 GPT-3.5、GPT-4 分块翻译并自动校验后合并输出。
推荐理由:工具通过分块翻译加多重校验来保证文档翻译质量,并支持差量更新,适合需要维护多语言文档的开发者参考。
LlamaIndex 发布 Llama Datasets,一组由社区贡献、含问答对和源上下文的数据集,用于对不同用例的 RAG 流水线做基准评测,首批上线 10 个数据集,包括 PaulGrahamEssayDataset、FinanceBench、Uber/Lyft 2021 10K Filings 等。
LlamaIndex 推出 Llama Packs,一个社区驱动的预打包模块合集,用于快速启动 LLM 应用,已在 LlamaHub 上线 16+ 个与 Streamlit、Weaviate、Voyage AI 等伙伴合作的模板。模块可通过 CLI 或 Python 一行代码下载,支持开箱即用运行 RAG 管线,也可查看和修改全部代码,例如将默认 OpenAI LLM 替换为 Anthropic。
推荐理由:原文给出下载方式和代码示例,读者可以据此了解如何用预打包模块快速搭建 LLM 应用并自由定制。