跳到正文
2024年6月27日周四
  1. LangChain:Blog54

    LangSmith 推出自改进 LLM-as-a-Judge 评估器

    LangChain 为 LangSmith 评估器推出自改进功能:用户在应用内对 LLM-as-a-Judge 的反馈做修正,修正会自动存为 few-shot 示例并注入后续提示词。该机制借鉴了 Berkeley 的 Who Validates the Validators? 论文,让评估器逐步对齐人类偏好,无需额外提示词工程。

2024年6月26日周三
  1. LlamaIndex:产品、工程与评测63

    LlamaIndex 开源发布 llama-agents 多智能体框架 alpha 版

    LlamaIndex 宣布开源框架 llama-agents 的 alpha 版发布,用于构建和部署生产级多智能体 AI 系统,可将每个 agent 变成独立运行的微服务。

    推荐理由:官方发布开源多智能体框架 alpha 版,介绍了微服务架构、编排方式、监控工具和从本地到生产部署的具体用法。

2024年6月20日周四
2024年6月12日周三
  1. Suno:Blog63

    Suno 发布 Audio Input 功能,支持上传音频生成歌曲

    Suno 发布 Audio Input 功能,Pro 和 Premier 用户可上传或录制音频来生成歌曲。音频片段需在 6 到 60 秒之间,上传后可选择 Extend、设定起始时间戳、指定风格并添加歌词。官方表示将阻止受版权保护的作品上传,含人声的输入将保持私密且不可搜索。

    推荐理由:原文给出使用步骤和上传限制,读者可以据此判断如何把自己的音频接入 Suno 创作流程。

2024年6月5日周三
  1. Mistral AI:News64

    Mistral 在 la Plateforme 推出模型定制与微调服务

    Mistral AI 在 la Plateforme 上推出模型定制能力,提供三种微调入口:开源微调 SDK mistral-finetune、la Plateforme 上的 serverless 微调服务,以及面向部分客户的定制训练服务。

    推荐理由:原文给出三种微调入口的具体形态、底层 LoRA 技术和适用模型,读者可据此为自建或托管微调选型。

2024年5月30日周四
2024年5月29日周三
2024年5月16日周四
2024年5月7日周二
2024年4月24日周三
  1. OpenAI:官网动态65

    OpenAI 宣布 GPT-4 API 全面可用并公布旧模型退役计划

    OpenAI 宣布 GPT-4 API 全面可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同时全面开放。同时发布 Completions API 旧模型的退役计划,这些旧模型将于 2024 年初退役。

    推荐理由:官方宣布 GPT-4 等 API 全面开放,并给出旧版 Completions 模型的退役时间表,开发者可据此调整接口迁移。

2024年4月1日周一
  1. OpenAI:官网动态69

    OpenAI 免注册即可使用 ChatGPT

    OpenAI 宣布用户无需注册账号即可直接开始使用 ChatGPT,降低了体验 AI 的门槛。

    推荐理由:OpenAI 官方宣布取消注册门槛,读者可以据此了解 ChatGPT 使用方式的变化和入口调整。

2024年3月18日周一
2024年3月13日周三
  1. LlamaIndex:产品、工程与评测63

    LlamaIndex 推出 GenAI 原生文档解析平台 LlamaParse,新增自然语言解析指令与 JSON 模式

    LlamaIndex 发布 LlamaParse 正式版,定位为首个 GenAI 原生文档解析平台,公测 3 周内已有超过 2000 名用户解析超过 100 万页。

    推荐理由:官方宣布 LlamaParse 正式版上线,解析指令、JSON 模式和定价等细节齐全,做文档 RAG 的读者可据此评估是否采用。

2024年3月12日周二
  1. Cognition 模型 / Devin 博客68

    Cognition 发布 AI 软件工程师 Devin,SWE-bench 端到端解决 13.86% 问题

    Cognition 发布 AI 软件工程师 Devin,可规划并执行需要数千次决策的复杂工程任务,配备 shell、代码编辑器和浏览器等沙盒开发环境,并能实时汇报进度、接受反馈与用户协作。

    推荐理由:官方宣布 Devin 并给出 SWE-bench 13.86% 的成绩与具体能力示例,读者可据此评估智能体在真实工程任务中的可用性。

2024年2月27日周二
  1. Modal 官方工程博客43

    Modal 支持 WebSocket 连接

    Modal 现已支持 WebSocket 连接,开发者无需额外配置即可在 Modal 函数上搭建 WebSocket 服务器,每个连接被视为单个输入,非 CPU/GPU 密集型函数需开启并发输入,否则 Modal 会为每个连接启动新容器。

2024年2月26日周一
  1. Mistral AI:News61

    Mistral AI 发布对话助手 Le Chat 并推出企业版 Le Chat Enterprise

    Mistral AI 发布对话助手 Le Chat,作为与 Mistral 各模型交互的入口,底层可使用 Mistral Large、Mistral Small 或原型模型 Mistral Next。产品提供可调节的系统级审核机制,并同步推出支持自部署和细粒度审核的 Le Chat Enterprise;目前 beta 用户可注册试用,但 Le Chat 尚无法联网,可能给出过时信息。

    推荐理由:官方首发公告说明了可切换的底层模型与企业版能力,读者可据此了解 Mistral 产品入口的初步形态。

2024年2月20日周二
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 发布 LlamaParse 及托管摄取与检索服务

    LlamaIndex 推出面向 LLM 与 RAG 应用的托管解析、摄取与检索服务套件 LlamaParse。LlamaParse 专注解析含表格和图表的复杂文档,已进入公开预览,当前聚焦 PDF 并对公开用户设用量上限;托管摄取与检索 API 处于私有预览,支持通过 LlamaHub 接入超过 150 个数据源和 40 多种数据存储方案。

    推荐理由:LlamaIndex 官方公告,列出 LlamaParse 的解析能力、公开预览状态和配套托管 API 的开放范围,便于评估是否引入 RAG 工作流。

2024年2月13日周二
  1. Sierra:Blog44

    Sierra 发布面向企业的对话式 AI 平台,可构建自主 AI 智能体

    Sierra 发布面向企业的对话式 AI 平台,让每家公司都能构建自己的 AI 智能体。该平台已与 WeightWatchers、SiriusXM、Sonos、OluKai 等品牌合作,其中 WeightWatchers 的智能体已处理近 70% 的客户会话,满意度达 4.6/5。平台强调智能体可推理决策、调用企业系统采取行动,并提供审计与数据治理工具以保障合规与可信。

  2. OpenAI:官网动态61

    OpenAI 为 ChatGPT 测试记忆功能与新的控制选项

    OpenAI 正在测试让 ChatGPT 记住用户讨论内容的能力,以便在未来对话中提供更有帮助的回应。用户可以控制 ChatGPT 的记忆。

    推荐理由:OpenAI 官方宣布 ChatGPT 正在测试记忆功能,读者可以据此了解该功能的用途和用户控制方式。

2024年2月12日周一
  1. LlamaIndex:产品、工程与评测61

    LlamaIndex v0.10 发布:拆分 llama-index-core 与集成包并弃用 ServiceContext

    LlamaIndex 发布 v0.10.0,是其 Python 包迄今最大更新。核心变化包括:拆出精简的 llama-index-core 包,数百个集成(150+ 数据加载器。

    推荐理由:官方发布说明了包拆分、导入路径变化和迁移工具,正在迁移或维护 LlamaIndex 项目的开发者可以直接对照升级。

2024年2月8日周四
  1. LangChain:Blog49

    Connery:面向 OpenGPTs 和 LLM 应用的开源插件基础设施

    Connery 发布开源插件基础设施,为 LLM 应用和 OpenGPTs 提供第三方服务集成能力,并管理运行时。它提供连接管理界面,支持 OAuth 授权、Secrets Management 密钥存储、个性化配置,以及 metadata、human-in-the-loop 和审计日志等 AI 安全控制。该项目还计划构建开源插件生态,让社区创建、分享和定制插件。

2024年2月6日周二
  1. Modal 官方工程博客52

    Modal 上线 NVIDIA H100 GPU,单卡 $7.65/小时

    Modal 宣布全部用户即日起可使用 NVIDIA H100 GPU。据 NVIDIA 数据,H100 相比 A100 在大模型上训练最高提速 4x、推理最高提速 30x;H100 配备 80 GB 显存,16 位精度算力接近 2000 teraFLOPS,单卡 $7.65/小时,最多可同时使用 8 卡并通过 NVLink 互联(3.6 TB/s 双向带宽)。

2024年2月2日周五
2024年1月26日周五
2024年1月10日周三
2024年1月8日周一
  1. LlamaIndex:产品、工程与评测54

    LlamaIndex 发布 Query Pipelines 声明式查询编排 API

    LlamaIndex 推出 Query Pipelines,一个全新的声明式 API,可用更少代码将 LLM、提示词、检索器、查询引擎等模块编排成顺序链或任意复杂度的 DAG,覆盖 RAG、结构化数据抽取等场景。它支持链式写法和 add_modules/add_link 构建 DAG 两种用法,自带端到端回调与可观测性集成,未来计划支持序列化和缓存层。

2023年12月20日周三
2023年12月13日周三
  1. LlamaIndex:产品、工程与评测43

    LlamaIndex 宣布支持 Gemini,并集成 Semantic Retriever API

    LlamaIndex 在 Gemini 公开发布当天成为 day 1 启动合作伙伴,自 0.9.15 起全面支持 Gemini Pro 与 Gemini Ultra。集成覆盖纯文本与多模态两种变体,支持流式/非流式、同步/异步、补全/对话共 8 种组合,并新增对 Semantic Retriever API 的支持,可将存储、嵌入模型、检索与 LLM 打包为 RAG 流水线。

2023年12月11日周一
2023年12月8日周五
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 发布 AutoTranslateDoc 命令行工具,用 GPT 模型自动翻译技术文档

    LlamaIndex 发布 AutoTranslateDoc,一款命令行工具,可从 GitHub 仓库抓取 .md 和 .mdx 文档,用 GPT-3.5、GPT-4 分块翻译并自动校验后合并输出。

    推荐理由:工具通过分块翻译加多重校验来保证文档翻译质量,并支持差量更新,适合需要维护多语言文档的开发者参考。

2023年12月4日周一
2023年11月22日周三
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 推出 Llama Packs 预打包模块社区

    LlamaIndex 推出 Llama Packs,一个社区驱动的预打包模块合集,用于快速启动 LLM 应用,已在 LlamaHub 上线 16+ 个与 Streamlit、Weaviate、Voyage AI 等伙伴合作的模板。模块可通过 CLI 或 Python 一行代码下载,支持开箱即用运行 RAG 管线,也可查看和修改全部代码,例如将默认 OpenAI LLM 替换为 Anthropic。

    推荐理由:原文给出下载方式和代码示例,读者可以据此了解如何用预打包模块快速搭建 LLM 应用并自由定制。