Mistral 推出 Batch API,批量推理成本降低 50%
Mistral 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。该 API 面向优先考虑数据量而非同步响应的场景,用户上传批处理文件后即可下载输出结果,适用于情感分析、文档批量翻译、向量嵌入和数据标注等任务。目前支持 La Plateforme 上所有模型,每个工作区限制 100 万个进行中的请求,即将登陆其云服务合作伙伴。
Mistral 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。该 API 面向优先考虑数据量而非同步响应的场景,用户上传批处理文件后即可下载输出结果,适用于情感分析、文档批量翻译、向量嵌入和数据标注等任务。目前支持 La Plateforme 上所有模型,每个工作区限制 100 万个进行中的请求,即将登陆其云服务合作伙伴。
Claude Platform 发布版本说明,列出 Claude API、客户端 SDK 和 Claude Console 的更新,最新条目为 2026 年 9 月 30 日宣布弃用 Claude Sonnet 4.5,并建议迁移到 Claude Sonnet 5.5。
xAI 启动 Grok API 公测,发布新模型 grok-beta,支持 128k 上下文、函数调用及系统提示,视觉版本下周上线。开发者每月可获 $25 免费额度至年底,已购预付额度可叠加。API 兼容 OpenAI 与 Anthropic 格式,修改 base_url 即可迁移。
推荐理由:xAI开放Grok API公测,每月送$25额度且兼容OpenAI接口,开发者可立即体验
LlamaIndex 为 LlamaParse 推出两项新功能:Continuous Mode(Beta)可将跨页表格合并为单一表格,目前主要在 10 页以内、格式较简单的文档上测试,速度较慢,解析 80 页 10K 报告约需 30 分钟;Excel 输出可在 Accurate、Premium 或 Continuous Mode 下解析后选择 XLSX 格式导出。两个功能可结合使用。
OpenAI 推出 ChatGPT search,为 ChatGPT 增加搜索功能,可提供快速、及时的答案,并附上相关网页来源链接。
推荐理由:原文信息过少,无法给出具体阅读价值。
Suno 发布 Personas 功能,可将一首歌的人声、风格和氛围保存为可复用的创作资产,并应用到新作品中。该功能以早期测试版向 Pro 和 Premier 订阅用户开放,赠送 200 首用 Personas 制作的歌曲,之后每首消耗 10 credits;Personas 可设为公开供他人使用,团队征集用户反馈。
Transluce 发布 Monitor,一个帮助用户观察、理解和引导语言模型内部计算的可观测性界面,入口为 monitor.transluce.org,并已在 GitHub 开源代码。
Anthropic 发布 Claude Opus 5.5(claude-opus-5-5),面向长时间运行的智能体编程与知识工作,默认 1M token 上下文窗口、128k 最大输出 token,定价 $4 / $20 每 MTok。
Suno 宣布推出新功能 Suno Scenes,用户可从相机拍摄的照片或视频生成独特歌曲,开启视觉叙事这一新的歌曲创作模式。功能首先面向 iOS 移动端用户开放,入口位于歌曲创建体验中的 Camera 模式,支持风景、自拍或日常视频等内容生成可分享的歌曲。
Sierra 宣布其 AI 智能体现在可以接听电话,将对话式 AI 从聊天扩展到语音渠道。该语音能力可接入现有呼叫中心平台与 IVR 系统,支持实时情绪识别、必要时转接人工,并在每次转接时附上 AI 生成的摘要。Sierra 称其聊天智能体的客户满意度评分多在 4.5/5 以上。
OpenAI 推出 canvas,一种与 ChatGPT 协作写作和编码的新方式。
推荐理由:原文来自 OpenAI 官方发布,读者可据此了解 ChatGPT 在写作和编码场景上的新交互方式。
Anthropic 更新 Claude Platform 版本说明,最新宣布 Claude Sonnet 5.5(claude-sonnet-5-5)上线 Claude API、Amazon Bedrock、Google Cloud 等多平台,并废弃 Claude Sonnet 4.5(2026年11月30日退役)。
OpenAI 推出 Realtime API,开发者现在可以在应用中构建快速的语音到语音(speech-to-speech)体验。
推荐理由:原文宣布 Realtime API 开放,开发者可以把快速语音到语音体验直接构建进应用。
OpenAI 宣布微调 API 支持视觉能力,开发者现可用图像和文本对 GPT-4o 进行微调,以提升其视觉表现。
推荐理由:官方宣布微调 API 支持图文混合数据微调 GPT-4o,开发者可据此定制模型的视觉能力。
OpenAI 在 API 中推出 Prompt Caching 功能,对模型最近见过的输入内容自动提供折扣。该功能面向 API 用户,可降低重复前缀类请求的输入成本。
OpenAI 在其平台上推出 API 模型蒸馏功能,允许用大型前沿模型的输出来微调成本更高效的模型。
推荐理由:官方宣布 API 上线模型蒸馏功能,读者可据此了解用大模型输出微调低成本模型的路径。
LlamaIndex 发布 LlamaParse Premium 模式,结合多模态模型和启发式文本解析技术处理复杂文档,官方称效果超过 Sonnet-3.5 等原生模型。
LlamaIndex 宣布 LlamaParse 企业级 RAG 平台新增多模态功能,可在索引中同时存储和检索文本与图像块,几分钟内搭建完整的多模态 RAG 流水线。
Mistral 发布 Mistral Small v24.09(220 亿参数,MRL 许可),并在 la Plateforme 推出免费层,全系列模型降价,Mistral Small 和 Codestral 输入价格降幅达 80%。Pixtral 12B 现已在 le Chat 上免费提供视觉能力,该模型基于 Apache 2.0 许可,支持任意尺寸图像且不损失文本性能。
推荐理由:官方一次列出免费层、全系列降价、Mistral Small v24.09 和 Pixtral 12B 视觉能力,适合对照选型和部署成本。
Runway 正式发布 Gen-3 Alpha Turbo API,开发者可将其视频生成能力集成至各类应用。目前采取分阶段开放策略,已向 Omnicom 等战略合作伙伴提供访问权限,现阶段主要面向大型团队和组织,未来几周将逐步扩大开放范围。
Suno 推出早期测试版新功能 Covers,可将语音备忘录或成品曲目转换为全新风格,同时保留原始旋律。功能目前面向 Pro 和 Premier 订阅用户开放,提供 200 次免费使用,之后每次生成消耗 10 credits,官方通过应用、Discord 或邮箱收集 beta 反馈。
推荐理由:原文给出 Covers 的操作步骤、200 次免费额度和 10 credits 定价,读者可据此评估是否把翻唱功能纳入创作流程。
Anthropic 发布 Claude Opus 5.5(claude-opus-5-5),面向长时间运行的智能体编程与知识工作,默认 1M token 上下文窗口、128k 最大输出 token,定价 $4 / $20 每 MTok,已在 Claude API、Amazon Bedrock、Google Cloud 等平台上线。
Modal 本月新增应用回滚功能,可在 dashboard 或 CLI 中将应用即时回滚到旧版本;@batched 装饰器支持动态批处理,在延迟与吞吐、GPU 利用率之间做权衡。Sandbox 现可将 TCP 端口转发到公网并 exec 内部进程,同时支持将日志导出到 OpenTelemetry,CPU 核与高端 GPU 价格下调。
Cognition 发布 Devin 9 月产品更新,新增 MultiDevin(1 个 manager Devin 配最多 10 个 worker Devin 并行分工合并改动,限 Enterprise 用户)、VPC 部署、Custom Devins 微调版本、会话回滚与 Knowledge 自动建议等功能。
LlamaIndex 官方发布 llama-deploy,用于以可扩展微服务的方式部署和扩展基于 llama-index 构建的智能体 Workflows,只需几行代码即可部署。
Anthropic 发布 Claude Opus 5.5(claude-opus-5-5),面向长时间运行的智能体编程与知识工作,默认 1M token 上下文窗口、128k 最大输出 token,定价 $4 / $20 每 MTok。
LlamaIndex 发布 Python 版 0.11,引入事件驱动的 Workflows 架构,取代已弃用的 Query Pipelines,并新增 instrumentation 可观测性功能。
OpenAI 宣布 GPT-4o 现已支持微调,用户可用自定义数据对模型进行微调。
Mistral AI 宣布三项开发者能力更新。La Plateforme 现已支持自定义旗舰和专用模型(含 Mistral Large 2 和 Codestral)。
OpenAI 在 API 中推出 Structured Outputs 功能,模型输出现在能够可靠地遵循开发者提供的 JSON Schema。
推荐理由:OpenAI 官方宣布 API 输出可遵循开发者提供的 JSON Schema,对需要稳定结构化输出的工程场景有直接参考价值。
LlamaIndex 推出 beta 功能 Workflows,一种基于事件驱动架构的编排机制,用于替代此前的 Query Pipelines 来构建复杂 AI 应用。
LlamaIndex 为 LlamaParse 发布文件级检索 API,与原有的 chunk 级检索并列,可按元数据或内容检索整份文档(如完整的 SEC 10K 文件或幻灯片),并支持切换检索模式、调整 top-k 和元数据过滤。官方还提供 Jupyter notebook,演示如何构建在 chunk 级与文件级检索之间动态选择的智能体,例如摘要类问题走文件级、具体数据问题走 chunk 级。
OpenAI 正在测试 SearchGPT,这是一个新搜索功能的临时原型,可提供快速、及时的答案,并附带清晰且相关的来源。
LlamaIndex 发布 LlamaExtract beta,这是一个托管服务,可从非结构化文档中抽取结构化数据:能从候选文档集推断 schema(用户可后续编辑),并按指定 schema 抽取字段值。
推荐理由:原文来自 LlamaIndex 官方,介绍了从文档推断 schema 并抽取结构化数据的用法,读者可以评估它在 RAG 数据处理管线中的适配性。
DeepSeek 更新 /chat/completions 接口,新增 JSON 输出、Function 调用、对话前缀续写(Beta)及 8K 最长输出(Beta)。同时新增 /completions 接口,支持 FIM 补全(Beta)。
推荐理由:DeepSeek API 这次更新补上了 Function calling 和 JSON 模式,加上 FIM 补全,让开发者的工具调用和代码补全场景有了更完整的方案,虽然都是 Beta 但方向很对。
LlamaIndex 为 LlamaParse 推出 LlamaParse Chat,可在数分钟内基于自有数据搭建带流式输出和引用的对话式 RAG 界面,并支持自定义元数据过滤、查看检索节点及文件级检索。
Arize AI 与 LlamaIndex 联合发布 LlamaTrace,这是 Arize OSS Phoenix 的托管版本,用于 LLM 应用的追踪与可观测性。该平台支持即时记录 traces、持久化数据集、运行实验与评测,并可与同事共享结果,今日起可通过 LlamaIndex 或 Arize 账号访问。
LlamaIndex 宣布 LlamaParse 已广泛可用并开放官方 waitlist,定位为面向企业 LLM 与 RAG 应用的生产级上下文增强服务。
Prime Intellect 宣布其全球 GPU 算力聚合与调度平台 Prime Intellect Compute 正式全面公开,目标是打造算力交易所,减少价格差异、提升市场效率。
Suno 宣布推出移动应用,支持文字生成歌曲、录音转成歌曲,以及收听和整理其他创作者的音乐。已有 1200 万人使用过 Suno,目前先面向美国 iOS 用户开放,后续将推出 Android 版本并进行全球推广。