Qwen3-TTS 升级:支持语音克隆和语音设计!
Qwen3-TTS 新增语音克隆与语音设计能力,Qwen Studio 集成聊天机器人、图像视频理解、图像生成、文档处理、联网搜索、工具调用及 artifacts 等综合服务。
Qwen3-TTS 新增语音克隆与语音设计能力,Qwen Studio 集成聊天机器人、图像视频理解、图像生成、文档处理、联网搜索、工具调用及 artifacts 等综合服务。
OpenAI 发布四款新音频模型快照:gpt-4o-mini-transcribe-2025-12-15、gpt-4o-mini-tts-2025-12-15、gpt-realtime-mini-2025-12-15 和 gpt-audio-mini-2025-12-15,覆盖转写、语音合成与原生语音到语音,价格与旧快照相同。
xAI 开放 Grok Voice Agent API,基于自研语音栈(VAD、tokenizer、音频模型),Big Bench Audio 基准排名第一,首音频延迟低于 1 秒(比竞品快近 5 倍),定价 $0.05/分钟。支持数十种语言自动切换、实时搜索 X 和网页、调用自定义工具,已深度集成特斯拉车机。提供 Ara、Eve 等多种自然声线,支持 [whisper] 等听觉标签,兼容 OpenAI Realtime API 规范。
推荐理由:xAI发布Grok语音Agent API,延迟低于1秒且定价仅为OpenAI一半,已集成至Tesla车载系统
通义实验室发布 Fun-ASR 端到端语音识别模型系列并开源。Fun-ASR-Nano-2512 参数量 800M,基于数千万小时语音训练,支持中英日三语、7 种汉语方言和 26 种地方口音;Fun-ASR-MLT-Nano-2512 同为 800M,基于数十万小时训练,支持 31 种语言。
推荐理由:原文给出两个识别模型的训练规模、语言覆盖和开源基准对比,还附部署与推理路径,读者可据此评估在中文和方言场景的可用性。
Google DeepMind 发布更新的 Gemini 2.5 Flash Native Audio 模型,用于实时语音智能体,在 ComplexFuncBench Audio 上取得 71.5%,开发者指令遵循率从 84% 提升到 90%,已在 Google AI Studio、Vertex AI 上线,并开始在 Gemini Live 和 Search Live 推出。
推荐理由:原文给出具体评测分数和功能细节,读者可以据此评估新模型在语音智能体和翻译场景的可用性。
Qwen3-TTS 发布更新,支持 49 种音色、10 种语言和 9 种方言。Qwen Studio 平台同步提供聊天机器人、图像视频理解、图像生成、文档处理、联网搜索、工具调用及 Artifacts 等全栈功能。
Hugging Face 的 Open ASR 排行榜新增多语言和长格式语音识别评估赛道。多语言赛道涵盖8种语言,长格式赛道则测试模型处理连续数分钟语音的能力。新榜单显示,领先模型在多语言任务上的词错误率平均比专用单语模型高约15%,在长格式任务上错误率可能上升超20%,凸显了模型在实际应用中的泛化能力仍面临严峻挑战。
推荐理由:ASR排行榜新增多语言和长形式评估,助力开发者优化语音应用。
OpenAI Developers 发布了一篇新的 Cookbook 教程,介绍如何使用带外(out-of-band)的 Realtime sessions 来转录用户音频。该资料仅提供了标题和链接,未包含具体的技术实现细节或代码示例。
Suno 宣布完成 2.5 亿美元 C 轮融资,投后估值 24.5 亿美元,由 Menlo Ventures 领投,NVentures、Lightspeed 等跟投。过去两年近 1 亿用户在平台首次创作音乐,众多专业制作人和词曲作者也已将 Suno 纳入日常工作流。本轮资金将用于开发更精细的专业工具、优化普通创作者体验,并构建创作者与听众共生的社交音乐生态,推动音乐创作全民化。
ElevenLabs 发布实时语音转文字模型 Scribe v2 Realtime,延迟低于 150 ms,在 30 种常用欧洲和亚洲语言上达到 93.5% 准确率,并支持约 90 种语言。
推荐理由:官方公布了延迟、准确率等具体指标和主要功能,读者可据此评估其是否适合语音智能体等实时场景。
ElevenLabs 上线 Iconic Marketplace,一个面向企业的双向授权平台,供其申请使用名人声音进行项目与内容创作。平台已有 Michael Caine 及 Dr. Maya Angelou、Alan Turing、Liza Minelli、Art Garfunkel 等 25 位以上名人声音,并与 CMG Worldwide 等机构合作确保授权基于同意与合规。
Together AI 宣布扩展云端语音基础设施,推出 Streaming Whisper 流式转写($0.0035/min)、首个 serverless 开源 TTS(Orpheus 187ms TTFB、Kokoro 97ms TTFB)以及 Voxtral 转写和说话人分离。
MiniMax发布语音模型Speech 2.6,端到端延迟降至250毫秒内,支持实时对话。新增多语言特殊格式解析能力,可自动朗读URL、邮箱、电话、日期及金额,无需预处理。推出Fluent LoRA功能,即使源录音带口音也能保留音色并生成流畅语音,支持40余种语言。已被LiveKit、Vapi等平台及智能硬件采用。
推荐理由:MiniMax发布Speech 2.6语音模型,支持Voice Agent场景,实现超低延迟与Fluent LoRA语音克隆优化。
Hugging Face 发布带授权语音克隆的语音同意门概念及示例 Space 和配套代码。系统先生成包含同意语句和模型名的全新句子,经 ASR 识别确认后,才允许用该音频驱动语音克隆 TTS,使同意成为可审计的系统前提;作者也指出该设计可被其他 TTS 伪造,未来可结合音频溯源和说话人嵌入校验。
美团开源全模态模型LongCat-Flash-Omni,采用5600亿参数MoE架构(激活270亿),支持128K上下文与实时音视频交互。模型基于快捷连接MoE与零计算专家,配备轻量级编解码器及分块特征交错机制,通过课程式渐进训练提升效率。在OmniBench、WorldSense等基准测试中超越Qwen3-Omni与Gemini-2.5-Pro,在文档理解、语音识别及GUI控制等任务中达到领先水平。
推荐理由:美团开源 560B 参数多模态模型,27B 激活即可实现实时音视频交互
meituan-longcat 发布开源项目 LongCat-Audio-Codec,致力于通过开源与开放科学推进人工智能技术的普及与民主化。该项目旨在促进音频编解码技术的开放获取,推动行业技术进步与开放生态建设。
Sierra 通过优化语音到语音管道的每个阶段来降低延迟,使语音 AI 智能体听起来更自然而非机械。其工程方法涵盖从语音识别到生成的全链路延迟压缩,但具体技术细节和量化指标未在原文中披露。
ElevenLabs 为其 agents 平台推出 Agent Workflows,一个用于设计对话流程的可视化编辑器,可将任务路由到专门的 Subagents 并在需要时转接人工。
Liquid AI 发布 LFM2-Audio-1.5B,一个支持音频与文本输入输出的端到端基础模型,扩展了 LFM2 家族。
推荐理由:官方给出了 VoiceBench、ASR 词错率和低于 100ms 的延迟数据,读者可以据此评估 1.5B 参数模型在端侧实时语音场景的可用性。
研究团队发布了Ming-UniAudio,这是一个基于统一表示的大语言模型,专门用于语音任务。该模型能够联合处理语音的理解、生成与编辑,实现了多种语音功能的集成。它通过统一的框架,将传统上分离的语音识别、合成和修改任务整合进单一系统,提升了处理效率与协同能力。
inclusionAI团队推出了MingTok-Audio,这是首个能有效融合语义与声学特征的统一连续语音分词器,适用于语音理解与生成任务。该模型基于纯因果Transformer架构,去除了卷积层以提升效率,并采用VAE进行连续特征建模以实现高质量音频重建。在语音重建性能上,其帧率为50,在SEED-ZH和SEED-EN测试集上的PESQ分别达到4.21和4.04,SIM为0.96,STOI为0.98,显著优于对比模型。在下游ASR任务中,其在多个方言数据集上取得了更低的错误率,例如在Hunan Minnan数据集上WER低至9.80%。
推荐理由:蚂蚁把语音 tokenizer 做到了 PESQ 4.2 的离谱分数,比第二名翻了快一倍,做语音理解和生成的团队值得拿这个当新 baseline 跑一下。
Suno 推出全球首款生成式音频工作站 Suno Studio,将 AI 生成能力融入音乐创作核心。支持即时生成无限 stem 变体(人声、鼓点、合成器等),提供多轨时间线编辑、BPM 和音高调整等专业控制,可导出音频与 MIDI 文件至其他 DAW。兼容从业余爱好者到专业作曲家的各类创作者,桌面版现已向 Premier 用户开放。
小米开源其首个原生端到端语音大模型 Xiaomi-MiMo-Audio,被定位为语音开源领域的“LLaMA 时刻”,对标此前语音闭源领域的“GPT-3 时刻”。该模型具体参数、评测分数及开源协议尚未披露。
Sierra 推出 Voice Sommelier,一套为品牌选择 AI 语音的最佳实践方法。该指南聚焦如何根据品牌调性匹配语音参数(如音高、语速、音色),而非仅依赖默认选项。Sierra 强调,合适的语音能提升用户信任感与交互完成率,建议品牌通过 A/B 测试和用户反馈迭代优化语音选择。
OpenAI 介绍 gpt-realtime 语音模型和 Realtime API 正式可用(GA)后的接口变化与新功能。
推荐理由:官方逐一解释了 GA 版接口变化和新功能的使用场景,对正在接入 Realtime API 的开发者有直接参考价值。
FireRedTeam 发布 FireRedChat,一个完全自托管的实时语音 AI 智能体全双工交互解决方案。系统集成了 TTS、ASR、pVAD(个性化语音活动检测)和 EoT(结束轮次检测),不依赖外部 API、无数据泄露、部署完全可控。
推荐理由:官方发布了可完全自托管的实时语音智能体方案,组件构成和部署路径都写清楚了,适合评估私有化语音交互搭建。
FireRedTeam 发布 FireRedTTS-2,一款面向播客和聊天机器人的长对话流式 TTS 系统,支持最多 3 分钟、4 个说话人的多语种对话生成,覆盖中英日韩法德俄语并支持零样本跨语言音色克隆。
推荐理由:官方开源了长对话流式语音合成模型,给出多语言支持、延迟数据和部署方案,适合关注播客与对话生成的读者参考。
Microsoft AI(MAI)发布语音生成模型 MAI-Voice-1,单张 GPU 可在一秒内生成一分钟音频,已用于 Copilot Daily 和 Podcasts。
推荐理由:官方公布两款自研模型的技术细节与试用入口,可据此了解其训练规模和落地进展。
OpenAI 发布更先进的语音到语音模型 gpt-realtime,并带来 Realtime API 更新。新增能力包括 MCP server 支持、图像输入,以及 SIP 电话呼叫支持。
推荐理由:官方发布明确了语音模型升级和 API 新增能力范围,读者可据此评估对语音应用开发的可用性。
OpenRouter 平台现支持在应用中使用语音输入功能,并允许通过 URL 发送 PDF 文件。该功能适用于平台上的任意模型。
OpenAI Developers 发布了关于 Realtime API 和音频处理的官方指南,内容涵盖如何构建实时语音代理、进行实时翻译以及实现流式转录。该指南主要面向开发者,提供低延迟场景下的技术实现参考。
OpenAI 开发者文档发布了一篇关于如何使用 Realtime API 构建实时语音翻译应用的指南,涵盖了低延迟流式音频处理等技术要点。
Mistral 宣布 Le Chat 上线多项新功能,包括 Deep Research 预览模式、基于 Voxtral 模型的语音模式、由 Magistral 推理模型驱动的多语言思考模式、按项目组织对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。
Mistral 发布语音理解模型 Voxtral,含 24B 和 3B 两个版本,均采用 Apache 2.0 许可并可在 Hugging Face 下载,同时上线 API,转录定价每分钟 $0.001 起。
推荐理由:官方发布开源语音理解模型,给出能力细节、基准对比和价格,读者可据此评估是否替代现有 ASR 方案。
OpenMOSS 发布并开源 MOSS-TTSD-V0,支持中英双语对话语音生成、零样本双说话人音色克隆、声音事件控制和长语音生成,模型权重、推理代码和 API 全部开源并支持商用。
推荐理由:原文给出训练数据规模、Codec 设计和对比结果,读者可据此评估这个开源对话语音模型的可复用价值。
Sierra 分享其 AI 语音智能体在真实通话中的三项经验:自研 Voice Activity Detection(VAD)系统可区分背景噪音、打断与附和;智能体能同时思考与倾听、倾听与说话、说话与思考,并实时纠错;语音场景下更多上下文反而提升问题解决效果。Sierra 称其平台上的 AI 智能体可提供 24/7 语音支持,无需等待、转接或回拨,无法解决时可无缝转接人工坐席。
Hugging Face 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署选项,推理由 vLLM 驱动,Whisper Large V3 的 RTFx 相比此前版本提升近 8 倍且转录质量不降。
印度政府依据 IndiaAI Mission 选定 Sarvam 从零构建印度主权大语言模型,并提供专属算力资源。模型具备推理能力、面向语音设计并精通印度语言,计划实现大规模安全部署。
推荐理由:官方公告明确了主权模型的三档规格与本土部署定位,可以据此了解印度 AI 基础设施的建设思路。
OpenAI 在 API 中推出新一代音频模型。开发者首次可以指示文生语音模型以特定方式说话,例如像有同理心的客服人员那样讲话,为语音 Agent 带来更深层的自定义能力。
推荐理由:原文来自 OpenAI 官方,说明开发者可用自然语言指示语音模型按特定方式说话,语音 Agent 的自定义方式值得关注。
Zyphra 以 Apache 2.0 许可发布 Zonos-v0.1 beta,包含 1.6B transformer 与 1.6B SSM hybrid 两个实时 TTS 模型,后者是首个开源 TTS SSM 模型。
推荐理由:官方发布了模型权重、API 定价和架构细节,读者可以据此评估开源 TTS 与专有模型的差距与可用性。