OpenAI 发布开源权重推理模型 gpt-oss-120b 与 gpt-oss-20b
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两个开源权重推理模型,采用 Apache 2.0 许可证,并遵循其 gpt-oss 使用政策。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两个开源权重推理模型,采用 Apache 2.0 许可证,并遵循其 gpt-oss 使用政策。
OpenAI 开发者发布教程,讲解如何用 Ollama 在本地硬件上部署 gpt-oss-20b 或 gpt-oss-120b 并选择合适的推理设置。
推荐理由:来自 OpenAI 开发者官方的实操指南,读者可按步骤在自己硬件上用 Ollama 跑通 gpt-oss 两个规格模型。
上海人工智能实验室 InternLM 团队发布 Intern-S2-Preview-397B,定位面向科学智能与长程智能体的最强多模态基础模型,通过新的视觉语言预训练范式、20 多个领域的大规模多任务强化学习以及沙盒环境中的智能体强化学习提升通用推理与科学能力。
推荐理由:官方仓库同时给出 Intern-S2 两档新模型与 S1 系列的架构细节和基准对比,便于读者评估科学场景下的开源选型。
SGLang团队开源SpecForge训练框架,专为Eagle3投机解码设计,原生集成SGLang推理引擎实现训推无缝衔接。框架内置Training-Time Test支持,提供Online与Offline双模式,分别适配低存储多GPU与高存储低GPU场景。基于ShareGPT和UltraChat 32万样本的实验显示,Llama 4 Maverick与Scout draft模型在MT-Bench上分别实现2.18倍与2.0倍推理加速。
Mooncake团队基于OME和SGLang框架,在128张H200 GPU集群上完成了Moonshot AI 1万亿参数开源MoE模型Kimi K2的大规模部署。该方案采用PD分离与大规模专家并行技术,针对模型384个专家和每token 320亿激活参数的设计进行优化,通过跨节点通信优化与负载均衡策略,显著提升了trillion-scale模型的推理吞吐与并发处理能力。
OpenAI 在 GitHub 上发布了用于构建 OpenAI 智能体的 TypeScript 库和工具(Agents SDK),支持 agentic 工作流和工具调用。该资料仅提供了项目名称、简短描述及仓库链接,未包含具体的功能细节、API 变更或版本发布说明。
LG AI Research 发布混合推理模型 EXAONE 4.0,融合通用语言能力与 EXAONE Deep 的推理能力,支持 MCP 和 Function Calling,并新增西班牙语。
Mistral 发布语音理解模型 Voxtral,含 24B 和 3B 两个版本,均采用 Apache 2.0 许可并可在 Hugging Face 下载,同时上线 API,转录定价每分钟 $0.001 起。
推荐理由:官方发布开源语音理解模型,给出能力细节、基准对比和价格,读者可据此评估是否替代现有 ASR 方案。
Prime Intellect 发布开源数据集 SYNTHETIC-2,包含 400 万条经验证的推理轨迹,由全球 1253 块 GPU 在 3 天内通过流水线并行分布式推理协作生成,覆盖数学、代码及指令遵循等可验证 RL 任务。
Mistral AI 与 All Hands AI 合作推出 Devstral Medium,并升级开源的 Devstral Small 1.1。
推荐理由:官方给出 SWE-Bench Verified 分数、价格与开源许可细节,读者可以据此比较两个 Devstral 模型在成本和部署方式上的取舍。
Oracle Cloud Infrastructure 推出 OME(Open Model Engine),一款 Kubernetes-native 的模型服务框架。该系统采用模型驱动架构,通过 BaseModel、ServingRuntime 等自定义资源将模型视为一等公民,有效弥合 ML 工程师与生产团队之间的鸿沟。OME 将模型上线周期从数月压缩至数天,显著减少配置错误,并原生支持多节点推理、Prefill-decode 分离、Serverless 自动扩缩容及 Multi-LoRA 等企业级特性,集成 SGLang 运行时,实现复杂部署策略的编码复用与一键部署。
LlamaIndex 正式发布 Workflows 1.0,一个用 Python 和 TypeScript 构建多步骤智能体应用的轻量事件驱动框架,首次以独立包和独立仓库发布。
推荐理由:官方发布说明列出了 1.0 的具体新能力和独立包入口,开发者可据此评估是否把 Workflows 用于现有编排场景。
OpenMOSS 发布并开源 MOSS-TTSD-V0,支持中英双语对话语音生成、零样本双说话人音色克隆、声音事件控制和长语音生成,模型权重、推理代码和 API 全部开源并支持商用。
推荐理由:原文给出训练数据规模、Codec 设计和对比结果,读者可据此评估这个开源对话语音模型的可复用价值。
Mistral AI 发布其首个推理模型 Magistral,分为 24B 参数的开源版 Magistral Small(Apache 2.0 许可)和企业版 Magistral Medium。
推荐理由:Mistral 官方发布首个推理模型,给出两版本参数规模与 AIME2024 成绩、开源许可和部署渠道,读者可据此评估选型。
Modal 上周发布 1.0 版客户端,称其标志平台走向成熟稳定,未来破坏性变更将大幅减少。1.0 移除 automounting 等不可预测的自动行为,改为显式指定包含的本地文件与包;将并发等配置拆分到独立装饰器如 @modal.concurrent,并把 modal.Mount 的本地文件功能统一收归 modal.Image 类。
Sarvam AI 与 AI4Bharat 合作发布开源权重翻译模型 Sarvam-Translate,基于 Gemma3-4B-IT 微调,支持 22 种印度语言的段落级翻译,其中 15 种语言支持结构化文档翻译。
Goodfire Research 发布 Paint With Ember,一款通过直接操纵模型内部神经激活来生成和编辑图像的工具,同时开源了支撑该应用的 SAE 解释模型。
Sarvam AI 开源发布 Sarvam-M,基于 24B 的 Mistral Small,经 SFT、RLVR 和推理优化打造面向印度语言的混合推理模型。
Cognition 发布官方 DeepWiki MCP Server,免费且无需登录或鉴权,可对 DeepWiki.com 已收录的 GitHub 仓库进行程序化问答和上下文获取。
推荐理由:原文列出了三个可用工具和接入方式,开发者可以直接把它接进 Claude Desktop 等 MCP 客户端来查询 GitHub 仓库。
Mistral AI 与 All Hands AI 联合发布面向软件工程任务的智能体编码模型 Devstral,以 Apache 2.0 许可开源。
推荐理由:官方发布给出 SWE-Bench Verified 具体分数、开源许可和本地部署门槛,读者可据此评估它是否适合放入自己的编码模型列表。
Prime Intellect 发布 INTELLECT-2,称其为首个通过全球分布式强化学习训练的 32B 参数推理模型,并在数学和编码基准上超过 QwQ-32B。
推荐理由:原文给出分布式异步 RL 的完整基础设施与训练配方细节,并开源模型、代码和数据,读者可以了解去中心化训练的可行路径。
Cognition 推出 DeepWiki,将 Devin Wiki 和 Devin Search 免费公开,把 URL 中的 github.com 换成 deepwiki.com 即可查看任意仓库的 AI 文档。已索引超过 50,000 个热门公开仓库,涵盖 Model Context Protocol、LangChain 等;公开仓库可免费添加,私有仓库需 Devin 账号。
推荐理由:原文给出了使用方式和已索引规模,读者可以据此判断如何用 DeepWiki 快速理解陌生代码仓库。
SGLang团队开源了基于96块H100 GPU(12节点×8卡)的DeepSeek推理系统实现,采用PD分离(Prefill-Decode Disaggregation)与大规模专家并行(EP)架构,集成DeepEP、DeepGEMM和EPLB完整功能,在2000 token输入序列下达成每节点每秒52.3k输入token和22.3k输出token的吞吐量。该方案较传统张量并行提升输出吞吐量5倍,将成本压缩至每百万输出token仅0.20美元,约为官方API价格的五分之一,是首个在开源实现中接近官方DeepSeek报告性能的大规模部署方案。
Goodfire 宣布在 671B 参数的 DeepSeek R1 上训练了首批公开的稀疏自编码器(SAE),包括通用推理和数学各一个,并连同数据集开源,还提供 max activating examples 的 SQL 数据库和交互式 UMAP 特征可视化。
Prime Intellect 发布 INTELLECT-2,称其为首个 32B 参数模型的全球无许可去中心化强化学习训练,任何人可贡献异构算力。
推荐理由:官方完整公开了异步 RL 去中心化训练的框架、验证机制与数据过滤细节,读者可以照此评估和复用整套开源组件。
Zyphra 发布 ZR1-1.5B,一个基于 DeepSeek-R1-Distill-Qwen-1.5B、用强化学习在数学和代码问题上训练的小型推理模型。
Mistral AI 发布 Mistral Small 3.1,称其在同类权重模型中优于 Gemma 3 和 GPT-4o Mini,推理速度达 150 tokens 每秒,上下文窗口扩展至 128k tokens,并以 Apache 2.0 许可证开源。
推荐理由:官方公告给出具体基准对比、部署门槛和开放下载渠道,读者可据此评估它能否替代现有小型私有模型。
Prime Intellect 宣布获得 1500 万美元融资,由 Founders Fund 领投,Menlo Ventures、Andrej Karpathy、Clem Delangue、Tri Dao 等参投,总融资额超过 2000 万美元。
Prime Intellect 发布 SYNTHETIC-1,一个由 DeepSeek-R1 生成、全球算力贡献者协作产生的 200 万条开源推理轨迹数据集,覆盖数学、代码和科学问答五类任务,并用任务专属验证器校验正确性。
Answer.AI 推出 ModernBERT-Large-Instruct,通过简单的指令微调使 BERT 类编码器利用 MLM 头进行零样本分类和多项选择任务。该模型无需架构改动或复杂管道,在 MMLU-Pro 上超越 Qwen2.5-0.5B 等亚十亿参数模型,接近 Llama3-1B 性能,且在 NLU 任务中匹配传统微调效果。模型已开源至 HuggingFace,支持单前向传播推理,显著降低计算成本。
Zyphra 以 Apache 2.0 许可发布 Zonos-v0.1 beta,包含 1.6B transformer 与 1.6B SSM hybrid 两个实时 TTS 模型,后者是首个开源 TTS SSM 模型。
推荐理由:官方发布了模型权重、API 定价和架构细节,读者可以据此评估开源 TTS 与专有模型的差距与可用性。
Mistral 发布 24B 参数的 Mistral Small 3,以 Apache 2.0 协议开放预训练和指令微调两种权重。官方称其在 MMLU 上超 81% 准确率、延迟 150 tokens/s,与 Llama 3.3 70B instruct 相当且同硬件快 3 倍以上,量化后可在单张 RTX 4090 或 32GB 内存的 Mac 上本地运行。
推荐理由:官方完整说明了模型规格、性能数字和开放部署渠道,读者可据此评估本地部署与开源基座的可行性。
Sakana AI 发布日语小语言模型 TinySwallow-1.5B,采用新知识蒸馏方法 TAID,从 32B 参数 LLM 向 1.5B 参数 SLM 迁移知识,在同规模模型中取得最高日语基准分数。
ARC Prize 发布对 DeepSeek R1-Zero 和 R1 的分析,两者在 ARC-AGI-1 上分别得分 14% 和 15.8%,与 o1(低算力 20.5%)相当,而 o3-preview 低算力达 75.7%。
推荐理由:作者基于 ARC-AGI-1 实测数据比较 R1-Zero 与 o1/o3,提出纯 RL 训练可绕过人类标注瓶颈和推理经济学两个分析角度。
OpenMOSS 团队发布端到端语音大模型 SpeechGPT 2.0-preview,在百万小时级中文语音数据上训练,实现 200ms 以内延迟,支持实时打断、多情感多风格多音色控制和角色扮演,并已开源推理代码、模型权重与方法介绍(github.com/OpenMOSS/SpeechGPT-2.0-preview)。
FireRedTeam 开源工业级 ASR 模型 FireRedASR,支持普通话、中文方言和英文,在公开普通话 ASR 基准上取得 SOTA,并具备歌词识别能力。
推荐理由:原文给出两个模型变体的架构差异和公开基准 CER/WER 对比数字,读者可据此评估选型。
USC、Prime Intellect 与 Nucleic Acid Observatory 联合发布 7B 参数自回归 transformer 宏基因组基础模型 METAGENE-1,用于疫情监测、病原体检测和早期健康威胁发现。
Sakana AI 联合 MIT、OpenAI、IDSIA 和 Ken Stanley 发布论文,提出 Automated Search for Artificial Life(ASAL)算法,用视觉语言基础模型自动发现人工生命模拟。
Answer.AI 与 LightOn 联合发布 ModernBERT,这是一系列旨在取代 BERT 的 SOTA 编码器模型。该模型将 LLM 的最新架构改进(如 Flash Attention、RoPE)应用于编码器,支持 8192 token 上下文长度(远超传统 BERT 的 512),并在速度和下游任务性能上全面超越旧一代模型。提供 base (149M) 和 large (395M) 两种参数规模,已集成至 Hugging Face Transformers v4.48.0,可直接作为 BERT 类模型的即插即用替代品,适用于 RAG、分类及代码检索等场景。
推荐理由:这是六年来首个真正意义上对 BERT 架构的重大升级,解决了长上下文限制并提升了效率,对依赖编码器的 RAG 和搜索系统开发者具有直接的生产力价值。
Cognition 宣布 Devin Open Source Initiative,在 Devin 正式发布之际向被选中的开源维护者提供 Devin Teams 计划 500 免费 ACU。