跳到正文
2025年8月5日周二
  1. OpenAI Developers79

    如何用 Ollama 在本地运行 gpt-oss

    OpenAI 开发者发布教程,讲解如何用 Ollama 在本地硬件上部署 gpt-oss-20b 或 gpt-oss-120b 并选择合适的推理设置。

    推荐理由:来自 OpenAI 开发者官方的实操指南,读者可按步骤在自己硬件上用 Ollama 跑通 gpt-oss 两个规格模型。

2025年7月25日周五
  1. 上海人工智能实验室 InternLM:原创项目67

    上海AI实验室开源 Intern-S2-Preview-397B 与 Intern-S2-Preview-35B 科学多模态模型

    上海人工智能实验室 InternLM 团队发布 Intern-S2-Preview-397B,定位面向科学智能与长程智能体的最强多模态基础模型,通过新的视觉语言预训练范式、20 多个领域的大规模多任务强化学习以及沙盒环境中的智能体强化学习提升通用推理与科学能力。

    推荐理由:官方仓库同时给出 Intern-S2 两档新模型与 S1 系列的架构细节和基准对比,便于读者评估科学场景下的开源选型。

  2. LMSYS Blog

    SGLang开源SpecForge:加速Eagle3投机解码训练

    SGLang团队开源SpecForge训练框架,专为Eagle3投机解码设计,原生集成SGLang推理引擎实现训推无缝衔接。框架内置Training-Time Test支持,提供Online与Offline双模式,分别适配低存储多GPU与高存储低GPU场景。基于ShareGPT和UltraChat 32万样本的实验显示,Llama 4 Maverick与Scout draft模型在MT-Bench上分别实现2.18倍与2.0倍推理加速。

2025年7月20日周日
  1. LMSYS Blog

    基于PD分离与大规模专家并行在128张H200 GPU上部署Kimi K2

    Mooncake团队基于OME和SGLang框架,在128张H200 GPU集群上完成了Moonshot AI 1万亿参数开源MoE模型Kimi K2的大规模部署。该方案采用PD分离与大规模专家并行技术,针对模型384个专家和每token 320亿激活参数的设计进行优化,通过跨节点通信优化与负载均衡策略,显著提升了trillion-scale模型的推理吞吐与并发处理能力。

2025年7月18日周五
  1. OpenAI Developers55

    OpenAI 发布 TypeScript 版 Agents SDK

    OpenAI 在 GitHub 上发布了用于构建 OpenAI 智能体的 TypeScript 库和工具(Agents SDK),支持 agentic 工作流和工具调用。该资料仅提供了项目名称、简短描述及仓库链接,未包含具体的功能细节、API 变更或版本发布说明。

2025年7月15日周二
2025年7月10日周四
2025年7月8日周二
  1. LMSYS Blog

    OME:以模型驱动架构革新 LLM 基础设施

    Oracle Cloud Infrastructure 推出 OME(Open Model Engine),一款 Kubernetes-native 的模型服务框架。该系统采用模型驱动架构,通过 BaseModel、ServingRuntime 等自定义资源将模型视为一等公民,有效弥合 ML 工程师与生产团队之间的鸿沟。OME 将模型上线周期从数月压缩至数天,显著减少配置错误,并原生支持多节点推理、Prefill-decode 分离、Serverless 自动扩缩容及 Multi-LoRA 等企业级特性,集成 SGLang 运行时,实现复杂部署策略的编码复用与一键部署。

2025年6月30日周一
  1. LlamaIndex:产品、工程与评测61

    LlamaIndex 发布 Workflows 1.0:面向智能体系统的轻量编排框架

    LlamaIndex 正式发布 Workflows 1.0,一个用 Python 和 TypeScript 构建多步骤智能体应用的轻量事件驱动框架,首次以独立包和独立仓库发布。

    推荐理由:官方发布说明列出了 1.0 的具体新能力和独立包入口,开发者可据此评估是否把 Workflows 用于现有编排场景。

2025年6月20日周五
  1. OpenMOSS / 复旦NLP / 上海创智 / MOSI69

    OpenMOSS 开源 MOSS-TTSD-V0 中英双语对话语音生成模型

    OpenMOSS 发布并开源 MOSS-TTSD-V0,支持中英双语对话语音生成、零样本双说话人音色克隆、声音事件控制和长语音生成,模型权重、推理代码和 API 全部开源并支持商用。

    推荐理由:原文给出训练数据规模、Codec 设计和对比结果,读者可据此评估这个开源对话语音模型的可复用价值。

2025年6月10日周二
2025年6月9日周一
  1. Modal 官方工程博客54

    Modal 发布 1.0 版 Python 客户端

    Modal 上周发布 1.0 版客户端,称其标志平台走向成熟稳定,未来破坏性变更将大幅减少。1.0 移除 automounting 等不可预测的自动行为,改为显式指定包含的本地文件与包;将并发等配置拆分到独立装饰器如 @modal.concurrent,并把 modal.Mount 的本地文件功能统一收归 modal.Image 类。

2025年6月7日周六
2025年5月27日周二
2025年5月23日周五
2025年5月22日周四
  1. Cognition 模型 / Devin 博客64

    Cognition 发布官方 DeepWiki MCP Server,免费开放 GitHub 仓库问答

    Cognition 发布官方 DeepWiki MCP Server,免费且无需登录或鉴权,可对 DeepWiki.com 已收录的 GitHub 仓库进行程序化问答和上下文获取。

    推荐理由:原文列出了三个可用工具和接入方式,开发者可以直接把它接进 Claude Desktop 等 MCP 客户端来查询 GitHub 仓库。

2025年5月21日周三
2025年5月11日周日
  1. Prime Intellect67

    Prime Intellect 发布 INTELLECT-2,32B 推理模型通过全球分布式强化学习训练

    Prime Intellect 发布 INTELLECT-2,称其为首个通过全球分布式强化学习训练的 32B 参数推理模型,并在数学和编码基准上超过 QwQ-32B。

    推荐理由:原文给出分布式异步 RL 的完整基础设施与训练配方细节,并开源模型、代码和数据,读者可以了解去中心化训练的可行路径。

2025年5月5日周一
  1. Cognition 模型 / Devin 博客74

    Cognition 发布 DeepWiki,为任意 GitHub 仓库生成免费 AI 文档

    Cognition 推出 DeepWiki,将 Devin Wiki 和 Devin Search 免费公开,把 URL 中的 github.com 换成 deepwiki.com 即可查看任意仓库的 AI 文档。已索引超过 50,000 个热门公开仓库,涵盖 Model Context Protocol、LangChain 等;公开仓库可免费添加,私有仓库需 Devin 账号。

    推荐理由:原文给出了使用方式和已索引规模,读者可以据此判断如何用 DeepWiki 快速理解陌生代码仓库。

  2. LMSYS Blog

    技术博客:在96块H100 GPU上通过PD分离与大规模专家并行部署DeepSeek

    SGLang团队开源了基于96块H100 GPU(12节点×8卡)的DeepSeek推理系统实现,采用PD分离(Prefill-Decode Disaggregation)与大规模专家并行(EP)架构,集成DeepEP、DeepGEMM和EPLB完整功能,在2000 token输入序列下达成每节点每秒52.3k输入token和22.3k输出token的吞吐量。该方案较传统张量并行提升输出吞吐量5倍,将成本压缩至每百万输出token仅0.20美元,约为官方API价格的五分之一,是首个在开源实现中接近官方DeepSeek报告性能的大规模部署方案。

2025年4月15日周二
2025年4月10日周四
2025年3月17日周一
  1. Mistral AI:News73

    Mistral 发布 Mistral Small 3.1,Apache 2.0 开源并支持 128k 上下文

    Mistral AI 发布 Mistral Small 3.1,称其在同类权重模型中优于 Gemma 3 和 GPT-4o Mini,推理速度达 150 tokens 每秒,上下文窗口扩展至 128k tokens,并以 Apache 2.0 许可证开源。

    推荐理由:官方公告给出具体基准对比、部署门槛和开放下载渠道,读者可据此评估它能否替代现有小型私有模型。

2025年2月28日周五
2025年2月20日周四
2025年2月10日周一
  1. Answer.AI 官方研发博客72

    Answer.AI 发布 ModernBERT-Large-Instruct:编码器模型实现零样本生成式分类

    Answer.AI 推出 ModernBERT-Large-Instruct,通过简单的指令微调使 BERT 类编码器利用 MLM 头进行零样本分类和多项选择任务。该模型无需架构改动或复杂管道,在 MMLU-Pro 上超越 Qwen2.5-0.5B 等亚十亿参数模型,接近 Llama3-1B 性能,且在 NLU 任务中匹配传统微调效果。模型已开源至 HuggingFace,支持单前向传播推理,显著降低计算成本。

  2. Zyphra Research71

    Zyphra 发布 Zonos-v0.1 beta 开源 TTS 模型

    Zyphra 以 Apache 2.0 许可发布 Zonos-v0.1 beta,包含 1.6B transformer 与 1.6B SSM hybrid 两个实时 TTS 模型,后者是首个开源 TTS SSM 模型。

    推荐理由:官方发布了模型权重、API 定价和架构细节,读者可以据此评估开源 TTS 与专有模型的差距与可用性。

2025年1月30日周四
  1. Mistral AI:News72

    Mistral 发布 24B 开源模型 Mistral Small 3,Apache 2.0 协议下性能对标 Llama 3.3 70B

    Mistral 发布 24B 参数的 Mistral Small 3,以 Apache 2.0 协议开放预训练和指令微调两种权重。官方称其在 MMLU 上超 81% 准确率、延迟 150 tokens/s,与 Llama 3.3 70B instruct 相当且同硬件快 3 倍以上,量化后可在单张 RTX 4090 或 32GB 内存的 Mac 上本地运行。

    推荐理由:官方完整说明了模型规格、性能数字和开放部署渠道,读者可据此评估本地部署与开源基座的可行性。

2025年1月29日周三
2025年1月26日周日
  1. OpenMOSS / 复旦NLP / 上海创智 / MOSI59

    SpeechGPT 2.0-preview 发布并开源,支持百毫秒级低延迟语音交互

    OpenMOSS 团队发布端到端语音大模型 SpeechGPT 2.0-preview,在百万小时级中文语音数据上训练,实现 200ms 以内延迟,支持实时打断、多情感多风格多音色控制和角色扮演,并已开源推理代码、模型权重与方法介绍(github.com/OpenMOSS/SpeechGPT-2.0-preview)。

2025年1月24日周五
2025年1月6日周一
2024年12月23日周一
2024年12月19日周四
  1. Answer.AI 官方研发博客82

    Answer.AI 发布 ModernBERT:替代 BERT 的新一代编码器模型

    Answer.AI 与 LightOn 联合发布 ModernBERT,这是一系列旨在取代 BERT 的 SOTA 编码器模型。该模型将 LLM 的最新架构改进(如 Flash Attention、RoPE)应用于编码器,支持 8192 token 上下文长度(远超传统 BERT 的 512),并在速度和下游任务性能上全面超越旧一代模型。提供 base (149M) 和 large (395M) 两种参数规模,已集成至 Hugging Face Transformers v4.48.0,可直接作为 BERT 类模型的即插即用替代品,适用于 RAG、分类及代码检索等场景。

    推荐理由:这是六年来首个真正意义上对 BERT 架构的重大升级,解决了长上下文限制并提升了效率,对依赖编码器的 RAG 和搜索系统开发者具有直接的生产力价值。

2024年12月12日周四