跳到正文
10月29日周四
  1. vLLM 官方博客71

    vLLM 发布 Mistral Large 4 Day 0 支持

    vLLM 团队宣布对 Mistral 新旗舰模型 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的原生多模态 MoE 模型,采用 MLA 稀疏注意力加 DSA top-k 索引器、跨层 KV 共享、NoPE、SSMax 和 LeRoPE 等新架构,并内置 DSpark 推测解码草稿器与 Pixtral 视觉编码器。

    推荐理由:vLLM 团队详解支持 Mistral Large 4 所需的架构适配与量化、长上下文、推测解码等实测数据,可作部署参考。

  2. Hugging Face 官方团队博客81

    Mistral Large 4(Le Chonk)登陆 Hugging Face:1T 参数 MoE 多模态开源权重模型

    Hugging Face 发布 Mistral Large 4(Le Chonk)的上线博客,模型为多模态多语言 MoE 架构,总参数约 1T、激活 49B、上下文窗口 1M token。

    推荐理由:原文给出架构细节、网络安全能力分数和各硬件实测吞吐,读者可据此评估该开源权重大模型的部署门槛与适用场景。

  3. OpenMOSS / 复旦NLP / 上海创智 / MOSI71

    OpenMOSS 发布开源图像生成模型 MOSS-Image,主打长文本渲染与可编辑布局

    OpenMOSS 发布开放权重图像生成模型 MOSS-Image,采用 5B 参数单流 DiT 从零预训练,支持最长 4K token 提示词、中英文长文本渲染和可编辑的 JSON Layout。

    推荐理由:原文给出长文本渲染与布局评测数字及开放权重部署路径,读者可以据此判断它在文字密集图像任务中的适用边界。

10月28日周三
  1. Liquid AI 模型与工程博客68

    Liquid AI 发布 LFM3 多模态开源权重模型家族,2B 级覆盖文本、视觉、音频、omni 和决策模型

    Liquid AI 发布新一代 LFM3 模型家族,以 LFM3-1.7B-Base 为共享骨干,首批开放六个 2B 级模型(文本、视觉、音频、omni 及两个决策模型)的开放权重,可在 Hugging Face、Playground 和 Liquid AI API 获取。

    推荐理由:原文给出 LFM3 各模型的具体架构、基准和端侧性能数据,读者可以据此评估小参数量多模态模型在本地方案中的可行性。

  2. LangChain:Blog71

    LangChain 解析自研设计 agent Content Studio 并开源其 harness

    LangChain 详解自家设计 agent Content Studio 如何在 Slack 中根据一条提示生成视频、幻灯片和社媒图等代码化资产,已累计产出超 3000 件资产、80 多套幻灯片,单次请求模型成本从约 $8 降至约 50 美分。

    推荐理由:LangChain 复盘自研设计 agent 从早期差评到可用的过程,并开源了 harness,读者可借鉴其教品味、建环境和异步子代理的具体做法。

10月27日周二
10月25日周日
10月24日周六
  1. Moonshot AI:Kimi Blog81

    月之暗面发布 Kimi K3.1 Pro,100 万 token 上下文,开放权重将于 11 月 4 日前释出

    月之暗面发布 Kimi K3.1 系列首个模型 Kimi K3.1 Pro,为 3T 级开放权重模型,上下文窗口 100 万 token,并同步推出速度快 2-3 倍的 Kimi K3.1 Pro Highspeed。

    推荐理由:官方公布了关键基准成绩、开放权重时间表和网络安全数据清理做法,读者可据此评估这代开放权重模型的实际能力边界。

10月23日周五
10月22日周四
10月21日周三
  1. Fireworks AI76

    Meta 开放权重模型 Muse Spark Open 上线 Fireworks 美国区 serverless

    Meta 的开放权重模型 Muse Spark Open 在 Fireworks 上线 Day-0 serverless,为 816B 参数 MoE 架构,每 token 激活 42B 参数,支持 1M token 上下文窗口。

    推荐理由:Fireworks 给出了 Muse Spark Open 在法律、金融、医疗等多个独立基准的具体分数和上线方式,读者可据此评估其在受监管工作中的适用性。

10月20日周二
  1. Google Developers Blog71

    Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

    Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。

    推荐理由:原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口,读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。

  2. IBM Research:AI60

    llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。

    推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。

10月17日周六
10月16日周五
  1. Artificial Analysis 完整文章61

    Reflection 发布首个开源权重模型 Beam,Artificial Analysis 评测得分 30 居美国开源模型第二

    Artificial Analysis 评测 Reflection 首个模型 Beam,其在 Artificial Analysis Intelligence Index 得 30 分,在美国开源权重模型中排第二,仅次于 Meta 的 Muse Spark Open(39)。

    推荐理由:第三方评测给出 Beam 在美国开源权重模型中的位置与 token 效率数据,可用于横向比较其智能体与编码能力。

  2. Hugging Face 官方团队博客72

    Reflection 发布开源 MoE 模型 Beam 501B,Hugging Face 提供部署与微调指南

    Reflection 首个开源模型 Beam(reflectionai/Beam-1.0-501B-A23B)上线 Hugging Face,是 501B 参数、每 token 激活 23B 的 MoE 模型,支持 1M token 上下文,采用 Apache 2.0 许可,主打编码和智能体场景。

    同一件事,精选收录的是《Reflection 开源权重模型 Beam 上线 Ollama Cloud,限时免费使用》

  3. PyTorch:Blog83

    Meta 发布开源权重模型 Muse Spark Open,816B 参数、1M 上下文

    Meta 发布开源权重模型 Muse Spark Open,已在 Hugging Face 以 Muse Model License 提供。模型总参数 816B、激活 42B,上下文窗口 1M token,面向编码与智能体工作流,原生多模态(图像、音频、文档),并相比 8 月发布的 Muse Spark 增加了安全后训练。

    推荐理由:Meta 开放了 Muse Spark 的权重,并给出 Helion 内核与 TorchTitan 微调支持,读者可据此评估其部署与定制路径。

  4. Comfy Blog71

    Black Forest Labs 发布开源权重模型 FLUX 3 Image Klein,5.6B 参数支持原生 4K 生成

    Black Forest Labs 在 ComfyUI 发布 FLUX 3 家族的紧凑开源权重模型 FLUX 3 Image Klein,共 5.6B 参数,提供 Base 和 Distilled 两种版本,内部评测中文生图和多参考生成得分高于 Qwen-Image 2.1。

    同一件事,精选收录的是《Black Forest Labs 发布开源文生图模型 FLUX 3 Image Klein(5.6B)》