跳到正文
#开源生态
10月21日周三
10月20日周二
  2. Google Developers Blog71

    Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

    Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎，分别与 Inferact、RadixArk 合作开发，让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。

    推荐理由：原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口，读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。

  9. IBM Research：AI60

    llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0，这是一个 Kubernetes 原生的分布式推理服务框架，支持任意模型、任意加速器和任意云。

    推荐理由：原文给出 llm-d 1.0 的具体能力变化和实测成本数据，读者可据此评估自建推理基础设施是否划算。

  10. 公众号：小红书技术47

    小红书 AllSpark 提出 ROSS：让模型重学训练中自生成的 rollout

    小红书 AllSpark Team 提出 ROSS，让模型重新学习训练中自己生成的 rollout，通过筛选有价值轨迹片段并保留完整上下文做选择性监督。基于 Qwen3.6-35B-A3B，该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%，MOPD 均分从 58.40% 提至 62.20%。

  11. 公众号：面壁智能68

    面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

    面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度（LES）技术，称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行，iPhone 18 Pro Max 实测解码超 20 token/s。

    推荐理由：原文拆解了 LES 在调度、存储、计算三层的具体设计，并给出消融数据，方法可迁移到其他 MoE 模型的端侧部署。

  12. Ant Ling56

    蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持，让模型更易部署。据引用内容，蚂蚁百灵开源了 5 款语音模型，覆盖 TTS、音频理解和 ASR，参数规模从 0.5B 到 126B 总参数（激活 6.5B），可通过 vLLM-Omni 直接部署。

    引用vLLM@vllm_project

    Day-0 support for Ming-3.0 in vLLM-Omni @AntLingAGI just open-sourced 5 speech models spanning TTS, audio understanding, and ASR — ranging from 0.5B to 126B total parameters (6.5B active). Serve them today with vLLM-Omni. Congrats to the @AntLingAGI team!

10月19日周一
10月18日周日
10月17日周六
  7. Arena.ai80

    Arena 公布 Meta 发布的 Muse Spark Open (Max) 在 Code Arena: WebDev 以 1511 分位居美国开源模型第一、开源模型总榜第 13。

    引用AI at Meta@AIatMeta

    今天我们发布 Muse Spark Open，这是迄今为止能力最强的美国开放权重模型。 专为编程和智能体工作打造，它擅长长周期任务、复杂软件工程和多步推理。 关键模型规格： → 816B 总参数 / 42B 激活参数 → 1M token 上下文窗口 → 原生支持文本、图像、视频、音频多模态

    推荐理由：基于 Arena 自家 Code Arena 榜单给出 Muse Spark Open 的具体得分、排名与定价对比，读者可据此定位该开源模型的真实水准。

  9. Aravind Srinivas43

    OpenRouter 是使用 Perplexity Decider 模型的最佳平台

    引用OpenRouter@OpenRouter

    Perplexity Decider v1.2 and Decider Flash v1.2 are now on OpenRouter @perplexity_ai's open-weights decision models take text or images and return typed answers with probabilities - Decider v1.2: a new 27B checkpoint, succeeding v1.1 - Decider Flash v1.2: 4B, faster and half the cost http://openrouter.ai/perplexity/pplx-decider-v1.2 http://openrouter.ai/perplexity/pplx-decider-flash-v1.2

  10. The Decoder：AI News77

    中国拟收紧开源权重模型及 23 项关键 AI 技术出口管制

    中国商务部和科技部发布禁止和限制出口技术目录草案，涉及大模型、智能体、算力集群和数据处理等 23 项关键 AI 技术。可自主编写或修改恶意软件攻击关键基础设施的工具面临全面出口禁令；大模型在满足 10^26 FLOPs 训练算力、2 万亿参数或全球排名前 10 等条件时受控，但开源发布和自有海外数据中心运营可走自动许可快速通道。

    同一件事，精选收录的是《商务部、科技部拟在出口技术目录增列23项人工智能技术并征意见》

  12. Arena.ai60

    Arena 宣布 Reflection AI 的 Beam-1.0-501B-A23B 登上 Agent Arena 榜单，Reflection AI 因此进入 Agent Arena 前 15 实验室。该模型在开源模型中排第 12（Net Improvement -3.67%，误差 ±3.84%），是美国开源模型中排名最高的，在美国实验室中排第 6、总榜第 13；在 Code Arena: WebDev 的开源模型中排第 22（1438 分），同为前 25 中唯一非中国实验室的开源模型，权重以 Apache 2.0 完全开放。

    引用Arena.ai@arena

    Exciting news: Beam-1.0-501B-A23B by @Reflection_AI just landed #12 among open weight models in Agent Arena with -3.67% Net Improvement, and #22 among open in Code Arena: WebDev with 1438 pts. It’s also fully open under Apache 2.0. On the Agent Arena leaderboard, Beam 1.0 is the top-ranked US model among open models, landing at #12. That puts it ahead of Hy3, MiMo V2.5 Pro and MiniMax M3. Its margin of error is wide (±3.84% on Net Improvement), so it’s statistically closer to the two Qwen3.8 models just above it than its rank suggests. On Code Arena: WebDev, 24 of the top 25 open models come from Chinese labs. The one exception is Reflection’s Beam 1.0 (Apache 2.0). It ranks #22 among open models, which makes it the top US open model on the board, just ahead of Kimi K2.5 Thinking and GLM-5. Congrats to the @Reflection_AI team on this solid open weights release!

10月16日周五
  1. Artificial Analysis 完整文章61

    Reflection 发布首个开源权重模型 Beam，Artificial Analysis 评测得分 30 居美国开源模型第二

    Artificial Analysis 评测 Reflection 首个模型 Beam，其在 Artificial Analysis Intelligence Index 得 30 分，在美国开源权重模型中排第二，仅次于 Meta 的 Muse Spark Open（39）。

    推荐理由：第三方评测给出 Beam 在美国开源权重模型中的位置与 token 效率数据，可用于横向比较其智能体与编码能力。

  3. Arena.ai55

    Arena 评析 Reflection AI 的 Beam-1.0-501B-A23B，该模型以 -3.67% Net Improvement 位列 Agent Arena 开源模型第 12 名，是榜上排名最高的美国开源模型。

    引用Reflection@reflection_ai

    Introducing Beam: a highly efficient agentic open model with 501B total parameters and 23B active. - Frontier reasoning efficiency - Advances the Western open frontier on coding & agentic tasks - Trained end-to-end from scratch Full weights release this month. Learn more about Beam: http://reflection.ai/beam