跳到正文
10月21日周三
10月20日周二
  1. Tianyi Cui70

    DeepSeek 开源自研推理框架 DeepInfer,以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件,代码位于 github.com/deepseek-ai/DeepInfer。DeepInfer 已用于大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理,官方希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。

    引用DeepSeek@deepseek_ai

    🚀 隆重推出 DeepInfer,我们自研的推理框架,现已完全开源! 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

    同一件事,精选收录的是《DeepSeek 全面开源内部推理框架 DeepInfer》

  2. IT之家·人工智能72

    DeepSeek 将内部推理框架 DeepInfer 全面开源

    DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,此前已开源大模型、TileLang 编译工具及推理算子库。DeepInfer 集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台,已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。

10月19日周一
10月18日周日
10月17日周六
  1. Aravind Srinivas45

    我们刚刚又开源了一对最先进的决策模型: pplx-decider-flash-v1.2:4B 参数,每百万 token 1 美分(HF Decision Index 上排名第一的 4B 模型) pplx-decider-v1.2:27B 参数,每百万 token 2 美分(目前在 HF Decision Index 总榜上排名第 2——暂时如此,会快速提升) 两者均已在 Perplexity Decisions API 上线,同时也以开放权重形式发布在 @huggingface 上 尽情享用!

    引用Perplexity Developers@perplexitydevs

    Our next generation of open weights multimodal decision models comes in two sizes, pplx-decider-v1.2 and pplx-decider-flash-v1.2. Text and vision scores improve. Inference is up to 5x faster: all questions in a request run in one pass. Flash is the top 4B on the Decision Index.

10月16日周五
  1. Reflection Blog83

    Reflection 发布首个开源权重模型 Beam,501B 参数 MoE 采用 Apache 2.0 协议

    Reflection 发布首个开源权重模型 Beam,权重已在 Hugging Face 以 Apache 2.0 协议放出。Beam 为稀疏 MoE 模型,总参数 501B、激活 23B,面向编码、推理和长程智能体任务,提供 BF16、FP8、NVFP4 精度权重和投机解码 drafter 模型。

    同一件事,精选收录的是《Reflection 开源权重模型 Beam 上线 Ollama Cloud,限时免费使用》

  2. IT之家·人工智能54

    小米开源空间音频理解大模型 MiDashengLM-Spatial

    小米发布开源空间音频理解大模型 MiDashengLM-Spatial,完整公开模型权重和推理代码,采用 Apache 2.0 许可证。模型以 MiDashengLM-7B 为基座,在保留基础音频理解能力的同时增加空间感知与推理能力,小米称其为业界首个开源的端到端空间音频理解大模型,将陆续应用于智能家居和汽车座舱场景。

10月15日周四
  1. StepFun67

    阶跃星辰转发 FeatherlessAI 的消息,Step 5 Preview 已上线该平台,以 FP8 精度提供服务。该开放权重模型为 600B 稀疏 MoE 架构、每 token 激活 27B,面向长程智能体工作,在软件工程和专业知识工作(尤其金融)上有前沿级表现,按 Artificial Analysis 数据其每任务成本约为 Claude Opus 5.5 的 1/6,智能水平与 Kimi K3 相当。

    引用Featherless AI@FeatherlessAI

    Step 5 Preview 来了。 @StepFun_ai 的新开放权重模型树立了新的帕累托前沿,在 @ArtificialAnlys 智能指数上与 Kimi K3 持平! 它为长时程智能体工作而打造,在软件工程和专业知识工作(尤其是金融)方面取得了前沿级成果。 - 600B 稀疏 MoE,每 token 激活 27B - 据 Artificial Analysis,每任务成本约为 Claude Opus 5.5 的 1/6 现已在 Featherless 上线,以 FP8 提供服务。 https://featherless.ai/model-pages/step-5-preview

    推荐理由:引用内容给出 Step 5 Preview 的参数规模、成本对比和部署入口,读者可据此评估其性价比与获取方式。

  2. 公众号:昆仑万维70

    昆仑万维发布并开源单张 RTX 5090 实时运行的视频大模型游戏 Matrix-Game 4.0

    昆仑万维于2026年10月15日发布 Matrix-Game 4.0,称其为第一款运行在单张消费级显卡上的视频大模型游戏,并同步开源。

    推荐理由:原文给出具体硬指标与三模块架构,还对比了同类方案的延迟和算力门槛,读者可据此评估这条实时世界模型路线的落地价值。

  3. 蚂蚁百灵:Developer Blog65

    蚂蚁百灵开源 Ling-3.1-flash:总参数约 560B、每 Token 激活约 25B,支持 1M 上下文

    蚂蚁百灵正式开源 Ling-3.1-flash,权重可在 Hugging Face 和 ModelScope 获取。模型总参数约 560B、每 Token 激活约 25B、最高支持 1M 上下文;经 MXFP4 与 block-FP8 量化后权重占用从约 534GB 降至 292GB,Hopper GPU 测试中服务部署由 8 卡降至 4 卡。

    推荐理由:官方开源公告给出权重入口、Artificial Analysis 与 Design Arena 评测数据和 4 卡部署实测,便于评估自部署可行性。