PyTorch Conference North America 2026 落幕,TorchTPU 与 TorchNeuron 等多项生态更新发布
PyTorch Foundation 官方回顾 2026 年 10 月 20-21 日在 San Jose 举办的 PyTorch Conference North America 2026,超过 3,500 人参会。
PyTorch Foundation 官方回顾 2026 年 10 月 20-21 日在 San Jose 举办的 PyTorch Conference North America 2026,超过 3,500 人参会。
Microsoft 与 Hugging Face 发布 ThinkingBox-Training,将智能体任务终态数据库的可执行检查用作 RL 奖励,代码已在 GitHub 开源。
Amazon 发布开源后端 TorchNeuron,将 PyTorch 代码翻译为可在 AWS Trainium 系统上执行的操作,已有 PyTorch 代码只需极少或不做修改即可迁移。
Anthropic 宣布把 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),此前已向其捐赠 MCP。
推荐理由:原文给出了捐赠范围、维护者安排和采用数据,读者可以据此判断 Agent Skills 标准治理走向开放中立的影响。
这篇教程实测 Datalab 的 OmniParseBench 文档解析基准,该基准用 16,288 个通过或失败测试对 2,937 页文档给 27 个解析器打分。
Gradium(从 Kyutai 分拆的巴黎语音 AI 公司)开源 Phonon 端侧 TTS 模型家族,其中英文 Phonon 31m 为 31M 参数、64.5 MB q8 GGUF,采用 Apache 2.0 许可证,无需 GPU 或云端调用即可在 CPU、手机、树莓派 5 和浏览器上运行。
AllenAI 在 Hugging Face 发布卫星嵌入模型 OlmoEarth v1.3,将 Sentinel-1、Sentinel-2 和 Landsat 时间序列压缩为全球每个 10 米像素的 128 维向量,并共享全年份预计算嵌入和浏览器端 OlmoEarth Embeddings Explorer。
Prime Intellect 在 DeepSeek 开源 Mega MoE kernel 基础上补上快速重叠的反向传播,使其可用于训练,MoE kernel 相比默认 PyTorch 实现最高快 3.11×,端到端训练相比 Prime-RL 基线最高快 1.34×(吞吐提升 34%)。
AI 初创公司 Recursive 发布首个由 AI 系统 Eureka Machine 全程参与实验设计的开源语言模型 Flint,为面向本地智能体编码的 MoE 模型,总参数 40B、每 token 激活 2.5B,开发历时四个月。
Ai2 发布卫星嵌入模型 OlmoEarth v1.3,读取 Sentinel-1、Sentinel-2 和 Landsat 时间序列,为全球每个 10 米像素生成 128 维向量(前 64 维可单独使用)。
IBM 在 Hugging Face 发布 Granite Timeseries Ensemble R1,用统一集成配方组合 PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1 和 TTM-r3 四个预训练 Granite 时序模型,无需重训练即可输出中位数和分位数预测。
科大讯飞在全球 1024 开发者节发布讯飞星火 X2.6 端云一体大模型,宣称首次基于全国产算力实现代码和智能体能力突破。模型采用 293B-A30B 参数的 MoE 架构,上下文长度拓展至 1M,输入限时 0.9 元/百万 tokens,输出限时 3.6 元/百万 tokens;同时开源星火 X2.6-4B 端侧模型,新增三档推理模式,推理定价限时免费。
NVIDIA 在 GTC Berlin 展示与 Earthmover 合作的 StormScope EU 实时预报演示,该模型基于 EUMETSAT 卫星观测,每 10 分钟更新一次欧洲云况预测。
Recursive Superintelligence 发布首个模型 Flint,一个面向编码 Agent 的开源 MoE 模型,总参数 39.8B、每 token 激活约 2.5B,权重以 Apache 2.0 发布在 Hugging Face。
Modal 推出 Modal Dojo 训练库,提供构建块、调优配方和可观测性面板,用于生产级 LLM 后训练。
AI 创业公司 Recursive 周三发布免费编程模型 Flint,可在笔记本上运行,公司称其自动化研究系统 Eureka Machine 参与了从预训练到后训练和推理的几乎全部开发环节,小团队不到四个月从零完成。
PyTorch 团队发布 TorchTitan 平台的重大更新,新增对 Muse Spark Open、Qwen3-VL、Qwen3.5、Kimi K2.7/K3、DeepSeek-V4 等开源模型的完整训练支持,覆盖 5D 并行。
Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.
Today we launch SGLang-TorchTPU, built with @Google TPU team and Meta @PyTorch team. We’re excited to see it powering production inference at Meta! SGLang-TorchTPU is a TPU plugin for SGLang that brings: - Top open models on TPU: Muse Spark Open, GLM-5.3 Flash, Kimi K3, Ling 3.1 Flash, MiniMax H3 - SGLang’s production features for large agentic workloads - Custom MegaKernel: Muse Spark Open hits 770 tok/s decode at bs=1 on InferenceX 8K/1K SGLang-TorchTPU is available now: http://github.com/sgl-project/sglang-torchtpu
Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.
Baseten Base Labs 将 Qwen3.5-9B 和 Qwen3.5-27B 后训练为决策模型 elephant-1 与 mammoth-1 并开源权重。
IBM 发布 Granite Speech 系列三项更新:新模型 granite-speech-5.0-2b,以及更新版 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus,均采用 Apache 2.0 许可证。
IBM 发布插件库 vLLM-Hook MIA(model internals aperture),面向 vLLM 推理引擎,让开发者在不关闭图捕获与回放的情况下于运行时观察和干预模型内部状态,例如拒绝恶意提示词、标记幻觉或调整回复语气。
NVIDIA 扩展其开放模型家族,覆盖语言、机器人、生物和量子计算领域,帮助开发者和企业用本地数据定制并部署在自有基础设施上。
DeepSeek 开源其 V4.1 Flash 背后的生产推理引擎 DeepInfer(Apache 2.0),并附 deepseek-recipe 库,官方称单集群日吞吐 155 万亿 token、缓存命中 96%、错峰每加速器小时收入 $38。
Google 在 PyTorch Conference North America 发布 llm-d 1.0,这是该开源分布式推理栈的首个稳定版本,将 vLLM 或 SGLang 模型服务器整合为 Kubernetes 原生的统一资源池。
EAGLE-4 is here. From EAGLE-1 to EAGLE-3, we’ve kept making inference faster. EAGLE-4 is our fastest yet. 961.6 tokens/s on @Alibaba_Qwen’s Qwen3.8-27B with TokenSpeed (BF16, 4× @NVIDIA B300, TP4, one request, T=0). Github: https://github.com/eagle-hq/EAGLE-4
FastH3 OmniRef by @haoailab's is now supported in ComfyUI. This distilled version of Minimax H3 allows multi-modal reference generation of videos. It runs locally on your hardware and provide great balance between quality and speed. Click the links below for open weights and cloud ⬇️
Meta 的开放权重模型 Muse Spark Open 在 Fireworks 上线 Day-0 serverless,为 816B 参数 MoE 架构,每 token 激活 42B 参数,支持 1M token 上下文窗口。
推荐理由:Fireworks 给出了 Muse Spark Open 在法律、金融、医疗等多个独立基准的具体分数和上线方式,读者可据此评估其在受监管工作中的适用性。
SoMark 团队发布开源文档解析模型 OXR(1.3B 参数),将 PDF 和文档图像转为含布局坐标的 Markdown 或 JSON 的 Agent-Friendly 数据。
Beyond OCR. Meet OXR. Only 1.3B. Open source. #1 on olmOCR-Bench, OmniDocBench & DocParsingBench🏆 #1 in parsing speed among open-source models⚡ RSI-powered. A first in document parsing. Turn documents into Agent-Friendly data. If OXR helps, give us a star on GitHub! 🌟
Google 于周二宣布其 PyTorch 版本 TorchTPU 以开源项目形式发布,让现有 PyTorch 应用只需简单配置改动即可运行在 Google TPU 和 Google Cloud 上。
DeepSeek 发布新尺寸模型 DeepSeek-V4.1-Flash-1017(552B-A16B),支持图像输入并沿用 MIT 许可,在 DeepSWE 上性能价格比领先。
vLLM 团队与 Inferact、Google 合作发布 vLLM TorchTPU(vllm-torchtpu),一个在 Google Cloud TPU 上运行 vLLM 的新后端插件,复用 vLLM 既有模型代码,无需改动模型定义即可部署大多数现有模型。
Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行,无需 JAX 依赖。
推荐理由:原文详述架构、精度模式与多个训练推理案例,读者可据此评估把 PyTorch 工作流迁移到 TPU 的成本。