Amp 推出自托管 orbs，企业可在自有基础设施运行智能体环境
Amp 推出自托管 orbs 功能，用户运行 amp orb provider 并提供自己的调度程序，即可在自有基础设施上实现 spawn、pause、delete 等 orb 操作。
#部署/工程
Amp ChronicleAI 评分5555 Mastra BlogAI 评分5050 Mastra 发布托管可观测平台 Mastra Observability
Mastra 发布托管平台 Mastra Observability，直接接入 Mastra 框架项目，自动追踪 agent 运行，集中查看 traces、性能与成本指标并运行在线 scorers。
LMSYS BlogAI 评分4848 SGLang 弹性专家并行扩展：用 NIXL 在线扩容 MoE 部署
SGLang 的 Elastic EP Scaling 让 MoE 模型可在运行中按细粒度增量加入 GPU，无需部署完整副本或重启服务，max_ep_size 预留元数据与通信缓冲容量。
a16z：NewsAI 评分5252 a16z 合伙人撰文分析为何硬件专用化时代回归
a16z 作者 Zain Asgar 撰文回顾1990年代专用芯片为何败给通用微处理器，认为 Dennard 扩缩终结、每晶体管成本停滞和内存墙正让历史条件反转。
PyTorch：BlogAI 评分4343 PyTorch 借助 FlyDSL 加速 AMD GPU 上的算子性能
PyTorch 在 AMD MI350 系列 GPU 上通过现有算子 API 接入 FlyDSL 后端，覆盖 dense/grouped GEMM、FMHA、MXFP8/MXFP4 缩放 GEMM、RMSNorm 和 TopK，无需调用自定义 kernel。
Google Developers BlogAI 评分5151 Google Agents CLI 推出扩展系统，支持 LangChain 等任意智能体框架
Google 开发者团队宣布 Agents CLI 从 v1.5.0 起引入 Extension System，开发者可在不 fork 工具的情况下覆盖或新增命令。
GitHub BlogAI 评分5050 GitHub 如何为智能体规模的 Git 流量搭建过渡架构
GitHub 正把最繁忙的仓库迁入 Azure，通过将写入仲裁的串行化范围从整个仓库缩小到单个引用，解决跨区域约 25ms 往返带来的吞吐瓶颈。内部真实流量测试中，对不同引用的写入吞吐量提升 3–4 倍且延迟更低。目前多数仓库的五个副本已有两个位于 Azure，Azure 承担约一半 Git 流量。
vLLM 官方博客AI 评分5757 vLLM Day-0 支持 Recursive 40B MoE 模型 Flint，单卡推理约 500 tokens/s
vLLM 宣布 Day-0 支持 Recursive 的 Flint，其 NVFP4 和 BF16 checkpoint 均可在单张 GPU 上运行，在一张 GB200、100K token 上下文下单请求解码约 500 tokens/s。
Cohere 产品与研究博客AI 评分5353 Cohere Model Vault 推出机密计算公开测试版
Cohere 宣布 Cohere Model Vault 的机密计算（Confidential Computing）功能进入公开测试版，为托管企业 AI 提供硬件级保护和可独立验证的安全性。
LMSYS BlogAI 评分4949 用 Miles 在 MI355X 上训练 SWE 智能体：驯服长尾轨迹与复杂沙箱协同
研究团队用 Miles、SGLang、Megatron-LM 和 Harbor 在 AMD Instinct MI355X 上对 Qwen3-30B-A3B-Instruct 做全异步智能体 RL 训练，在 SWE-bench Verified 的 100 任务分层子集上把 pass@1 从 7.3% 提升到 27.5%。
Wiz：Research精选AI 评分8383 Wiz 披露 LiteLLM PyPI 包供应链攻击，恶意版本 v1.107.0 窃取凭据
Wiz 披露 10 月 21 日 11:39 UTC 有恶意版本 LiteLLM 1.107.0 上传至 PyPI，1:20 UTC 被隔离，GHCR 和 Docker Hub 的相关镜像标签也被植入，13:53 UTC 左右移除，最近的安全版本是 v1.106.2。
推荐理由：原文给出完整的攻击时间线、窃取目标和 IOC 清单，读者可以据此排查自身环境是否受影响。
IBM Research：AIAI 评分5353 IBM 发布 vLLM-Hook MIA 插件，实现近零开销的模型运行时监控与转向
IBM 发布插件库 vLLM-Hook MIA（model internals aperture），面向 vLLM 推理引擎，让开发者在不关闭图捕获与回放的情况下于运行时观察和干预模型内部状态，例如拒绝恶意提示词、标记幻觉或调整回复语气。
Databricks：BlogAI 评分4848 Databricks AI Runtime 正式可用，把托管 GPU 训练搬进 Lakehouse
Databricks 宣布 AI Runtime（AIR）正式可用，将全托管 GPU 基础设施直接接入 Databricks，让客户在企业数据所在的 Lakehouse 内训练模型。
Databricks：BlogAI 评分4848 Databricks AI Runtime 正式可用，联手 NVIDIA 简化开源模型企业数据定制
Databricks AI Runtime 在 GTC Berlin 上宣布正式可用，开发者可在无服务器 NVIDIA GPU 上使用 NVIDIA NeMo、NGC 容器和 Nemotron cookbooks 训练与微调开源模型。
NVIDIA BlogAI 评分4242 NVIDIA 扩展 Confidential Computing，推出 Confidential Bare Metal 供前沿模型厂商安全扩容
NVIDIA 扩展 Confidential Computing，新增 Confidential Bare Metal 部署选项，让前沿模型厂商在第三方专用基础设施上运行敏感负载并保留模型与数据控制权。
NVIDIA BlogAI 评分4141 NVIDIA cuDSS 正式发布，加速工程与科学仿真
NVIDIA cuDSS 现已正式可用，这一 CUDA-X 库将工程与科学仿真中的大型稀疏方程组求解迁移到 GPU 上。
NVIDIA：NewsroomAI 评分6767 NVIDIA 联合六家供应链伙伴扩大制造产能
NVIDIA 在 GTC Berlin 宣布与 Amkor、IBIDEN、KYEC、三星电机、SPIL 和欣兴电子合作扩大基板、先进封装、测试和光引擎产能。基板产能未来三年提升 2.5 倍，Amkor 先进封装产能到 2028 年底提升超 300%，KYEC 获 NVIDIA 11 亿美元产能预留预付款在美国建新厂，SPIL 光引擎产能目标 2027 年中提升 15 倍。
NVIDIA BlogAI 评分4242 NVIDIA 欧洲云合作伙伴扩展区域算力，支持安全 AI 智能体
NVIDIA 在欧洲、北欧、非洲和中亚的云合作伙伴正扩展区域算力，用于模型训练与推理及智能体、物理 AI 应用开发。Nscale 测试显示，基于 GB300 NVL72 的 NVIDIA DSX MaxLPS 在同等供电预算下多支持 37% 的 GPU、聚合推理吞吐提升近 50%。
NVIDIA：NewsroomAI 评分4646 NVIDIA 推出 DSX POD AI 工厂参考设计，部署时间从六个月缩短至 14 天
NVIDIA 在 GTC Berlin 推出 DSX POD 参考设计，用于在模块化集装箱内由合作伙伴预集成、预验证完整的 Vera Rubin AI 工厂，交付后接入已准备好的电力、冷却与网络即可投用。
NVIDIA：NewsroomAI 评分4646 NVIDIA DSX 助力欧洲生态打造全球最高效 AI 工厂
NVIDIA 在 GTC Berlin 宣布欧洲生态伙伴采用 NVIDIA DSX AI Factory Platform 建设 AI 工厂，其参考设计用闭式液冷与干冷器将冷却水耗降至近零，2GW 部署每天可省 5400 万升水。
NVIDIA Technical Blog：Agentic AI / Generative AIAI 评分5757 NVIDIA 发布 OpenShell 参考架构，在基础设施层治理 AI 智能体工作负载
NVIDIA 介绍开源运行时 NVIDIA OpenShell 及其参考架构，将智能体视为不可信工作负载，通过 Gateway、Supervisor、Sandbox 和 Policy prover 四个组件在智能体之外实施确定性治理。
Tessl：产品与工程博客AI 评分5959 Tessl 博客：用 JavaScript 和 SQLite 搭建 AI 生成的个人应用
Tessl 工程博客提出个人应用这一新类别，认为 JavaScript/TypeScript 加 SQLite 足以支撑 AI 生成的一次性个人软件，并用波恩垃圾回收日程 Bonn Tonne、约时间应用 Daybreak 和销售报价原型 Quote-Assist 三个实例验证，示例均由 LLM 生成。
vLLM 官方博客精选AI 评分6767 蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming，仓库为 github.com/vllm-project/humming。
推荐理由：原文给出统一量化表示加 JIT 编译的内核设计和多项基准数字，读者可以据此评估不同 GPU 上的量化推理方案选择。
Modal 官方工程博客精选AI 评分6161 Modal 推出 Sticky Sessions：同一会话请求始终路由到同一容器
Modal 发布 Sticky Sessions，基于 Modal Servers 让同一会话的所有请求固定路由到同一容器，用 @modal.sessioned() 装饰器配合 SDK 或 HTTP API 即可创建。
推荐理由：原文讲清了 Sticky Sessions 的路由、授权与弹性伸缩设计，以及语音智能体、共享房间和游戏等适用场景。
Zyphra ResearchAI 评分4646 Zyphra Inference Wave 2：在 MI355X 上加速 MoE 与长上下文服务
Zyphra 发布 Inference Wave 2，在 MI355X 上通过投机解码与 MXFP4 量化加速 MoE 和长上下文服务。GLM-5.3 在 vLLM 基线中单请求解码提速 2.7x、32 并发提速 2.0x，分别采用 MTP（GLM-5.3、DeepSeek-V4）与 DSpark（Kimi-K3）。
vLLM 官方博客AI 评分5858 vLLM 发布 TorchTPU 后端，让 vLLM 在 Google Cloud TPU 上运行
vLLM 团队与 Inferact、Google 合作发布 vLLM TorchTPU（vllm-torchtpu），一个在 Google Cloud TPU 上运行 vLLM 的新后端插件，复用 vLLM 既有模型代码，无需改动模型定义即可部署大多数现有模型。
Databricks：BlogAI 评分4343 Hamlet 如何用 Databricks Lakebase Postgres 拿生产数据测试改动
Hamlet 借助 Databricks Lakebase Postgres 为每个 pull request 建立独立的生产数据分支，让工程师和 AI 编码智能体在不触碰生产环境的情况下用真实数据测试改动，合并仍需人工审批。Hamlet 索引全美超过 7,200 个治理机构的会议，平均每场会议约三个半小时，AI 负责定位值得关注的片段并回链视频原文。
LMSYS Blog同事件AI 评分7171 RadixArk 联合 Google 与 Meta 开源 SGLang-TorchTPU，让 SGLang 在 TPU 上原生提供 PyTorch 生产级推理
RadixArk 的 SGLang 团队与 Google、Meta 合作开源 SGLang-TorchTPU，基于 Google 的 TorchTPU 让同一 SGLang 引擎可在 GPU 和 TPU 上提供生产级服务。
同一件事，精选收录的是《Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎》
PyTorch：BlogAI 评分4141 从 KTIR 到 SpyreCode：IBM Spyre 的 MLIR 数据流后端
IBM 公布 Torch-spyre 的 MLIR 数据流后端设计：KTIR 承接 Inductor 已确定的并行划分，开源 Dataflow Scheduler 将其拆分为程序并扩展为嵌套、双缓冲、多实例的数据流流水线。
PyTorch：Blog精选AI 评分7474 Google 与 Meta 发布 TorchTPU：PyTorch 原生 TPU 后端
Google 与 Meta 联合开源 TorchTPU，为 Google TPU 提供原生 PyTorch 后端，模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行，无需 JAX 依赖。
推荐理由：原文详述架构、精度模式与多个训练推理案例，读者可据此评估把 PyTorch 工作流迁移到 TPU 的成本。
Google Developers BlogAI 评分4949 Arm 用 Google AI Edge Model Explorer 为自定义边缘编译器带来可视化图调试
Arm 基于 Google AI Edge Model Explorer 开发了 TOSA、VGF、PTE 三种开源适配器，可在模型图上直接检查边缘编译流程。借助分屏视图，Arm 对比了 Ultralytics YOLO 在 CPU 与 Arm Ethos-U85 NPU 上的图结构差异，确认算子委派与回退情况。
Hugging Face 官方团队博客AI 评分6666 Hugging Face 生态通过 TorchTPU 原生支持 TPU
Hugging Face 宣布通过 PyTorch 原生后端 TorchTPU 支持 TPU，Transformers、Diffusers 和 Kernels 可原生运行，模型加载只需 device_map="tpu"，不再需要 torch_xla 或 Optimum TPU。
Google Developers Blog精选AI 评分7070 Google 发布 TorchTitan TPU 分叉并给出模型优化 Playbook
Google 推出 TorchTitan TPU 分叉（github.com/google-pytorch/torchtitan），配合 TorchTPU 原生后端在 Cloud TPU 上训练 PyTorch 模型，提供 SimpleFSDP、Graph Trainer、Pallas 内核和优化 Playbook。
推荐理由：原文给出从基准到编译、内核、内存的完整 TPU 优化顺序，以及 FLUX.1、Qwen3 235B 等实测数字，可迁移到自己的训练工作流。
Google Developers Blog精选AI 评分7171 Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎
Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎，分别与 Inferact、RadixArk 合作开发，让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。
推荐理由：原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口，读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。
IBM Research：AI精选AI 评分6060 llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪
IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0，这是一个 Kubernetes 原生的分布式推理服务框架，支持任意模型、任意加速器和任意云。
推荐理由：原文给出 llm-d 1.0 的具体能力变化和实测成本数据，读者可据此评估自建推理基础设施是否划算。
Lovable BlogAI 评分5151 Lovable 发布十月企业功能汇总：自有云部署、EU 推理与组织治理
Lovable 发布面向企业的十月功能汇总，让大型公司能把 Lovable 应用投入生产并集中治理。
Hugging Face 官方团队博客AI 评分7070 PyTorch 2.15 的 MPS 后端大更新：FP8 上 Mac，MoE 解码提速 5-6.5 倍
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新，将 FP8（torch.float8_e4m3fn）带到 Mac，并通过 Metal 内核加速语言模型解码。
Microsoft：Official BlogAI 评分4848 Microsoft 推进数字主权：Sovereign Cloud 新增控制面板与外部密钥管理
Microsoft 在 Ignite 上公布 Sovereign Cloud 下一阶段能力，Sovereign Control Panel 进入公开预览，统一呈现主权态势并识别风险缺口。
Ollama：BlogAI 评分5656 Cloudflare 27B 多模态决策模型 Clef 上架 Ollama
Clef，一个来自 Cloudflare 的 27B 多模态决策模型，现已在 Ollama 上可用，用户可在本地或 Ollama 云端运行。Clef 基于 Qwen3.8-27B 微调，采用 Apache 2.0 许可，支持文本和图像输入，可一次性对每个问题打分而非逐词生成。
Prime IntellectAI 评分4545 prime-rl 0.10.0 发布：训练提速、新 RL 损失 IPO 与统一评测栈
Prime Intellect 发布 prime-rl v0.10.0 与 verifiers v0.4.0，新增 RL 算法 IPO 并设为默认损失。Qwen3-235B-A22B SFT 在 4×8 B300 上比 torchtitan 快 1.15×，MFU 从 40.7% 升至 46.6%。