Google Play services 中的 LiteRT 升级:GPU 推理提速 1.4 倍、应用体积减小约 8 MB
Google 宣布 Google Play services 中的 LiteRT 迎来最大升级,GPU 推理速度约为旧版 GPU delegate 的 1.4 倍,由 ML Drift 引擎驱动,并通过新的 CompiledModel API 提供。
Google 宣布 Google Play services 中的 LiteRT 迎来最大升级,GPU 推理速度约为旧版 GPU delegate 的 1.4 倍,由 ML Drift 引擎驱动,并通过新的 CompiledModel API 提供。
Apple 发布搭载 PROLED XDR 显示屏的新款 MacBook Pro,采用 tandem OLED 技术,提供最高 2000 nits 峰值亮度、10,000,000:1 对比度,并首次在 Mac 上引入 Touch 触控和 Dynamic Island。
Liquid AI 发布新一代 LFM3 模型家族,以 LFM3-1.7B-Base 为共享骨干,首批开放六个 2B 级模型(文本、视觉、音频、omni 及两个决策模型)的开放权重,可在 Hugging Face、Playground 和 Liquid AI API 获取。
推荐理由:原文给出 LFM3 各模型的具体架构、基准和端侧性能数据,读者可以据此评估小参数量多模态模型在本地方案中的可行性。
Apple 于 10 月 27 日发布搭载 M6 芯片的新 iMac,10 月 28 日开启预购,11 月 6 日发售,起价 $1,499(美国)。
Apple 发布搭载全新 M6 芯片的 14 英寸 MacBook Pro,配备 12 核 CPU 和 12 核 GPU,相比 M5 图形性能最高快 30%、端侧 AI 工作负载最高快 25%,电池续航最长 24 小时。新机支持 Wi-Fi 7 和蓝牙 6,可本地运行 LLM,10 月 28 日开启预购、11 月 6 日发售,起售价 $1,999(教育优惠 $1,899)。
推荐理由:官方发布稿给出 M6 相对 M5 和 M1 的具体性能数字、端侧 AI 能力与售价,读者可据此评估是否值得升级。
NVIDIA 在 GTC Berlin 集中展示本地 AI 硬件 lineup:RTX Spark 面向 Windows PC 个人智能体,DGX Spark 64GB 版 10 月 23 日开售并支持八机集群,DGX Station 提供 748GB 一致内存、最高 20 petaflops 性能,Windows 版 12 月推出。
Google 宣布 Coral NPU 32 位架构全部四个里程碑完成,新增 Matrix Execution Unit 可配置至 1 TOPS、目标推理平均功耗 10mW,完整 RTL 已在 GitHub 开源。
Google 发布 LiteRT Tensor API,一个轻量 C++ 模型编写层,可在 CPU、GPU(ML Drift)、NPU 上运行同一计算图,或经 XNNPACK 无需模型文件直接在 CPU 运行。
NVIDIA RTX Spark 笔记本现已开售,起售价 $2,399,来自 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI。RTX Spark 超级芯片组合 Blackwell RTX GPU 与 Grace CPU,提供最高 1 petaflop AI 算力和 128GB 统一内存,面向本地 AI、内容创作和游戏。
NVIDIA 发布面向 AI 开发的 RTX Spark 笔记本与小型台式机,基于 GB10 SoC 和最高 128GB 统一内存、1 petaflop FP4 算力,可在单机上运行本地编码智能体并完成编码、测试与部署。
NVIDIA 宣布 RTX Spark 笔记本正式开售,来自 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI,起价 $2,599。
推荐理由:原文来自 NVIDIA 官方发布,完整列出 RTX Spark 的硬件规格、AI、创作与游戏能力和首发机型,可据此评估本地 AI PC 的实际用途。
Artificial Analysis 公布 NVIDIA RTX Spark N1X 笔记本的首份 AA-AgentPerf-Local 测试结果,该机搭载 GB10 芯片(20 核 Arm CPU、6,144 核 Blackwell GPU、最高 128 GB LPDDR5X),内存带宽 300 GB/s,芯片功耗 45 至 80 W。
NVIDIA 宣布 RTX Spark PC 于次日发布,主打创作者、游戏玩家和 AI agents,并在10月16日于旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办线下体验活动。
NVIDIA 发布开源 120B 参数多模态模型 Nemotron 3.5 Super VL,面向高频智能体任务,官方称其准确率可比自家最大推理模型、参数量约为五分之一,吞吐比同类次优模型快至 5 倍;同时推出边缘模型 Bolt 74B-A9B 24GB(原生 2-bit 量化,可本地运行于 RTX/DGX Spark)和 Bolt E4B 4GB(10 月 23 日上线)。
推荐理由:原文给出三款开放模型各自针对的部署层级和量化、训练数据规模,读者可据此判断哪一档适合自家智能体场景。
Black Forest Labs 发布 5.6B 参数开源权重模型 FLUX 3 Image Klein,支持文生图、图像编辑和最多 10 张参考图的多参考生成,采用 FLUX Kommunity License。
推荐理由:官方公布了参数规模、显存门槛、生成速度和评测对比,读者可以评估它在本地部署与微调场景中的适配性。
PyTorch 官方与 Arm 合作宣布 ExecuTorch 的 Cortex-M 后端,使 PyTorch 模型无需转换为其他框架格式即可直接运行在 Arm Cortex-M CPU 上,并利用 CMSIS-NN 加速,单一工作流支持 Scalar、DSP 和 MVE/Helium 全部能力层级。
Apple 发布折叠屏 iPhone Duo,展开后是迄今最薄的 iPhone,内屏比 iPhone 18 Pro Max 大 50%(对角 7.58 英寸),合上时外屏 5.4 英寸(对角 5.36 英寸)提供 iPhone 18 Pro 约 90% 的屏幕面积。
Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,总参数 24B、每 token 激活 2B,定位端侧快速智能体。
推荐理由:原文给出完整基准对比、端侧推理速度和开源权重入口,读者可据此评估该模型在本地智能体场景的适用性。
Apple 发布 Apple Home Collection 智能家居配件系列,包括室内外摄像头、智能恒温器、温度传感器、视频门铃和智能门锁,与 LG Electronics 和 Schneider Electric 合作设计,全部通过 Apple Home app 管理并端到端加密。
NVIDIA 官宣 RTX Spark 笔记本将于 10 月 16 日发售,配合发布推出覆盖 Agent、创意和开发工具的软件更新,该超芯片具备最高 128GB 统一内存和 1 petaflop AI 算力。
推荐理由:官方汇总了 RTX Spark 上市前的软件生态准备,从本地 Agent、创意应用到开发工具和 DLSS 5,读者可据此了解平台落地细节。
Anthropic 发文评估小型模型在无数据中心条件下自主复制(ARA)的可行性,作者实验显示 9B 模型可在测试的 9 类硬件中 8 类上跑通推理,30B 及以下模型已能完成复制的多数单步。
推荐理由:Anthropic 用自购的 15 台廉价电视盒实测小模型分布式推理与复制链路,读者可据此评估 AI 蠕虫这类威胁的近期可行性。
Google AI Edge 团队以 Apache 2.0 许可开源 ML Drift,一个跨平台端侧 GPU 推理计算引擎,作为 LiteRT 的核心 GPU 加速层。
推荐理由:原文给出跨平台 GPU 推理引擎的架构升级、性能数据和生产落地案例,端侧 AI 开发者可据此评估迁移路径。
NVIDIA 与 Microsoft 在旧金山活动上宣布为 Windows PC 共同打造 AI Agent 软硬件。
推荐理由:原文给出 RTX Spark 的具体规格、预购时间与 MXC 的系统级细节,读者可据此评估本地跑 Agent 的硬件路线。
Liquid AI 发布开源权重决策模型 d1-3B 和 d1-omni-600M,已在 Hugging Face 上提供。
推荐理由:官方公开了模型架构、训练细节和各硬件延迟数据,读者可以据此评估小参数决策模型在边缘部署中的取舍。
Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构,以 Apache 2.0 许可开源,将文本、代码、图像、视频和音频映射到统一嵌入空间。
推荐理由:官方发布给出参数量、内存占用、维度裁剪和基准分数等具体细节,读者可据此评估端侧多模态嵌入方案的可行性。
Google DeepMind 于 10 月 6 日发布开放权重的多模态嵌入模型 EmbeddingGemma 2,将文本、图像、视频帧和音频映射到统一向量空间,参数量 740M。
推荐理由:原文给出内存占用、延迟和多种开发入口的具体数据,读者可以据此评估在本地多模态检索场景的落地方式。
NVIDIA 宣布 DGX Spark 推出 64GB 统一内存新配置,10 月 23 日起由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发售,起步价 $4,999,支持最高 1000 亿参数模型在端侧运行。
推荐理由:官方公告给出64GB版的价格、上市时间和双机集群性能数据,读者可以据此评估本地AI部署的内存与成本取舍。
Artificial Analysis 发布开源工具 AA-AgentPerf-Local,通过重放 8 个真实智能体任务(168 轮、上下文增长至约 56K tokens)测试本地推理性能,并上线笔记本与工作站排行榜。
推荐理由:原文给出四种桌面级硬件和四个模型的智能体推理实测结果与全部开源配置,可帮读者在搭建本地 agent 前做选型比较。
Ollama 0.35 通过新 /v1/systemone 端点支持基于 TypeSafe Jev API 的决策模型,可在本地一次请求回答多个命名问题,适合工单分诊、模型路由和内容审核等快速决策任务。
推荐理由:官方宣布本地运行决策模型,给出延迟数据和 API 用法,可帮助读者评估本地快速决策场景的可行性。
Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark drafter 模型,参数约 280M,仅增加 8.9% 参数量。GPU 上解码吞吐最高提升 2.66 倍、边缘设备 3.13 倍,端到端分别最高 2.27 倍和 2.62 倍;模型已上架 Hugging Face,支持 llama.cpp、SGLang 和 MLX-VLM。
Google 宣布 Antigravity SDK 支持本地工作流,首发支持通过 Google AI Edge 的 LiteRT 运行 Gemma 4 26B A4B,可完全离线获得智能体辅助能力,建议机器配备超过 24GB VRAM 或统一内存。
推荐理由:官方给出完整的本地模型接入步骤和混合编排示例,开发者可以直接照此把智能体工作流搬到离线环境。
vLLM 官方发布 vllm-metal v0.28.0,把 vLLM 的 V1 调度器、paged KV cache 和 OpenAI 兼容服务器带到 Apple Silicon,由 MLX 和 Metal 执行模型,版本号与上游 vLLM 对齐。
推荐理由:官方首次发布 vllm-metal,用 packed varlen attention 和 paged KV 解决 Mac 上并发请求的服务问题,并给出可复现的并发基准数据。
Meta 在 Connect 上发布首款音频眼镜 Ray-Ban Meta Audio,重 43 克,预售价 349 美元起,10 月 13 日发货,单次充电可用 12 小时。
推荐理由:官方在 Connect 上同时扩充多价位与多款式 AI 眼镜产品线,给出了各款定价、续航和新市场名单,方便对照选购与产品节奏。
Apple 宣布新款 Mac mini 和 Mac Studio 于 9 月 22 日开售。Mac mini 搭载 M6 和 M5 Pro,AI 性能最高提升 4 倍。
推荐理由:官方发布文给出了完整芯片规格、AI 性能倍数和定价,读者可据此评估新桌面机对本地 AI 工作流的适配度。
Apple 发布新一代 Apple Intelligence,推出全面重构的 Siri AI,支持个人语境理解、屏幕感知、系统级应用操作和跨设备对话,今日起以英文测试版随 2027 系统更新推出,下月扩展至法语、日语、韩语、葡萄牙语和西班牙语。
推荐理由:官方公告完整列出 Siri AI 的能力清单、设备与语言范围,以及欧盟和中国市场暂不可用等限制,读者可据此评估适用性。
Perplexity 在兼容的 NVIDIA GeForce RTX PC 和 RTX PRO Workstation 上推出 Windows 版 Portable Computer,这是 Perplexity Computer 的本地版本,可规划并执行多步任务,敏感数据留在设备上且本地任务不消耗云端 credits。
Apple 发布首款折叠屏 iPhone Duo,展开为 7.6 英寸内屏,合盖后为 5.4 英寸外屏,提供 iPhone 上最大显示面积。搭载 A20 Pro 芯片和蒸汽室散热,iPhone 17 Pro 续航最高 44 小时视频播放,10 月 16 日开启预购、10 月 23 日发售,起售价 $1,999。
推荐理由:官方完整披露了屏幕、铰链、A20 Pro、续航与售价等参数,读者可据此评估这款折叠 iPhone 的实际取舍。
Apple 发布 iPhone 18 Pro 和 iPhone 18 Pro Max,配备带可变光圈的 48MP Fusion 主摄、A20 Pro 芯片和新一代 vapor chamber,eSIM 版 iPhone 18 Pro Max 视频播放最长可达 45 小时。
推荐理由:官方发布稿给出了可变光圈相机、A20 Pro 和电池续航的具体规格与售价,读者可以据此了解这代 Pro 机型的主要变化。
Apple 发布 Apple Watch Ultra 4,采用新 Health Sensing System 和 S11 趕片,称实现可穿戴设备中最准确的心率监测,HRV 测量频率最高提升 24 倍,并新增 0-10 分 readiness 评分。
Apple 发布全新健康与健身功能,Apple Watch Series 12 和 Apple Watch Ultra 4 引入 Health Sensing System,支持每 5 秒测心率、HRV 测量频率提升至 24 倍、每日 0-10 的 readiness 评分。
推荐理由:官方发布列出心率监测频率、readiness 评分和 Health app 各新标签的具体能力,读者可据此评估对自身健康管理的可用性。