Liquid AI 发布 LFM2.5-24B-A2B:面向端侧 Agent 的 2B 激活 MoE 推理模型
Liquid AI 发布开源权重推理模型 LFM2.5-24B-A2B,总参数 24B、每 token 激活约 2.45B,上下文 131,072 tokens,专为笔记本和迷你 PC 上的多步工具调用 Agent 设计,在 Apple M5 Max 上通过 llama.cpp Q4_K_M 达到 184 tok/s。
Liquid AI 发布开源权重推理模型 LFM2.5-24B-A2B,总参数 24B、每 token 激活约 2.45B,上下文 131,072 tokens,专为笔记本和迷你 PC 上的多步工具调用 Agent 设计,在 Apple M5 Max 上通过 llama.cpp Q4_K_M 达到 184 tok/s。
苹果 iPhone Duo 折叠屏国行版(型号 A3721)9 月 29 日换证,新增三个大模型备案编号:Apple 智能、通义万相、通义千问。阿里称千问将作为 AI 能力集成至 Apple 智能,为 iOS、iPadOS、macOS 和 visionOS 中国用户提供文本与图像理解、内容生成等能力。该机国行 10 月 16 日晚 8 点开启预购,10 月 23 日发售,15999 元起。
🚀 Tiny model, big test: MiniCPM-V 4.7 1B, hands-on 📱 A one billion parameter vision model that fits on a phone 🔹 Installed the GGUF with llama.cpp and Ollama 🔹 Read an analog clock from a photo 🔹 Turned that clock photo into working HTML code 🔹 Solved a quadratic from a school math sheet 🔹 Handwriting translation across dozens of languages 🔹 Funny scene test: spotting body language and backstory 🔥 Honest results, wins and fails, in the full video below 👇 https://youtu.be/40FXBcRz4_k?si=UGnvZNh0AN5f4aDL @OpenBMB
Anthropic Frontier Red Team 研究警告,小型 AI 模型可能距在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上自我复制只差数月。
Liquid AI 发布开源权重推理模型 LFM2.5-24B-A2B,总参数 24B、每 token 仅 2B 激活,专为在设备上快速、私密地运行智能体设计。
Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,总参数 24B、每 token 激活 2B,定位端侧快速智能体。
推荐理由:原文给出完整基准对比、端侧推理速度和开源权重入口,读者可据此评估该模型在本地智能体场景的适用性。
OpenBMB(面壁智能)发布 MiniCPM-V 4.7,35B-A3B MoE 多模态模型在手机上仅需 3GB 内存运行,可识读现实场景标识、按约束规划、解析复杂文档并对视觉数据进行推理。
Apple 发布 Apple Home Collection 智能家居配件系列,包括室内外摄像头、智能恒温器、温度传感器、视频门铃和智能门锁,与 LG Electronics 和 Schneider Electric 合作设计,全部通过 Apple Home app 管理并端到端加密。
阶跃终端 10 月 13 日发布首款大模型原生智能体手机 STEPX Neo 先行版,搭载骁龙 8 系芯片,16GB+256GB 规格,全栈价(含手机、StepAOS+Step Studio、Step 系列模型)3999 元,10 月 16 日 10:13 首销。
NVIDIA 官宣 RTX Spark 笔记本将于 10 月 16 日发售,配合发布推出覆盖 Agent、创意和开发工具的软件更新,该超芯片具备最高 128GB 统一内存和 1 petaflop AI 算力。
推荐理由:官方汇总了 RTX Spark 上市前的软件生态准备,从本地 Agent、创意应用到开发工具和 DLSS 5,读者可据此了解平台落地细节。
面壁智能联合 OpenBMB 社区于10月13日发布并开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,称其为全球首个可在端侧无损流畅运行的开源 MoE 多模态大模型。
推荐理由:原文详解了 LES 专家调度、权重布局优化和视觉 token 压缩等技术细节,读者可以了解 MoE 模型在 3GB 内存端侧设备上的实现路径。
千问发布三款硬件新品:AI眼镜N1、N1 Pro和AI耳夹式耳机,今日在淘宝、天猫、京东、抖音等平台现货开售,眼镜到手价2218元起,耳机1099元起。
推荐理由:官方发布三款AI穿戴硬件,原文给出具体功能差异与到手价格,读者可据此判断是否值得入手。
Let's start the week with MiniCPM V4.7 from @OpenBMB 🔥 ✨ 35B-A3B: On-device MoE - 35B/ 3B active ⚡️ - 13+ tok/s on iPhone 17 Pro Max with ~3GB RAM - Outperforms Qwen3.6 35B-A3B in overall score AND inference time ✨1B: Ultra-lightweight VLM - Outperforms Qwen3.5 0.8B in BOTH performance & efficiency ✨ Both support: - Image, multi-image & video understanding - Efficient 4×/16× visual token compression - iOS, Android & HarmonyOS - Apache 2.0
面壁智能于 10 月 13 日推出端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是该系列首个 MoE 模型,基于 LES 推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度。
Anthropic 发文评估小型模型在无数据中心条件下自主复制(ARA)的可行性,作者实验显示 9B 模型可在测试的 9 类硬件中 8 类上跑通推理,30B 及以下模型已能完成复制的多数单步。
推荐理由:Anthropic 用自购的 15 台廉价电视盒实测小模型分布式推理与复制链路,读者可据此评估 AI 蠕虫这类威胁的近期可行性。
面壁智能 OpenBMB 发布开源多模态模型系列 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个型号。
AMD 发布基于锐龙 AI Max+ PRO 495 处理器的新一代锐龙 AI Halo 开发者平台,CPU、GPU、NPU 性能相比初代均有改进。
The Verge 作者在 256GB 统一内存的 M5 Ultra Mac Studio 上安装开源自托管智能体应用 Hermes Agent,搭配约 105GB 的 1250 亿参数 Qwen 3.8 Flash Next 模型开始尝试本地 AI。
Qualcomm CEO reveals AI companies want phones running 100-billion-parameter models continuously by 2028--and confirms some are building phones Cristiano Amon: “I have to be careful not to disclose names, but some AI companies—some of the companies at the forefront of AI—are telling Qualcomm, ‘By 2028, I need to make sure that I have the ability to run at least a 100-billion-parameter model in a phone, and I need to have this thing running kind of all the time.’” Alex Heath: “So you’re saying there are AI companies that are talking about—” Cristiano Amon: “Well, AI companies are starting to do phones.”
Underdog AI 发布 Saluki 27B 模型,这是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小 7.89 GB。
Conway Research 旗下 Underdog 以 Apache 2.0 发布 Saluki 27B,一个 2-bit 混合精度 GGUF 量化版 Qwen3.8-27B,文件从 54 GB 压到 7.89 GB,可在原版 llama.cpp 运行。
在 iPhone Air 上跑到 37 tok/s,太猛了。🚀 这正是小而强的开源模型大放异彩的地方:无需云端 GPU 就能拥有强大的多模态智能。很高兴看到 MiniCPM5-2B 在移动端流畅运行。
Running MiniCPM5 from @OpenBMB on iPhone Air at 37 tok/s. One of the best open models at 2B parameters, now available in the NobodyWho Chat app.
Liquid AI 于 10 月 7 日发布博文,推出开放权重决策模型 d1-3B(31.2 亿参数,支持文本与图像输入)和 d1-omni-600M(5.87 亿参数,支持文本、图像及语音输入),已在 Hugging Face 公开,可下载、微调并部署。
Google AI Edge 团队以 Apache 2.0 许可开源 ML Drift,一个跨平台端侧 GPU 推理计算引擎,作为 LiteRT 的核心 GPU 加速层。
推荐理由:原文给出跨平台 GPU 推理引擎的架构升级、性能数据和生产落地案例,端侧 AI 开发者可据此评估迁移路径。
Google 发布实验性笔记应用 Google AI Edge Foresight,可在 macOS 上完全离线转录会议和音频文件,免费使用,基于端侧 EmbeddingGemma 2 模型。应用可总结会议、把会议中记的简短要点变成完整笔记,内置助手可结合本地文件回答问题,并称文件、会议音频和笔记不会离开用户的电脑。目前仅针对 Apple Silicon 的 Mac 优化。
Natura 发布售价 99 美元的智能戒指 Interface,按下即可调用 AI 智能体完成任务、记录想法,并支持 Meta Muse、Instinct、Grokbot、Claude、ChatGPT 等。戒指同时追踪心率、HRV、睡眠与活动,续航 6 至 12 天,下月开启预售,12 月或 1 月发货,初期免费 3 至 6 个月后收取每月 9 美元订阅费。
Google 同一团队发布 AI 会议笔记应用 Google AI Edge Foresight,基于设备端 EmbeddingGemma 2(740M 参数)可在 Mac 上完全离线运行,并支持跨应用捕捉会议记录。
微软在两年来的首场线下活动上发布 Surface Laptop Ultra,这是首款采用 Nvidia RTX Spark SoC 的产品,起售价 $2,599,10 月 16 日发货,现已开启预订。
微软在旧金山发布会宣布,GitHub Copilot 将于本月底前支持本地 AI 模型推理,开发者可在云端模型与设备端模型之间自动或手动切换,设置覆盖 GitHub Copilot CLI、Copilot 应用与 Visual Studio Code。
Microsoft 在旧金山 Tech Week 活动上发布搭载 Nvidia RTX Spark 芯片的 Surface Laptop Ultra,两款基础型号售价分别为 2600 美元和 3700 美元。
Today marks a new chapter for Windows, as we bring unmetered intelligence to every desk and every home, and make every PC a place where agents can work securely on your behalf. Some highlights of what we announced: • MAI-Code-1.1 Flash: 137B parameter coding model w/ 256K context window, which is now optimized to run on your PC! • GitHub Copilot now hands off work to local models like MAI-Code-1.1 Flash, helping projects cost a lot less without sacrificing quality. • With Hybrid Intelligence, Copilot can now take action directly on the PC and keep sensitive work on your device. • And with Code in Copilot, you can essentially build any software you need on your desktop, without any cloud token spend, and it’s just super at it. You’re no longer limited to what’s in an app store! Your PC becomes an infinite software factory. • Security is foundational to all this, which is why we are also bringing together Windows and Agent 365 so agents can work within secure boundaries on-device, including MXC a local sandbox for agent execution. Windows becomes your secure agent box! • All this comes to life on a new generation of devices, like Surface Laptop Ultra, powered by NVIDIA RTX Spark. Can’t wait to see what you build with all this.
Liquid AI 发布 Open d1 系列两款开源权重多模态决策模型,单次前向返回校准概率答案,output_tokens 为 0。
NVIDIA 与 Microsoft 在旧金山活动上宣布为 Windows PC 共同打造 AI Agent 软硬件。
推荐理由:原文给出 RTX Spark 的具体规格、预购时间与 MXC 的系统级细节,读者可据此评估本地跑 Agent 的硬件路线。
微软面向开发者的 AI 迷你主机 Surface RTX Spark Dev Box 开启预售,11 月发货,售价 5,999 美元。
很高兴看到 llama.cpp 出现在今天 Windows 活动的大舞台上! 软件和硬件栈终于走到了一起。我们的社区在过去几年里付出了大量努力,这一切都得到了体现。 期待更多用户拥抱本地 AI。
Liquid AI 在 Hugging Face 发布两款开放权重 d1 决策模型:d1-3B 和实验性的 d1-omni-600M。