#端侧

Liquid AI 发布首个视觉语言模型系列 LFM2-VL，含 450M 与 1.6B 两个版本

Liquid AI 发布 LFM2-VL，是其首个视觉语言基础模型系列，含 LFM2-VL-450M 和 LFM2-VL-1.6B 两个开放权重版本，面向手机、笔记本、可穿戴等资源受限设备的低延迟部署。

如何用 LM Studio 在本地运行 gpt-oss

OpenAI 发布 Cookbook 教程，讲解如何在本地硬件上用 LM Studio 运行 gpt-oss。LM Studio 是一款在本地硬件运行大语言模型的桌面应用，教程将引导用户完成本地运行 gpt-oss 的步骤。

Jim Fan@DrJimFan· 01:03精选

Qwen发布4B参数模型Qwen3-4B-Instruct-2507与Thinking-2507，支持256K上下文，分指令与推理双版本。作者指出这验证了"推理核心假设"：推理仅需基础语言能力，无需千亿参数知识库，契合轻量级LLM OS理念——最小化模型体积，最大化依赖工具调用与知识检索。

如何用 Ollama 在本地运行 gpt-oss

OpenAI 开发者发布教程，讲解如何用 Ollama 在本地硬件上部署 gpt-oss-20b 或 gpt-oss-120b 并选择合适的推理设置。

Liquid AI 与 .txt 合作：用 LFM2-350M 加 dotgrammar 在端侧实现可靠函数调用

Liquid AI 与 .txt 展示如何用 LFM2-350M 和 dotgrammar 在端侧设备实现可靠的 LLM 函数调用。LFM2-350M 量化前内存低于 1 GB，常见边缘硬件上推理低于 100ms；dotgrammar 用上下文无关文法（CFG）约束输出，保证语法合法且不增加推理延迟。

Liquid AI 发布 LEAP 边缘 AI 平台和 Liquid Apollo 本地 AI 应用

Liquid AI 发布 LEAP（Liquid Edge AI Platform）开发者平台和 Liquid Apollo iOS 应用，用于在手机上本地运行小语言模型。

Liquid AI 发布端侧基础模型 LFM2，含 0.35B/0.7B/1.2B 三个规格

Liquid AI 发布新一代基础模型 LFM2，主打端侧部署，在 CPU 上解码与 prefill 速度最高达 Qwen3 的 2 倍，训练效率较上一代提升 3 倍。

Gemma 3n 开源生态全面可用，发布 E2B 和 E4B 两种尺寸

Gemma 3n 在 transformers、timm、MLX、llama.cpp、Transformers.js、Ollama 和 Google AI Edge 等开源库中全面可用，发布 gemma-3n-E2B 和 gemma-3n-E4B 两个尺寸，各有 base 与 instruct 变体。

Gemini Robotics On-Device 将 AI 引入本地机器人设备

Gemini Robotics On-Device 推出高效端侧机器人模型，具备通用灵巧操作与快速任务适应能力，支持本地设备直接部署运行。

Gemma 3n 预览版发布：强大、高效、移动优先的 AI

Gemma 3n 预览版发布，专为移动设备优化的开源多模态模型。采用 2-in-1 架构，支持音频理解，适用于实时交互和音频中心应用开发。

TII 发布 Falcon-Edge 系列 1.58bit BitNet 语言模型，含 1B 和 3B 两种规格

TII 的 Falcon-Edge 系列基于 BitNet 架构，以三值权重 {-1, 0, 1} 直接预训练，提供 1B 和 3B 两种参数规格，各含 base 和 instruct 版本，模型在约 1.5 Tera Tokens 的内部数据混合上预训练。

Mistral 发布 Mistral Small 3.1，Apache 2.0 开源并支持 128k 上下文

Mistral AI 发布 Mistral Small 3.1，称其在同类权重模型中优于 Gemma 3 和 GPT-4o Mini，推理速度达 150 tokens 每秒，上下文窗口扩展至 128k tokens，并以 Apache 2.0 许可证开源。

Sakana AI 提出 TAID 知识蒸馏新方法，打造 1.5B 日语小模型 TinySwallow

Sakana AI 提出 TAID（Temporally Adaptive Interpolated Distillation）知识蒸馏方法，通过随学生模型学习进度动态调整的"中间教师"实现从 LLM 到 SLM 的高效知识迁移，该论文已被 ICLR 2025 接收为 Spotlight。

Sakana AI 发布 TinySwallow-1.5B：用 TAID 蒸馏的日语小模型

Sakana AI 发布日语小语言模型 TinySwallow-1.5B，采用新知识蒸馏方法 TAID，从 32B 参数 LLM 向 1.5B 参数 SLM 迁移知识，在同规模模型中取得最高日语基准分数。

Liquid AI 发布 7.7B 非 Transformer 架构模型 LFM7B，主打低内存与多语言

Liquid AI 发布 LFM7B（7.7B 参数），采用非 Transformer 的 Liquid Foundation Model 架构，官方称在 7B-8B 同级模型中聊天表现领先，支持英语、阿拉伯语、日语等 8 种语言。

DeepSeek 官方 App 正式发布，iOS/Android 各应用市场均已上线

DeepSeek 推出官方移动端 App，目前已在 iOS 和 Android 各大应用商店上架。该 App 由 DeepSeek-V3 模型驱动，面向所有用户免费开放使用，用户可通过官网或应用市场直接下载。

DeepSeek@deepseek_ai· 20:22精选

🎉 DeepSeek-VL2 来了！我们的下一代视觉-语言模型进入 MoE 时代。 🤖 DeepSeek-MoE 架构 + 动态图像分块 ⚡ 3B/16B/27B 规模，灵活使用 🏆 在所有基准测试中表现优异 🧵 1/n https://t.co/C7FvQ7p0ym

Mistral AI 发布 Ministral 3B 和 Ministral 8B 端侧模型

Mistral AI 发布面向端侧和边缘场景的两款模型 Ministral 3B 与 Ministral 8B，称其在 10B 以下级别创下知识、常识、推理、function-calling 和效率的新前沿。

Liquid AI 发布首批 Liquid Foundation Models：LFM-1B/3B/40B

Liquid AI 发布第一代 Liquid Foundation Models（LFM），包含 1.3B、3.1B 和 40.3B MoE（激活参数 12B）三个语言模型，官方称在各规模上取得同级领先质量。

Zyphra 开源 Zamba2-small 2.7B 端侧小模型

Zyphra 发布开源（Apache 2.0）端侧小模型 Zamba2-small（2.7B），称在相近规模模型中达到 SOTA 评测表现。该模型采用 Mamba2 与两个共享注意力块混合的架构，并在共享 MLP 上加 LoRA 投影；相比 Phi3-3.8B 实现约 2 倍首 token 速度、27% 内存开销降低和 1.29 倍生成延迟降低。

用 LlamaIndex 和 llamafile 搭建本地私有研究助手

LlamaIndex 发布 Mozilla 客座教程，讲解用 llamafile 在笔记本上本地运行 LLM，并以 TinyLlama-1.1B 作为 LLM 与嵌入后端，结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。

LlamaIndex 教程：用 Ollama 本地运行 Mixtral 8x7b 并构建 RAG 应用

LlamaIndex 发布教程，讲解如何用 Ollama 在本地运行 Mixtral 8x7b 并结合 LlamaIndex 使用。Mixtral 是 Mistral AI 发布的八专家混合模型，各含 7B 参数，博客称其在多项基准上匹敌或超过 GPT-3.5 和 Llama2 70b。

Hugging Face 讲解如何在 iPhone、iPad 和 Mac 上用 Core ML 加速 Stable Diffusion

Hugging Face 发布博客，介绍如何在 iPhone、iPad 和 Mac 上使用 Core ML 加速运行 Stable Diffusion。正文抓取失败，仅标题可用，更多细节以原文链接为准：https://huggingface.co/blog/fast-diffusers-coreml

如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion

Hugging Face 与 Apple 合作，将 Stable Diffusion v1.4、v1.5、v2 base、v2.1 base 转换为 Core ML 版本并发布在 Hugging Face Hub，可在 Apple Silicon 的 CPU、GPU 和 Neural Engine 上运行。