跳到正文
10月28日周三
  1. OpenBMB55

    OpenBMB 转发并感谢 @atomic_chat_hq 的演示:该演示在 M5 Max MacBook 上本地运行 MiniCPM-OCR 1.0,处理 Anthropic S-1 文件全部 415 页,1.2GB 模型约每页 4 秒,数据全程不离开设备。GGUF 权重已发布在 huggingface.co/AtomicChat/MiniCPM-OCR-1.0-GGUF。

    引用atomic.chat@atomic_chat_hq

    A 1.2GB model on a Mac read Anthropic's whole IPO 📄 @OpenBMB MiniCPM-OCR 1.0 went through all 415 pages of Anthropic's S-1 on an M5 Max MacBook at about 4 seconds a page and nothing ever left the laptop GGUFs -> https://huggingface.co/AtomicChat/MiniCPM-OCR-1.0-GGUF

  2. Rohan Paul62

    Liquid AI 发布新一代开源权重模型家族 LFM3,1.7B 文本模型表现超越其前代 2.6B 模型。性能提升来自 tri-hybrid 架构,24 层中 13 层为短卷积、5 层用 256-token 滑窗注意力、6 层全局注意力;官方称 LFM3-VL-2B 可与参数量大 6 倍的 Gemma 4 12B 竞争,作者引用的数据称 1.7B 模型在 AutomationBench 得分 41.29,高于 Qwen3.5-9B 的 15.10。

    引用Liquid AI@liquidai

    Introducing 𝙻𝙵𝙼𝟹: our new generation of Liquid Foundation Models. With a new tri-hybrid architecture and new multimodal encoders, the LFM3 family is the ideal model suite for specialized intelligence. > 6 model instances, across text, audio, vision, and omni modalities, generative and decision models. > 𝙻𝙵𝙼𝟹-𝟷.𝟽𝙱: text, 256k context window. > 𝙻𝙵𝙼𝟹-𝚅𝙻-𝟸𝙱: vision-language model with video-input support for spatial understanding > 𝙻𝙵𝙼𝟹-𝙰𝚞𝚍𝚒𝚘-𝟸𝙱: tool calls, voice chat, reasoning in 18 languages. > 𝙻𝙵𝙼𝟹-𝙾𝚖𝚗𝚒-𝟸𝙱: an omni model combines vision, audio, and language. > 𝚍𝟷-𝟸𝙱 and 𝚍𝟷-𝙾𝚖𝚗𝚒-𝟸𝙱: decision models with typed outputs and calibrated probabilities in a single pass. Omni adds audio input. > fine-tune on 1 GPU. > a new tri-hybrid architecture > architecture optimized for 14 processor classes across GPUs, CPUs, and NPUs. > 𝙻𝙵𝙼𝟹-𝚅𝙻-𝟸𝙱 is a beast. It performs competitively with Gemma 4 12B (6x larger), and Gemini 3.5 Flash Lite, and GPT-5.6 Luna, with 1.9B parameters. > 𝙻𝙵𝙼𝟹-𝟷.𝟽𝙱 is #1 on the Pareto frontier of device intelligence 𝚙𝚒𝚙𝚎𝚝𝚝𝚎.𝚕𝚒𝚚𝚞𝚒𝚍.𝚊𝚒 Every modality for specialized intelligence. Pick the one that fits your use case, customize it, and run it on-device. 1/ 🧵

  3. Liquid AI 模型与工程博客68

    Liquid AI 发布 LFM3 多模态开源权重模型家族,2B 级覆盖文本、视觉、音频、omni 和决策模型

    Liquid AI 发布新一代 LFM3 模型家族,以 LFM3-1.7B-Base 为共享骨干,首批开放六个 2B 级模型(文本、视觉、音频、omni 及两个决策模型)的开放权重,可在 Hugging Face、Playground 和 Liquid AI API 获取。

    推荐理由:原文给出 LFM3 各模型的具体架构、基准和端侧性能数据,读者可以据此评估小参数量多模态模型在本地方案中的可行性。

10月25日周日
10月24日周六
10月22日周四
  1. IT之家·人工智能66

    讯飞星火 X2.6 端云一体大模型发布,首次基于全国产算力实现代码和智能体能力突破

    科大讯飞在全球 1024 开发者节发布讯飞星火 X2.6 端云一体大模型,宣称首次基于全国产算力实现代码和智能体能力突破。模型采用 293B-A30B 参数的 MoE 架构,上下文长度拓展至 1M,输入限时 0.9 元/百万 tokens,输出限时 3.6 元/百万 tokens;同时开源星火 X2.6-4B 端侧模型,新增三档推理模式,推理定价限时免费。

  2. Rohan Paul64

    Recursive 发布首个模型 Flint,一个 40B MoE 本地编码模型,由其自动化研究系统 Eureka Machine 构建,从零开始用时不到 4 个月,权重以 Apache 2.0 开放。

    引用Richard Socher@RichardSocher

    Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.

10月20日周二
10月19日周一
10月18日周日
  1. Aravind Srinivas40

    Perplexity Decider Flash 相当不错,运行速度极快,还能在你的 M4 Mac 16GB 上端侧运行。

    引用Wolfram Ravenwolf@WolframRvnwlf

    Perplexity Flash takes the crown! ⚡ In our tests, it matched Wald's accuracy at nearly twice the speed on a 16 GB Mac mini. Synthetic agent decisions, real email threads, prompt injections: see why Flash is our new pick for email-completion checks. 👇 https://x.com/i/article/2111461650440110080

10月17日周六
10月16日周五
10月15日周四
  1. NVIDIA Blog71

    NVIDIA 发布开源 Nemotron 3.5 Super VL 及 Bolt 两款边缘模型

    NVIDIA 发布开源 120B 参数多模态模型 Nemotron 3.5 Super VL,面向高频智能体任务,官方称其准确率可比自家最大推理模型、参数量约为五分之一,吞吐比同类次优模型快至 5 倍;同时推出边缘模型 Bolt 74B-A9B 24GB(原生 2-bit 量化,可本地运行于 RTX/DGX Spark)和 Bolt E4B 4GB(10 月 23 日上线)。

    推荐理由:原文给出三款开放模型各自针对的部署层级和量化、训练数据规模,读者可据此判断哪一档适合自家智能体场景。

  2. Black Forest Labs:Blog77

    Black Forest Labs 发布开源文生图模型 FLUX 3 Image Klein(5.6B)

    Black Forest Labs 发布 5.6B 参数开源权重模型 FLUX 3 Image Klein,支持文生图、图像编辑和最多 10 张参考图的多参考生成,采用 FLUX Kommunity License。

    推荐理由:官方公布了参数规模、显存门槛、生成速度和评测对比,读者可以评估它在本地部署与微调场景中的适配性。

  3. OpenBMB60

    面壁智能 MiniCPM-V 4.7 已在 ModelScope 开源,是 35B-A3B 的 MoE 多模态模型,采用 Apache 2.0 协议。官方称其可在 iPhone 17 Pro Max 上以 13+ tokens/s 流畅运行端侧无损推理,Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短;支持 4x/16x 视觉 token 压缩,提供 35B-A3B 和 1B 两种规格及 FP8、GPTQ、AWQ、BNB、GGUF 变体,兼容 SGLang、vLLM、llama.cpp、Ollama、SWIFT 和 LLaMA-Factory,可运行于 iOS、Android 和 HarmonyOS,并支持 Rockchip、Houmo、Intel、AMD、Arm 的 day-0 适配。

    引用ModelScope@ModelScope2022

    MiniCPM-V 4.7 is now open source on ModelScope: a 35B-A3B MoE multimodal model built to run on-device without compromising performance. Apache 2.0. 🤖 https://modelscope.ai/collections/OpenBMB/MiniCPM-V-47 📱 First open-source MoE with smooth, lossless on-device inference, running at 13+ tokens/s on iPhone 17 Pro Max. 🔥 New Pareto frontier: in Instruct mode, it reaches a higher overall score in less inference time than Qwen3.6 35B-A3B. ⚡ Mixed 4x/16x visual token compression lets developers balance visual detail and inference cost per task. 🛠️ Two sizes (35B-A3B and 1B) with FP8, GPTQ, AWQ, BNB, and GGUF variants. Works with SGLang, vLLM, llama.cpp, Ollama, SWIFT, and LLaMA-Factory. 💻 Runs on iOS, Android, and HarmonyOS, with day-0 support for Rockchip, Houmo, Intel, AMD, and Arm.

10月14日周三
  1. Liquid AI 模型与工程博客63

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,总参数 24B、每 token 激活 2B,定位端侧快速智能体。

    推荐理由:原文给出完整基准对比、端侧推理速度和开源权重入口,读者可据此评估该模型在本地智能体场景的适用性。

10月13日周二
  1. 公众号:面壁智能68

    面壁智能开源 MiniCPM-V 4.7,35B-A3B MoE 模型 3GB 内存端侧流畅运行

    面壁智能联合 OpenBMB 社区于10月13日发布并开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,称其为全球首个可在端侧无损流畅运行的开源 MoE 多模态大模型。

    推荐理由:原文详解了 LES 专家调度、权重布局优化和视觉 token 压缩等技术细节,读者可以了解 MoE 模型在 3GB 内存端侧设备上的实现路径。

  2. OpenBMB59

    面壁智能 OpenBMB 转发社区分享,介绍 MiniCPM V4.7:35B-A3B 端侧 MoE 版在 iPhone 17 Pro Max 上以约 3GB 内存达到 13+ tok/s,综合得分和推理时间优于 Qwen3.6 35B-A3B。1B 轻量 VLM 在性能和效率上均优于 Qwen3.5 0.8B;两版本支持图像、多图与视频理解,4×/16× 视觉 token 压缩,覆盖 iOS、Android 与 HarmonyOS,采用 Apache 2.0 协议。

    引用Adina Yakup@AdinaYakup

    Let's start the week with MiniCPM V4.7 from @OpenBMB 🔥 ✨ 35B-A3B: On-device MoE - 35B/ 3B active ⚡️ - 13+ tok/s on iPhone 17 Pro Max with ~3GB RAM - Outperforms Qwen3.6 35B-A3B in overall score AND inference time ✨1B: Ultra-lightweight VLM - Outperforms Qwen3.5 0.8B in BOTH performance & efficiency ✨ Both support: - Image, multi-image & video understanding - Efficient 4×/16× visual token compression - iOS, Android & HarmonyOS - Apache 2.0

10月10日周六
10月9日周五
10月8日周四
10月7日周三