跳到正文
10月29日周四
  1. Unsloth AI77

    Unsloth 发布 Mistral Le Chonk(Mistral Large 4,1T 参数 MoE,52B 激活)的 Dynamic 1-bit GGUF,可在 Mac Studio 上本地运行,保留 91% top-1 准确率,体积约 233GB(较 1.1TB FP8 小 80%)。图为各量化档位给出硬件需求,1-bit 需 256-270GB 内存,最小 UD-IQ1_S 约占 233GB 磁盘,并支持文本与图像输入、1M 上下文和 160+ 语言。GGUF 与指南见 huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF 和 unsloth.ai/docs/models/mistral-large-4。

    引用Mistral AI@MistralAI

    今天,我们发布了全新改进版 Le Chonk 的权重,推进智能体编程与网络安全领域的开放前沿。 💻 为构建而生:Le Chonk 在 @cognition 的 FrontierCode 上于开放模型中排名第一,并在 @artificialanalysis 上树立了帕累托效率的新基准。 🛡 为防御而生:网络防御领域的顶尖水平,已通过全球领先网络安全厂商的检验,包括 @CrowdStrike、@cloudflare、@rubrik、@zscaler 等。 为主权而构建:让它成为你的。在 @huggingface 上下载权重,使用 Mistral Forge 进行定制,并部署到你需要的任何地方。 阅读我们团队和客户的更多内容 👇:

    推荐理由:原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。

10月28日周三
  1. OpenBMB55

    OpenBMB 转发并感谢 @atomic_chat_hq 的演示:该演示在 M5 Max MacBook 上本地运行 MiniCPM-OCR 1.0,处理 Anthropic S-1 文件全部 415 页,1.2GB 模型约每页 4 秒,数据全程不离开设备。GGUF 权重已发布在 huggingface.co/AtomicChat/MiniCPM-OCR-1.0-GGUF。

    引用atomic.chat@atomic_chat_hq

    A 1.2GB model on a Mac read Anthropic's whole IPO 📄 @OpenBMB MiniCPM-OCR 1.0 went through all 415 pages of Anthropic's S-1 on an M5 Max MacBook at about 4 seconds a page and nothing ever left the laptop GGUFs -> https://huggingface.co/AtomicChat/MiniCPM-OCR-1.0-GGUF

  2. OpenBMB59

    面壁智能 OpenBMB 转发 @atomic_chat_hq 的实测演示:1.2GB 的 MiniCPM-OCR 1.0 在 M5 Max MacBook 上以每页约 4 秒的速度处理完 Anthropic S-1 全部 415 页,全程数据不离开本地。演示者已将 GGUF 版本分享至 Hugging Face(https://huggingface.co/AtomicChat/MiniCPM-OCR-1.0-GGUF)。

    引用atomic.chat@atomic_chat_hq

    A 1.2GB model on a Mac read Anthropic's whole IPO 📄 @OpenBMB MiniCPM-OCR 1.0 went through all 415 pages of Anthropic's S-1 on an M5 Max MacBook at about 4 seconds a page and nothing ever left the laptop GGUFs -> https://huggingface.co/AtomicChat/MiniCPM-OCR-1.0-GGUF

  3. IT之家·人工智能49

    Opera 推出 WebAI 网页标准,支持浏览器本地运行 AI 模型

    Opera 推出名为 WebAI 的新 Web 标准,允许用户直接在浏览器中运行 AI 模型,无需依赖云端服务。该标准兼容多种开放权重模型,以谷歌 Gemma 为例,在 Mac 上还可调用苹果端侧基础模型,目前已在 Opera One 中以早期预览版推出,需用户主动启用。Opera 称本地处理可让个人信息保留在用户设备上,无需付费订阅云端 AI 服务,但实际表现取决于设备硬件配置。

  4. Rohan Paul62

    Liquid AI 发布新一代开源权重模型家族 LFM3,1.7B 文本模型表现超越其前代 2.6B 模型。性能提升来自 tri-hybrid 架构,24 层中 13 层为短卷积、5 层用 256-token 滑窗注意力、6 层全局注意力;官方称 LFM3-VL-2B 可与参数量大 6 倍的 Gemma 4 12B 竞争,作者引用的数据称 1.7B 模型在 AutomationBench 得分 41.29,高于 Qwen3.5-9B 的 15.10。

    引用Liquid AI@liquidai

    Introducing 𝙻𝙵𝙼𝟹: our new generation of Liquid Foundation Models. With a new tri-hybrid architecture and new multimodal encoders, the LFM3 family is the ideal model suite for specialized intelligence. > 6 model instances, across text, audio, vision, and omni modalities, generative and decision models. > 𝙻𝙵𝙼𝟹-𝟷.𝟽𝙱: text, 256k context window. > 𝙻𝙵𝙼𝟹-𝚅𝙻-𝟸𝙱: vision-language model with video-input support for spatial understanding > 𝙻𝙵𝙼𝟹-𝙰𝚞𝚍𝚒𝚘-𝟸𝙱: tool calls, voice chat, reasoning in 18 languages. > 𝙻𝙵𝙼𝟹-𝙾𝚖𝚗𝚒-𝟸𝙱: an omni model combines vision, audio, and language. > 𝚍𝟷-𝟸𝙱 and 𝚍𝟷-𝙾𝚖𝚗𝚒-𝟸𝙱: decision models with typed outputs and calibrated probabilities in a single pass. Omni adds audio input. > fine-tune on 1 GPU. > a new tri-hybrid architecture > architecture optimized for 14 processor classes across GPUs, CPUs, and NPUs. > 𝙻𝙵𝙼𝟹-𝚅𝙻-𝟸𝙱 is a beast. It performs competitively with Gemma 4 12B (6x larger), and Gemini 3.5 Flash Lite, and GPT-5.6 Luna, with 1.9B parameters. > 𝙻𝙵𝙼𝟹-𝟷.𝟽𝙱 is #1 on the Pareto frontier of device intelligence 𝚙𝚒𝚙𝚎𝚝𝚝𝚎.𝚕𝚒𝚚𝚞𝚒𝚍.𝚊𝚒 Every modality for specialized intelligence. Pick the one that fits your use case, customize it, and run it on-device. 1/ 🧵

  5. Liquid AI 模型与工程博客68

    Liquid AI 发布 LFM3 多模态开源权重模型家族,2B 级覆盖文本、视觉、音频、omni 和决策模型

    Liquid AI 发布新一代 LFM3 模型家族,以 LFM3-1.7B-Base 为共享骨干,首批开放六个 2B 级模型(文本、视觉、音频、omni 及两个决策模型)的开放权重,可在 Hugging Face、Playground 和 Liquid AI API 获取。

    推荐理由:原文给出 LFM3 各模型的具体架构、基准和端侧性能数据,读者可以据此评估小参数量多模态模型在本地方案中的可行性。

10月27日周二
  1. Apple:Newsroom60

    Apple 发布搭载 M6 芯片的 14 英寸 MacBook Pro,起售价 $1,999

    Apple 发布搭载全新 M6 芯片的 14 英寸 MacBook Pro,配备 12 核 CPU 和 12 核 GPU,相比 M5 图形性能最高快 30%、端侧 AI 工作负载最高快 25%,电池续航最长 24 小时。新机支持 Wi-Fi 7 和蓝牙 6,可本地运行 LLM,10 月 28 日开启预购、11 月 6 日发售,起售价 $1,999(教育优惠 $1,899)。

    推荐理由:官方发布稿给出 M6 相对 M5 和 M1 的具体性能数字、端侧 AI 能力与售价,读者可据此评估是否值得升级。

10月26日周一
  1. Unsloth AI70

    Unsloth 发布 MiniMax-M3.1-Flash 的量化 GGUF,2-bit 版在缩小 45% 体积的同时保留 91.5% top 1 精度,可在 150GB 内存上本地运行,1-bit 版约 89.9%,4-bit UD-Q4_K_XL 达 98.0%。作者称其为同尺寸最强开源模型之一,并给出 Hugging Face 权重链接与本地运行指南。

    引用MiniMax (official)@MiniMax_AI

    MiniMax M3.1 Flash:太空级性能 + 兔子级速度 🚀🐰 没错,Space Bunny——曾以 200T+ tokens 登顶全球排行榜——正是 M3.1 Flash 的早期版本。 💰重新定义智能体 AI 的性能经济学。M3.1 Flash 在 Cowork(Automation-Bench:62%;ALE:30%)、编程(DeepSWE:74%)和视觉推理(BabyVision:91%)等关键任务上达到前沿级智能水平,成本仅为 M3 的 1/3,速度提升 3 倍。 API 定价(统一费率):每 1M 输入/输出 tokens 分别为 $0.15 / $0.60,缓存读取为 $0.015 / 1M tokens。 模型权重将于 10 月 23 日发布。 API:http://platform.minimax.io M Plan:https://www.minimax.io/m-plan MiniMax Code 桌面版:https://agent.minimax.io/download

    推荐理由:原文给出自建 GGUF 量化在保留精度与压缩体积间的实测数据,以及各档位所需内存,读者可据此判断能否本地部署。

10月25日周日
  1. TechCrunch:AI40

    值得关注的 AI 可穿戴设备与硬件盘点:Bee、Friend、Limitless、Omi 等

    TechCrunch 盘点了当前值得关注的 AI 可穿戴设备,包括 49.99 美元的 Bee 吊坠、129 美元的 Friend 情感陪伴吊坠、99 美元的 Limitless 录音吊坠和 89 美元的 Omi。Meta 于 9 月推出首款 AI 可穿戴设备 Muse Charm,设备尚未发货,将配备数字分身 Jolly。Nirva 计划 11 月开放订单、年底发货,售价 249 美元。

10月24日周六
10月23日周五
  1. 公众号:面壁智能41

    面壁智能在 CNCC 2026 举办第三届端侧大模型论坛,发布 MiniCPM5 与 VoxCPM2 等成果

    面壁智能在 CNCC 2026 期间举办第三届端侧大模型论坛,以"定义端侧通用人工智能"为主题,围绕文本、语音、多模态交互、AI 自进化与智能体五大方向展开。MiniCPM 系列累计下载量突破 6000 万次,17 次登顶 Hugging Face 榜单首位,MiniCPM5-2B 在 AA-Index 4B 以下排名第一。

  2. Aravind Srinivas48

    现在你可以在 Mac 上完全本地运行 Perplexity 决策模型,数据不会离开你的设备。开源权重与紧凑模型的强大之处!

    引用Perplexity Developers@perplexitydevs

    You can now run pplx-decider-flash-v1.2 locally on your Mac, without an API key. Decider for Mac is an app that runs the 4B decision model on device. Ask a question about text or an image and get a probability back, all on your machine. https://pplx.ai/decider-for-mac

10月22日周四
  1. IT之家·人工智能66

    讯飞星火 X2.6 端云一体大模型发布,首次基于全国产算力实现代码和智能体能力突破

    科大讯飞在全球 1024 开发者节发布讯飞星火 X2.6 端云一体大模型,宣称首次基于全国产算力实现代码和智能体能力突破。模型采用 293B-A30B 参数的 MoE 架构,上下文长度拓展至 1M,输入限时 0.9 元/百万 tokens,输出限时 3.6 元/百万 tokens;同时开源星火 X2.6-4B 端侧模型,新增三档推理模式,推理定价限时免费。

  2. Rohan Paul64

    Recursive 发布首个模型 Flint,一个 40B MoE 本地编码模型,由其自动化研究系统 Eureka Machine 构建,从零开始用时不到 4 个月,权重以 Apache 2.0 开放。

    引用Richard Socher@RichardSocher

    Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.

10月21日周三
  1. OpenBMB61

    面壁智能(OpenBMB)介绍 MiniCPM-V 4.7 端侧高效推理背后的 LES(Lookahead Expert Scheduling)技术,解决 35B 总参数、每 token 激活 3B 的 MoE 模型在有限设备内存下专家权重加载等待的问题。

    引用OpenBMB@OpenBMB

    35B multimodal AI. Running locally on an iPhone. Now at over 20 tokens/sec. 🚀 MiniCPM-V 4.7 achieves 20.51 tokens/sec average decoding speed on iPhone 18 Pro Max (12GB) — a 6.07× speedup over the same device’s unoptimized SSD expert-loading baseline. ⚡ Behind the speed: Lookahead Expert Scheduling (LES), optimized expert loading, fine-grained quantization, and DSpark speculative decoding. 📱 Watch the new on-device demo below. Powerful multimodal AI, right in your pocket. Try it 👇 🔗 GitHub: http://github.com/OpenBMB/MiniCPM-V 🤗 Hugging Face: http://huggingface.co/collections/openbmb/minicpm-v-47 LES: https://github.com/tc-mb/llama.cpp-omni/blob/master/docs/les/lookahead-expert-scheduling.md #MiniCPM #OpenBMB

  2. Aravind Srinivas58

    Perplexity CEO Aravind Srinivas 转引 Engadget 报道称,Perplexity AI 工作流现在可以在 Mac 上完全本地运行,要求配备至少 36GB 内存。

    引用Engadget@engadget

    A Mac with at least 36GB of RAM can now run Perplexity AI workflows locally. https://www.engadget.com/2291754/perplexity-makes-it-easier-to-run-ai-workflows-entirely-on-your-mac/?utm_term=Autofeed&utm_campaign=Echobox-Engadget&utm_medium=Social-Distribution&utm_source=Twitter#Echobox=1792511300

  3. Aravind Srinivas65

    Perplexity CEO Aravind Srinivas 宣布,Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理,也不用 WiFi。模型和智能体都在本机运行,可操作 Mac 原生应用和本地文件,敏感数据不必发送到云端,现已在 Perplexity Mac 应用中可用。

    引用Perplexity@perplexity_ai

    Perplexity Computer 现在可以在你的 Mac 上完全本地运行。 与你的原生 Mac 应用和本地文件协同工作,运行任务时无需将敏感数据发送到云端。模型和智能体都在你的 Mac 上运行。 现已在 Perplexity Mac 应用中提供。

    推荐理由:Perplexity CEO 亲自宣布,Perplexity Computer 可完全本地运行,敏感数据无需上云,对关注隐私和离线使用的人有参考价值。