Liquid AI 开源 Pipette:一套同时评测端侧模型、量化、运行时与硬件的可复现基准套件
Liquid AI 与 Artificial Analysis 合作开源 Pipette,这是一套面向边缘设备的端侧模型基准测试平台,以“模型+量化+运行时+设备”整体配置为测量单位。
Liquid AI 与 Artificial Analysis 合作开源 Pipette,这是一套面向边缘设备的端侧模型基准测试平台,以“模型+量化+运行时+设备”整体配置为测量单位。
llm-anthropic 0.27 发布,主要适配近期推出的 anthropic v1.0.0 Python 库,后者将依赖从 httpx 切换至 httpx2。OpenAI 在两周前的 v3.0.0 版本中也做了相同变更。Anthropic 提供了迁移指南,作者借助 Claude Code 中的 Fable 5 完成升级并让测试通过。
🚢 Marin 535B-A23B started training this week! As usual, the whole process is open. Voyage plan: pretraining (80%) + midtraining (20%) on 18.75T tokens on 11 x GB200 NVL72 for ~3 months (2.7e24 FLOPs). Post-training will follow. Before kicking off the run, we trained a 4-rung scaling ladder from 1.6B-A61M (48B tokens) to 27.7B-A1.2B (926B tokens) to debug issues, and to make a forecast of our hero run. This is by far our biggest run, so definitely expecting the unexpected.
诺亦腾机器人在 2026 世界机器人大会期间发布高精度光学动作捕捉数据集 HiPHI,总长 617.5 小时,含 371.8 小时全身运动数据与 245.7 小时人—物交互数据,数据来自 132 名动捕演员,以 90 Hz 频率、亚毫米级精度采集。该数据集已在 Hugging Face 公开上线,基于 HiPHI 训练的模型已在宇树 G1 人形机器人上实现跑步、坐下、爬行、搬运箱子等动作。
UC Berkeley 与 UT Austin 团队提出 FreeToken,将个人电脑视为统一弹性推理平台,在 8 GB 笔记本 GPU 上以交互速度运行 35B 模型,在单张工作站显卡上运行 753B GLM-5.2。
llm-openrouter 0.7 插件现已兼容 LLM 0.32,可更好地配合 OpenRouter 上的推理模型使用。该版本改用 OpenRouter 的 Responses API 实现,并新增 Shell、WebFetch 和 WebSearch 三项服务端工具,可通过 `-T WebSearch` 等选项启用。
大规模 LLM 强化学习采用解耦架构后,rollout 数据从推理侧到训练侧的传输成为瓶颈。Mooncake 针对 Miles 系统中异构、碎片化的 rollout 数据(如 list[np.ndarray] 形式的 tokens、loss_masks、rollout_log_probs),通过批量 I/O 优化实现高效传输,同时满足效率、正确性、可扩展性、灵活性和可预测的交接延迟等要求。
AI 编程语言 Mojo 在发布 1.0 正式版后,现已开源编译器、开发工具及构建语言所需的完整代码,源代码已上传至 Modular 主 GitHub 仓库,采用带 LLVM 例外条款的 Apache 2.0 许可证。
推荐理由:在Apple Silicon本地生成视频,把云端视频生成的计算依赖降到了消费级硬件,为需要数据隐私或低成本原型创作的工作流提供了替代路径。
蚂蚁百灵正式开源 Ling-3.0-tiny-base(总参数 7.9B,激活 1.3B)与 Ling-3.0-flash-base(总参数 124B,激活 5.1B)两个基座模型,并同步开放预训练、中期训练和 WSM 合并阶段共 6 个 checkpoints。
推荐理由:开源的不只是最终 Base checkpoint,还包括预训练和中期训练共 6 个权重,并解释了无学习率衰减的 WSM 合并方案如何利于持续预训练。
Mojo 编程语言兑现自 2023 年 5 月以来的承诺,于上周发布 1.0 版本后,本周正式以 Apache 2 许可开源其编译器与工具链。Mojo 已不再追求成为 Python 的超集,而是定位为独立语言,旨在用类 Python 语法尽可能简化 GPU 编程,即便与现有代码并非 100% 兼容。
NVIDIA 发布 TensorRT Model Connect(TRTMC)公开预览,这是一个开源项目,可通过两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,无需中间 ONNX 导出步骤。
Google 开源 Apache-2.0 项目 SAM(Sovereign Agent Mesh),为自主 AI 智能体提供零配置、零信任的 P2P 覆盖网络,支持跨云、本地数据中心和边缘设备通过 MCP 协议安全共享工具。架构包含三个二进制,节点通过 OIDC 换取 Biscuit 令牌实现离线授权,默认拒绝一切访问。公共网格仍为 beta 测试网,生产环境需自托管控制平面。
蚂蚁集团 inclusionAI 开源 ConceptEdit,一个基于概念缩放与密集监督的图像编辑数据生成管线。该管线通过三阶段流程(VLM 生成指令、FLUX 执行编辑、VQA 评估筛选)构建大规模、基于分类法的图像编辑数据集,并提供单概念与多概念两种变体。项目采用 MIT 许可证,支持断点续跑,需 OpenAI 兼容 VLM 端点与本地 FLUX 检查点。
推荐理由:流水线把图像编辑数据生成拆为指令生成、FLUX 编辑、VLM 评判三步,多概念版本将多个并行编辑合并为一条指令并支持断点续跑,为构建带质检的编辑训练数据提供可复用框架。
DeepSeek 发布 DeepSeek Harness v0.1 开发者预览版,以 MIT 许可开源,项目名为 dsh。该框架基于 Cordis 内核,将模型、工具、技能、会话、沙箱、存储、循环、调度和 UI 均设计为可替换插件,支持 Standard、Code、Minimal、Creator 四种运行模式。
蚂蚁 inclusionAI 在 GitHub 发布 SingProbe,一个基于冻结 Base Model(如 Ling-3.0-flash)多层隐藏状态的轻量 token 级探针训练框架。
Qwen3.8-27B can now be run locally! ✨ Run on 17GB RAM via Unsloth Dynamic GGUFs. Qwen3.8-27B is by far the strongest model for its size. We also uploaded NVFP4 quants. GGUF: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF Guide: https://unsloth.ai/docs/models/qwen3.8
Simon Willison 用 Codex 和 GPT-5.6 Sol Ultra 构建了 alchemy-utils 0.1a0,一个基于 SQLAlchemy、支持多数据库引擎的 sqlite-utils 替代品。该库已通过 PostgreSQL、SQLite 和 DuckDB 测试,支持 insert、upsert 等核心 API,并已发布为 alpha 版本。
推荐理由:插件化把模型、工具、会话拆成可替换单元,影响在于选择智能体框架时可以从整体选型转为逐组件比较,降低被单一编排方案绑定的迁移成本。
DeepSeek Harness 刚刚以 MIT 协议发布。当前 0.1.0 版本为开发者预览版,可能仍有许多不完善之处。欢迎反馈!
Introducing NVIDIA Nemotron 3.5 Lightning⚡ An open 30B MoE model with 3B active parameters, built for always-on agents to complete high-volume, specialized tasks faster. It delivers up to 4x the output speed of similar-sized models.
推荐理由:Apache 2.0许可和两项代理基准得分,为评估30B规模本地开源模型是否达到生产可用提供了直接参照,分数分别指向工具调用和编码能力。
一个出色的美国开源 MoE 模型,可以在你的笔记本电脑或 DGX Spark 等本地硬件上高效运行!你可以在 Perplexity 上使用更大的 Nemotron Ultra!
Introducing NVIDIA Nemotron 3.5 Lightning⚡ An open 30B MoE model with 3B active parameters, built for always-on agents to complete high-volume, specialized tasks faster. It delivers up to 4x the output speed of similar-sized models.
NVIDIA 扩展 Nemotron 3 模型家族,推出 300 亿参数混合专家模型 Nemotron 3.5 Lightning,面向高吞吐智能体工作负载,输出速度最高提升 4 倍,智能体任务完成速度提升 30%。同时发布开源模型路由库 NeMo Switchyard,可将任务成本降至 Opus 4.8 单独运行的近三分之一,并支持在 RTX PC、DGX 等本地设备部署。
Muse Glimmer one-shot 5 games! @AIatMeta dropped Muse Glimmer. So we ran it against Muse Spark 1.2, on five one-file game demos, each one written to play itself: Tetris, a top-down pixel street race, a rooftop web-slinger, a blue hedgehog platformer, and Flappy Bird. the setup: • Muse Glimmer 30B — via aimlapi[.]com. cost: $0.02 • Muse Spark 1.2 — via aimlapi[.]com. cost: $0.11 what we saw: • every Glimmer scene runs and plays itself. it's a reasoning model, so it burns more tokens — but the output is clean. its Tetris even scores each placement to keep lines clearing, and the blocks burst into pixels on every clear. • Glimmer beat Spark at Flappy Bird — its bird flew through the pipes cleaner. • but it's not perfect: in the racing game its cars sometimes slip off the road, and its graphics are simpler and blockier than Spark's. glad to see Meta back in open source — and we're waiting for Spark 1.2 weights next 🙌
蚂蚁百灵正式开源 Ling-3.0-tiny,总参数 7.9B,每 Token 仅激活 1.3B,同步提供 BF16、FP8 和 INT4 三个版本。
推荐理由:官方给出了综合指数与实测数据,读者可以据此评估这款轻量模型在端侧部署和本地 Agent 场景的可用性。
我昨天做了这个,让你可以用提示词把任意网站变成你想要的样子。做成禅意风、反色风,或者节日主题都行。 代码和配置在这里:http://github.com/ericzakariasson/gloss
苹果短暂发布了文档,确认Mac上的Apple Intelligence可兼容阿里巴巴的通义千问模型,但该中文版通义千问集成指南随后已从苹果官网移除。
东北大学和斯坦福大学的研究者发布 Shepherd,一个将智能体运行记录为类 Git 类型事件轨迹的 Python 运行时基底,支持分叉、重放与回滚任意历史状态。
AI 智能体 KISS Sorcar 在不到 8 小时、API 成本低于 $150 的情况下,将 SQLite 优化提速 59%(几何平均 1.59x),且全部 1,032,940 项测试通过。
I optimized SQLite 3. The optimized build achieves a verified geometric-mean speedup of 1.59x over the pristine latest trunk across four benchmarks: - 2.06x on the official speedtest1 (~30k statements) - 1.90x on TATP (OLTP mix: 400k transactions, 100k subscribers) - 1.30x on the Star Schema Benchmark (13 queries x 2, 1.5M-row lineorder) - 1.25x on kvtest (blob I/O: 40k x 10 KB, seq + random + update) All 1,032,940 cases in the full SQLite test suite pass, and every benchmark run produces checksum-verified identical results. For context: the SQLite team has spent nearly 20 years tuning this code; their own measurements show ~3.5x total CPU improvement since 2008, earned a few percent at a time. Tested so far on standard Linux provided by GCP. An agent called KISS Sorcar did it in under 8 hours for under $150 in API cost. I wrote no code: 1 main short prompt plus a couple of steering prompts. Why I trust the results: 1. No cheating in the speedup. The biggest win is defaulting to WAL journaling, the configuration SQLite's own docs recommend. Re-measured durability-neutral (synchronous=FULL: committed transactions survive power loss exactly as strongly as the baseline), it is still 1.54x faster. 2. Adversarial testing. A separate attacking agent tried to break the changes: a 37-script differential SQL corpus (recursive CTEs, window functions, triggers, UPSERT, JSON, FTS5, rtree, corrupt inputs) compared byte-for-byte against a pristine build under ASan/UBSan, plus WAL-file corruption, multi-process mptest, fd-exhaustion, symlink, and read-only-media attacks. 3. Security hardening and independent review. Two hardening rounds with kimi-k3 as the model: in-tree fuzzers (fuzzcheck over all 8 corpora, sessionfuzz) came back clean; 14 hostile-WAL corruption scenarios - no crashes; OOM injection and page-size sweeps; one real bug found and fixed. 1.59x is what an agent can honestly find in one of the most heavily optimized codebases in the world overnight. Optimized SQLite Repository: https://github.com/ksenxx/sqlite-optimized/ Blog: https://kisssorcar.github.io/blog/sqlite-optimization-blog.html