NVIDIA 技术博客解析 Dense 与 MoE 模型的参数激活、吞吐差异及选型方法
NVIDIA 技术博客讲解 dense 与 MoE 架构在参数激活、吞吐和部署上的差异,以 Nemotron 3.5 Lightning 为例说明 MoE 每词元仅激活约 3B 参数、总参数 30B 仍需约 60 GB 显存。文章给出按显存预算、并发、微调和量化需求选型的建议,并对比 Gemma 4 31B、Qwen3.8-27B、Mistral Small 4 等模型的输出速度与价格数据。
NVIDIA 技术博客讲解 dense 与 MoE 架构在参数激活、吞吐和部署上的差异,以 Nemotron 3.5 Lightning 为例说明 MoE 每词元仅激活约 3B 参数、总参数 30B 仍需约 60 GB 显存。文章给出按显存预算、并发、微调和量化需求选型的建议,并对比 Gemma 4 31B、Qwen3.8-27B、Mistral Small 4 等模型的输出速度与价格数据。
Google 开发者博客发布零信任智能体系列第二部分,把安全检查从构建期移到 Gemini Enterprise Agent Platform 运行时,用 Model Armor、Semantic Governance Policies 和 Agent Anomaly Detection 三项托管控制拦截构建期规则放过的攻击。
LangChain 梳理 Madrigal Pharmaceuticals、Abridge、Vizient 三家机构的医疗智能体建设经验:Madrigal 搭建企业级多智能体平台,Abridge 将医患对话转为临床文档并支持贯穿临床流程的常驻智能体,Vizient 用 GenAI 平台查询孤立的医院数据。
MacStories 主编 Federico Viticci 发布博文,汇总 iOS / iPadOS 27 的 54 条隐藏新功能与新特性。
作者用GPT-6 Astra、群核科技的Aholo Lux3D和Blender完整规划了一个包豪斯风格拍摄间。
文章区分 Agent harness、Agent framework 与 MCP 三层架构,指出 harness 拥有执行循环、状态、权限和恢复,框架只暴露钩子,MCP 仅拥有工具传输且无法在协议层强制同意。
Anthropic 与 Accenture 联合发布帮助 CIO 和技术负责人把 AI 项目从试点推进到生产的实用蓝图。指南引用 Accenture 2026 年 7 月报告称仅 23% 的高管认为 AI 项目取得持续的企业级影响,并列出按时间顺序的七项考量、四部分任务定义、轻量总拥有成本模型、四层监督模型及决策过渡蓝图。
火山引擎采访AI导演DiDi_OK,介绍其完全用Seedance 2.5 720P制作的9分钟科幻短片《Candy》背后的制作过程。他称模型在精细定制化、运动规律理解和超长镜头一次生成上有突破,部分效果连续性超过传统CG;其工作流随之改变,提示词取代关键帧成为决定视觉上限的首要条件,世界观类叙事中分镜不再是必需。
LangChain 发布长文,复盘自建付费媒体 Agent 的构建过程并已开源。该 Agent 运行在 Slack 中,半年内将付费渠道贡献从 0 提升至营销管线的 20%,合格线索成本(CPL)从 6 月到 8 月下降 30%。
推荐理由:LangChain 亲述自建付费投放 Agent 的架构与实测数据,五层上下文和单一运行时等经验可直接迁移到其他 Agent 工程。
OpenRouter 发布教程,讲解如何用独立的裁判模型按自定评分标准自动给 AI 智能体输出打分,覆盖确定性测试无法检查的开放式回答质量。
推荐理由:原文给出 LLM-as-a-judge 的适用边界、偏差来源和用 Ori Eval 落地的可复用步骤,还包含用人工标注校准裁判模型的方法。
作者称 Claude Fable 5.1 用时 44 分钟、176k tokens 解开了 Sir Thomas Urquhart 有约 370 年未解的 Cyphral Distich 密码。
该教程用 JAX、Flax、Optax 和 jax3d 的体渲染原语构建端到端分层 NeRF,包含位置编码、粗细双网络与 sample_piecewise_constant_pdf 重要性采样,并用 Adam、指数学习率衰减和梯度裁剪训练。评估涵盖 held-out PSNR、深度与透明度可视化、360 度渲染 GIF 以及 marching cubes 提取密度场等值面。
文章解析 Agent harness 层应对长任务中上下文溢出与目标丢失的四类机制:上下文预算与卸载、压缩、todo-state 复述和跨会话记忆。
推荐理由:文章把解决长任务中上下文溢出与目标丢失的机制拆成四类,并对照多款主流 Agent 产品的具体实现和阈值,便于读者迁移到自己的系统。
MarkTechPost 发布一篇教程,用 NVIDIA cuML 和 RAPIDS 构建覆盖 GPU 加速机器学习全流程的可运行工作流。
Simon Willison 用 GPT-6 Astra 和 ChatGPT Work 从家出发生成 5K 和 10K 环形跑步路线,运行 27 分钟,基于 Nominatim 定位地址、Overpass 下载 OpenStreetMap 道路数据,产出嵌入式地图可视化和可下载的 GPX 与 GeoJSON 文件。
vLLM 团队详解 Kimi K3 从 v0.27.1 到 0913 main 的服务性能优化,在 8K/1K、TP8、B300 节点测试下延迟降低 56%–60%,吞吐提升 2.2–2.8 倍,TTFT 降低 72%–85%。
OpenAI 的 Eric Provencher 撰文建议,切换到 GPT-6 Astra 时应精简技能描述、AGENTS.md 规则和任务提示词,因为过长的指令会占用上下文或导致模型过早停止。
OpenAI 发文介绍其在线存储平台 Habitat 从 Python 迁移至 Rust 的过程,该平台每秒处理超 7000 万次请求、每周服务超 10 亿用户、管理数据超 500PB。
Google 的 Gleb Otochkin 在 AlloyDB Omni 上实测嵌入向量版本更新对 PostgreSQL 存储的影响:在含 768 维向量和 HNSW 索引的 20k 行表上更新全部向量后,表、TOAST 和索引体积几乎翻倍(TOAST 从 81 MB 到 159 MB,HNSW 索引从 78 MB 到 156 MB),约一半空间被死元组占据。
Simon Willison 转述 Mohamed Moustafa 对 OpenRouter 自动路由的问题分析。不同供应商的推理软件、优化设置不同,同一端点可能行为不一致,部分供应商的视觉模型缺少视觉能力,reasoning effort 参数的处理方式也有差异。可用 provider.only 指定供应商,并通过 /endpoints 方法查询某模型可用供应商列表。
GitHub 日韩地区营销负责人 Tomoko Tanaka 分享如何不写代码,把活动运营交给 GitHub Copilot 自动化。
推荐理由:作者以自身营销工作为例,展示了用 Issue、Actions 和 SKILL.md 复用开发者治理流程落地自动化的完整路径。
OpenAI 发文(系列上篇)讲述其在线存储平台 Habitat 的演进:现每秒处理超 7000 万请求、服务每周超 10 亿用户、管理超 500PB 数据,覆盖近 40 个地区。
推荐理由:原文披露了 Habitat 从 Python 库到 Rust 服务的完整演进细节,含 asyncio 调优、连接池等可迁移经验。
Google 发布 autofinetune 项目,把 autoresearch 的自主研究循环应用到 LLM 后训练(SFT 和 GRPO),使用 Tunix、Gemma、Cloud TPU,由 Antigravity CLI 和 Gemini Flash 3.7 编排。
OpenRouter 通过 OpenAI 兼容的 POST /api/v1/audio/speech 端点提供文本转语音服务,一个 API key 可调用多家供应商的 TTS 模型。
Nathan Lambert 在 Interconnects 发布开放模型与开源 AI 阅读清单,收录近年关于开放模型的核心文章与研究,按开源基础、美国与中国竞争、技术细节三部分组织。清单涵盖开源策略、开放模型安全、采用数据、蒸馏争议等主题,提到开放与闭源模型差距已缩小到约 4-6 个月,2024 年以来领先开放模型均来自中国实验室,并表示会持续更新并接受读者补充。
作者实测 DeepSeek V4.1 Flash,缓存命中输入降价 7 倍多、输出砍三分之二,9 月 14 日中午 12 点起所有发往 v4-pro 的请求将被强制路由到 4.1 Flash 并按其低价计费。
推荐理由:作者实测 DeepSeek V4.1 Flash 的价格、架构参数和多个生成任务,并给出与 GLM 5.3 Flash 的对比结果和暴露的缺陷。
ストリートビューからの V2V GPT Astra に google map の道沿いに ストリートビューの画像を取得させて パラパラ漫画の動画にして(右動画)、 「MiniMax H3 ref2va を使って 車載カメラ風の映像にして」 とお願いしてできたものが左の動画です この方法で、世界中ドライブができる・・・?
OpenAI 针对编码智能体发布指南,说明迁移到 GPT-6 Astra 后应重写 skills、AGENTS.md 和任务提示词,避免旧指令拖慢工作。要点包括技能描述要尽量短并遵循渐进式披露、删掉强制通读文档的指令、Astra 会自主运行测试但可能提前停下,需要用户在 AGENTS.md 中定义完成标准并授权安全工作流。
推荐理由:来自 OpenAI 官方,针对 GPT-6 Astra 给出技能、AGENTS.md 和提示词的迁移调整方法,读者可直接对照清理自己的仓库指令。
OpenRouter 发布 Presets 使用教程,preset 是一个命名且带版本的配置,统一存放模型或 fallback 列表、system prompt、provider 路由和采样参数,在任何请求中以 "model": "@preset/名称" 引用。
Hey ████, I think there is room for both. 1. Prototypes and other throw-away code can be treated as totally black box. If you’re going to throw it away anyway, and if the blast radius of it breaking is low, it doesn’t need to be perfect. 2. Production code written by Claude should have a higher bar than if it was written by a human. At Anthropic, we have many guardrails in place to make sure this is happening: lots of lint rules, lots of tests, Claude-driven end to end tests, Claude-powered fuzzers running daily, automated code reviews and security reviews, automated code refactoring, and so on. Without these, you can end up with a mess that is hard to maintain down the line. Luckily, the model makes it increasingly easy to do these well — run a few daily routines, use Claude Code Review, etc. Your job is to hold the bar on code quality. If Claude’s code doesn’t meet the bar, try: - Using the latest frontier model (Opus 5 or Fable 5.1) - Increase effort to high or xhigh - Invest in your CLAUDE.md and skills to succinctly teach Claude how to work in your codebase If all else fails, steer Claude more when you work with it, or have Claude fix accumulated debt and rewrite your codebase to make it easier to work with. Or, wait for the next model. Best, Boris
GitHub Copilot 应用新增 diff、终端、浏览器三个内置面板,让初学者在不离开应用的情况下完成 AI 智能体改动的审查、运行和预览。diff 面板以红绿高亮显示增删改行,用户可接受、评论或要求修改;终端面板可运行项目命令并支持多窗口,浏览器面板配合 Pick & Polish 工具选中界面元素让智能体调整,最后可直接在应用内接受变更并创建 pull request。
Google AI 的 Tilde A. Thurium 发布访谈视频,请 Annie Wang 从头讲解图工程(graph engineering),以及它如何让开发者掌控复杂 AI 系统。
Every 介绍了为什么要为每位员工构建个人基准(personal benchmarks),并说明如何开始按照自己的标准测试 AI 的表现。文章兼具动机阐述与可上手的实践指引。
LlamaIndex 博客提出 just-in-time Agentic OCR 模式:先用 LiteParse 等免费解析器粗读全部文件供检索,再仅对相关页面调用 VLM 做 OCR。
推荐理由:作者用 84 份 SEC 文件实测两遍式文档处理流程,给出明确的适用边界和成本数字,方法可直接迁移到自己的数据室场景。
Credit Genie 的 AI 与 ML 工程团队采用 LangChain 开源仓库文档智能体 OpenWiki,自动生成并维护代码库文档,解决文档过时与"部落知识"问题。
話題の「GPT-6 Astra × Blender」、実際に触ってみました。 これ、かなり衝撃です。 Blender初心者でもできる。ほぼ視点移動(ビュー)の操作だけでここまで作れました。 モデルはTripo製、ステージはBlender上で作ってます。 GPT-5.6 Solでは何度指示してもうまくいかなかった作業が、Astraでは普通に通るようになっててヤバい…! 今回は ・GPT-6 Astra ・Blender MCP ・Tripo スマートメッシュ P2.0 を組み合わせて、AI中心で制作しています。 ※モーションのみお借りしています Blender側で自分がやるのは、ほぼビュー操作。 基本的には、 「気になる箇所をビューで見せる」 ↓ 「AIに修正を指示」 ↓ 「結果を確認」 ↓ 「また修正」 これの繰り返しです。 もちろん、すべてが一発でうまくいくわけではありません。 意図通りになるまで何度も指示する必要があるので、根気よく詰めていく熱量は必要だと感じました。 それでも、 「Blenderをほぼ触れない人でも、AIと対話しながら3Dモデルを仕上げていける」 ところまで来たのは、かなり大きいと思います。 ざっくり制作手順👇 1. Images 2.5でキャラの全身リファレンスを生成 2. 髪・頭部・体(Tポーズ)に分けて画像を生成 3. 各パーツの右側面・左側面・背面図を生成 4. Tripo スマートメッシュ P2.0で3パーツを3D化 設定:四角形 / 25,000 5. Blender MCPでAstraに3パーツを渡して合体 6. 自然なシルエットになるようサイズ調整 7. メッシュの欠損・隙間・貫通を補修 8. リグ・ウェイト設定 9. まばたき・口パクをシェイプキーで作成 10. 髪や衣装などの揺れものを設定 11. モーションを適用して、足の接地・衣装貫通・揺れを調整 12. テクスチャを修正(どのタイミングでもいい) 使うツールはざっくり、 1〜3 → Images 2.5 4 → Tripo 5〜12 → Astra × Blender × Images 2.5 という感じです。 そして今回、かなり有効だったのが、 「修正したい箇所をスクショ → その画像を元に理想形のリファレンス画像を生成 → Astraで修正」 という方法。 これが形状修正にもテクスチャ修正にもかなり効きました。 長文で細かく説明するより、 リファレンス画像を添付して 「ここをこれに寄せて」 くらいの指示の方が、意図が伝わりやすい場面も多いです。 ただ、テクスチャ修正は普通に沼です。ある程度で妥協した方が良さそう。細かく見ると、まだ粗いです。 3D制作のハードル、AIでかなり下がってきた感があります。 Blender初心者の方こそ、一度試してみてほしいです。
推荐理由:原文给出完整的 12 步 3D 角色制作工作流和截图生成参考图的修正方法,Blender 初学者可以照着复用。
作者 Hugo Vergnes 用租用的 8× B200 在 43 小时内以 $998 训练了 3.8B 参数模型 little-lm,在 65.3B tokens 上达到 CORE 0.384,超过 GPT-2 1.5B 的 0.2565。
美团龙猫LongCat团队推出《Agent评测白皮书》系列博客,首篇《评测全览》体系化讲解Agent评测落地方法,计划共4篇,后续将覆盖冷启动、扩量和自进化。文章提出评测体系可概括为四个模块(离线评测、在线评测与监控、Case挖掘与归因、观测基建)、三种能力、两条Loop和一套评测资产,以商家经营分析Agent为贯穿案例,并附评测体系成熟度自查表。
Hugging Face 在 TRL v1.14 的 AsyncGRPOTrainer 中支持只训练和同步 LoRA adapter,配合 Storage Bucket 挂载与代理路由,让训练 Job 和 vLLM 推理 Job 在不同机器上运行而无需 NCCL。
推荐理由:Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。