#部署/工程
OpenRouter@OpenRouterAI 评分6565OpenAI:官网动态精选AI 评分6161 OpenAI 详解存储平台 Habitat 如何扩展支撑超 10 亿 ChatGPT 用户(上篇)
OpenAI 发文(系列上篇)讲述其在线存储平台 Habitat 的演进:现每秒处理超 7000 万请求、服务每周超 10 亿用户、管理超 500PB 数据,覆盖近 40 个地区。
推荐理由:原文披露了 Habitat 从 Python 库到 Rust 服务的完整演进细节,含 asyncio 调优、连接池等可迁移经验。
OpenRouter:Announcements精选AI 评分6767 OpenRouter 发布 Fusion 复合模型,让多个模型辩论后合成最终答案
OpenRouter 发布 Fusion 复合推理系统,将一个提示词并行发给 1 到 8 个面板模型,由 judge 比较共识与分歧后由调用模型写出最终答案。默认三模型面板成本约为单次完成的四到五倍、延迟两到三倍,在 DRACO 深度研究基准上预算面板得 64.7%、前沿面板得 69.0%。
推荐理由:官方详解 Fusion 的多模型辩论机制、四到五倍成本与两到三倍延迟,并给出适用与不适用的具体场景。
MarkTechPostAI 评分6060 Sakana AI 发布 Fugu Max 和 Fugu Ultra v2,主打更低成本的多模型编排
Sakana AI 发布 Fugu 系列两款新模型 Fugu Max 和 Fugu Ultra v2,通过单一 OpenAI 兼容 API 在多个模型间路由任务。
OpenRouter:AnnouncementsAI 评分5353 OpenRouter 教程:如何用 Presets 实现配置即代码
OpenRouter 发布 Presets 使用教程,preset 是一个命名且带版本的配置,统一存放模型或 fallback 列表、system prompt、provider 路由和采样参数,在任何请求中以 "model": "@preset/名称" 引用。
Rohan Paul@rohanpaul_aiAI 评分5959一项名为 Detokenization Leaks 的研究提出新攻击,通过观察本地部署 LLM 去分词时的 CPU 缓存活动重建生成文本,无需读取模型内存。
IT之家·人工智能AI 评分6464 消息称微软计划到 2032 年将数据中心容量提升至 38GW,为当前 12GW 的三倍有余
彭博社援引消息人士报道称,微软计划到 2032 年持有 38GW 数据中心容量,是当前 12GW 的三倍以上,也将超出纽约州当前高峰时段用电量。目前 12GW 中仅 2GW 用于 AI 专用芯片,到 2032 年约 1/3 算力(12~13GW)将服务 AI 芯片;算力缺乏已导致 Azure 将部分订单送给竞争对手,该计划仍可能因客户偏好变化和新技术出现而调整。
IT之家·人工智能AI 评分7575 OpenAI Agents API 开放公测:支持代码执行、工具调用和跨上下文长任务
OpenAI 于 9 月 10 日推出 Agents API 公测版,开发者可一次 API 调用创建云端 AI 智能体,复用 Codex 背后的执行框架。智能体支持运行代码、处理文件、跨上下文窗口执行数小时甚至数天的任务、多智能体并行协作,沙盒可选 OpenAI 托管或 Blaxel、Cloudflare、E2B、Vercel 等合作方环境。
Together AI 研究与产品博客精选AI 评分6363 Together AI 扩展微调服务:新增模型、实验跟踪与更细训练控制
Together AI 扩展 Together Fine-Tuning 服务,新增对 GLM-5.3、Kimi K2.7、Qwen 3.5 系列等最新开源权重模型的支持,并上线实时实验跟踪、数据集预览验证等能力。
推荐理由:原文给出新模型支持、Expert LoRA 实测对比、自动早停和降价幅度等具体细节,读者可据此评估微调工作流的实际改进。
MarkTechPostAI 评分6161 Redis LangCache 公测发布:语义缓存可降 LLM API 成本至多 90%,命中提速至多 15x
Redis 发布全托管语义缓存服务 LangCache,现已在 Redis Cloud 以公开预览形式提供,通过 REST API 及 Python、JavaScript SDK 接入。
DogeDesigner@cb_dogeAI 评分5454SpaceX CFO Bret Johnsen 表示公司又 secured 一份 AI 算力托管协议,价值每月 11 亿美元,自 2026 年 12 月 1 日起生效。
Baseten 工程博客AI 评分5252 Blaxel 并入 Baseten,共建智能体云基础设施
Blaxel 宣布并入 Baseten,目标是在一个平台上同时提供模型训练、推理和长时间运行的智能体执行能力。Blaxel 此前构建了智能体所需的沙箱、Agent Drive 分布式文件系统和网络连接层,其中沙箱可在 25 毫秒内挂起和恢复,空闲时接近零成本;Baseten 的推理栈已在数十个地区规模化运行。
Tessl:产品与工程博客AI 评分5151 GitHub Next 的 Don Syme 提出在 CI/CD 之外增加第三个支柱 Continuous AI
GitHub Next 的 Don Syme 在 AI Native DevCon London 演讲中提出,应在 CI 和 CD 之外增加第三个支柱 Continuous AI,即在软件生命周期中以定时、可审计、由仓库事件触发的 AI 工作流实现持续文档、代码改进和问题分拣。
Augment Code 博客精选AI 评分6969 Augment 复盘软件工厂建设:人均规模调整产出增长 4.5 倍
Augment Code 发布长文,复盘其九个月建设的软件工厂:2025 年 11 月至 2026 年 7 月,基于 Cosmos 平台在需求、工单、PR、生产四个环节部署 PR Author。
推荐理由:Augment 复盘其软件工厂九个月的落地过程,给出了具体的量化结果和按瓶颈逐步自动化 SDLC 的可迁移方法。
OpenAI:官网动态AI 评分5757 OpenAI 与美国 GSA 达成 OneGov 协议,向各级政府提供免费授权与 5 折用量优惠
OpenAI 与美国 GSA 宣布多年期协议,为联邦、州、地方和部落政府提供原本 $15 每用户每月的许可费降至 $0、用量 5 折优惠,覆盖约 2300 万公共部门员工。协议期 27 个月(2026年10月1日至2028年12月31日),所有经核验的政府实体还可获批 5 折的 Daybreak Blue 网络防御访问及配套培训。
OpenRouter@OpenRouter精选AI 评分6666
推荐理由:OpenRouter 官方介绍新 Shell 工具和 Files API 的能力与开放方式,模型调用方可以据此判断如何接入有状态命令执行。
The Decoder:AI NewsAI 评分5353 Nvidia 与 Palantir 合作用 AI 运行供应链,首个目标是 Nvidia 自家百万级零部件体系
Nvidia 与 Palantir 合作用 AI 管理供应链,首个部署对象是 Nvidia 自家横跨数百万零部件、数千供应商的供应体系,单个 Vera Rubin 机架含 130 万个组件。
IT之家·人工智能AI 评分5959 DeepSeek V4.1 Flash 模型上线国家超算互联网
DeepSeek V4.1 Flash 模型 9 月 10 日上线国家超算互联网中心,用户可在官网「模型服务」页面调用其 API。该模型为 552B 参数 MoE 模型,采用 Causal-Encoder-Decoder 结构,输入激活 8B、输出激活 16B;基准测试中超越了包括 DeepSeek V4 Pro 在内的旗舰模型。
Mistral AI:NewsAI 评分5555 Mistral AI 与 Cloudera 达成合作,提供主权企业AI解决方案
Mistral AI 宣布与数据平台公司 Cloudera 建立合作伙伴关系。双方将把 Mistral 的模型集成到 Cloudera 的混合数据平台中,允许企业在私有云、公有云、本地甚至完全隔离的环境中运行推理。此外,Mistral 还将支持企业利用其专有数据在受控环境中训练定制模型,旨在满足金融、制造等受监管行业对“主权AI”的需求,确保数据、智能和计算完全由客户控制。
Hugging Face 社区博客精选AI 评分6565 Hugging Face 用 Gradio Workflow 重建 Workflow1111,复刻 AUTOMATIC1111 主要功能
Hugging Face 发布 Workflow1111,用 gr.Workflow 以 73 个节点、11 条媒体管线重建 AUTOMATIC1111 的大部分功能,覆盖文本生成图像、高清修复、图生图、prompt matrix、VLM 反推提示词、检测生成 inpaint 蒙版、ControlNet 式预处理器、背景移除、PNG Info 和图生视频。
推荐理由:原文展示用 Gradio Workflow 重建 AUTOMATIC1111 主要功能的具体做法,并给出 REST 与 MCP 入口,读者可评估它与 ComfyUI 的取舍。
Cognition 模型 / Devin 博客AI 评分7777 Cognition 工程师用 Devin 智能体完成 RSA-260 因式分解,刷新公开纪录
Cognition 员工 samyok 率团队驱动多个 Devin 智能体构建了高性能 GPU 格子筛,对 260 位的 RSA-260 完成因式分解,刷新此前 RSA-250(2020 年 2 月)保持的公开 RSA 挑战纪录。
MarkTechPost精选AI 评分8787 DeepSeek AI 发布 DeepSeek-V4.1-Flash:1M 上下文、FP4 KV 缓存与跨层注意力复用
DeepSeek AI 发布多模态 MoE 模型 DeepSeek-V4.1-Flash,552B 主干加 196B Engram 参数,上下文窗口 1M,prefill 激活 8B 参数、decode 激活 16B,全局 KV 缓存降至每 token 890 字节,约为 DeepSeek-V4-Flash 的 1/4、DeepSeek-V1 的 1/437。
推荐理由:文章拆解了 KV 缓存压缩和预精简架构的具体做法,读者可以对照其工程路径评估长上下文部署成本。
Hacker News:AI 热帖AI 评分5454 Hugo Vergnes 花费 $998 训练 3.8B 模型 little-lm,CORE 得分 0.384
作者 Hugo Vergnes 用租用的 8× B200 在 43 小时内以 $998 训练了 3.8B 参数模型 little-lm,在 65.3B tokens 上达到 CORE 0.384,超过 GPT-2 1.5B 的 0.2565。
IT之家·人工智能AI 评分5959 成都 AI 系统治理龟速车,覆盖城区快速路及绕城高速,试行路段慢车降约 20%
成都交警去年上线的治理龟速车 AI 智慧系统近期在城区所有快速路及绕城高速完成部署。系统整合 ETC、卫星定位与视频感知数据识别超低速行驶车辆,通过 LED 屏提示,并核查驾车打电话等违法行为;自 2025 年 4 月试运行以来累计发布 LED 提示 3.1 万余次,监测路段龟速车数量同比下降约 20%。报道还提到成都一社区为独居老人安装毫米波雷达跌倒检测器,累计处置预警 66 条。
GitHub BlogAI 评分5656 GitHub 发布 2026 年 8 月可用性报告,复盘多次重大故障与 Azure 迁移进展
GitHub 发布 2026 年 8 月可用性报告,复盘了 8 月 6 日、17 日、20 日、26 日、27 日五起事故,包括 GitHub Actions、Issues、Pull requests 和 Copilot 的故障影响与修复措施。
MarkTechPostAI 评分5959 LandingAI 发布 Agentic Document Extraction Gen2,搭载 DPT-3 Pro 与 DPT-3 Verity
LandingAI 发布 Agentic Document Extraction Gen2,改用 DPT-3 Pro 和 DPT-3 Verity 双解析模型,产品已正式可用。
Hugging Face 社区博客精选AI 评分6161 Hugging Face 用 LoRA 与 Storage Bucket 在 HF Jobs 上跑异步 GRPO,免 NCCL 并提速 3.9 倍
Hugging Face 在 TRL v1.14 的 AsyncGRPOTrainer 中支持只训练和同步 LoRA adapter,配合 Storage Bucket 挂载与代理路由,让训练 Job 和 vLLM 推理 Job 在不同机器上运行而无需 NCCL。
推荐理由:Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。
Together AI 研究与产品博客AI 评分5353 Together AI 推出抢占式算力公开预览:同样 GPU 按需价格的一半
Together AI 宣布 Together GPU Clusters 的抢占式算力进入公开预览,覆盖所有区域的 Kubernetes 集群,按需价格的固定 50% 计费。节点被回收时最多有 5 分钟 drain 窗口用于 checkpoint 退出,适合短实验、推理突发和批处理等可恢复工作,Slurm 支持和更多区域计划后续推出。
OpenAI:官网动态AI 评分8282 OpenAI 发布 GPT-6 Astra,面向专业工作场景
OpenAI 发布 GPT-6 Astra,已在 ChatGPT Work、Codex 和 API 提供,定价为每百万输入 token $10、输出 token $50。
OpenRouter:Announcements精选AI 评分7373 OpenRouter 推出 shell 沙箱工具与 Files API,任何模型可在托管 Linux 容器中执行命令
OpenRouter 发布 openrouter:shell 服务端工具和 Files API,OpenRouter 上任何支持工具调用的模型都可在托管 Linux 容器中运行命令,两者现已在 beta 阶段开放。
推荐理由:原文给出定价、容器网络策略和文件生命周期等落地细节,读者可以据此评估在自己的 Agent 工作流中怎么用这套沙箱。
OpenRouter:Announcements精选AI 评分6060 OpenRouter 推出 US In-Region Routing 区域路由
OpenRouter 推出 US In-Region Routing,请求经 us.openrouter.ai 在美国境内解密并只路由到美国 provider 端点,eu.openrouter.ai 提供同样的 EU 路由。
推荐理由:原文给出端到端区域路由的实现方式和可用模型清单,读者可以据此评估数据驻留合规配置。
The Decoder:AI NewsAI 评分5858 Qualcomm 为 AWS 定制 AI 推理芯片,并借 AWS Bedrock 加速芯片设计
Qualcomm 正为 AWS 设计多代定制芯片,聚焦 AI 推理,双方还合作开发带宽达 1.6 terabits 的光互连;作为交换,Qualcomm 使用 Amazon Bedrock 等 AWS 服务加速芯片设计。
IT之家·人工智能AI 评分5656 DeepSeek 计划 9 月 10 日前后发布 V4.1 Flash,各项指标全面超越 V4 Pro
DeepSeek 开放平台发布通知,计划于北京时间 2026 年 9 月 10 日前后正式发布 V4.1 Flash 模型,官方称经内外部多方测试,其在性能、费用、速度、总用时等指标上全面超越 V4 Pro。
IT之家·人工智能AI 评分6464 OpenAI CFO:自研 AI 加速 Jalapeno 芯片设计,Luna 部署成本低于开源方案
据路透社报道,OpenAI CFO Sarah Friar 在高盛会议上表示,OpenAI 用自研模型参与 Jalapeno 芯片开发并在 9 个月内完成流片,且部署 Luna 模型的成本低于云端运行开源方案,如智谱 AI 的 GLM 5.3。
IT之家·人工智能AI 评分6262 谷歌计划在芬兰投入至少 130 亿欧元建设 AI 数据中心,为在欧洲最大单笔投资
谷歌宣布将在芬兰投入至少 130 亿欧元建设 AI 基础设施,为公司迄今在欧洲最大单笔投资,未来两年至少新建 3 座数据中心并扩建哈米纳现有数据中心。新数据中心位于卡亚尼、穆奥斯和瓦拉,依托当地寒冷气候、无碳能源和电网条件,具备余热回收能力;Fortum 与谷歌签署 22 年购电协议,2030 年至 2049 年采购洛维萨核电站总发电能力的 50%。
Ant Ling@AntLingAGIAI 评分5454引用SGLang@sgl_projectMeet Ling-3.0-flash-VL (124B/5.5B MoE) from @AntLingAGI, with native image + video understanding and a 1M context window. Day-0 support is live in SGLang! > Native multimodal: ViT encoder + MLP projector brings vision into the full loop of understanding, reasoning, acting, and verification > VideoRoPE: encodes space + time for event localization, long-video QA, and clip editing > 42-layer hybrid backbone: KDA + Gated MLA at 5:1 for efficient 1M-token long context Run Ling-3.0-flash-VL with SGLang!
Inception Labs:BlogAI 评分6464 Inception 发布扩散大语言模型 Mercury 2.5
Inception 发布 Mercury 2.5,称其为目前最强扩散大语言模型,智能较 Mercury 2 提升 40%,在 NVIDIA GPU 上达 1,107 tokens 每秒,上下文 260K tokens,定价 $0.20/百万输入、$0.75/百万输出,发布期 8 折优惠。
ClaudeDevs@ClaudeDevsAI 评分5555
MarkTechPostAI 评分6060 NVIDIA 推出 CUDA Rust:cuda-oxide 与 cutile-rs 让 Rust 编写编译期安全的 GPU kernel
NVIDIA 宣布 CUDA Rust,通过 NVlabs 开源的 cuda-oxide(SIMT)和 cutile-rs(Tile)让 Rust 原生编译 GPU kernel,并借所有权规则在编译期拒绝 buffer 别名错误。