Databricks 发布 AI Function ai_decide,在治理数据上快速做出结构化决策
Databricks 推出新的 AI Function ai_decide(Beta),由 TypeSafe AI 的 Jev 决策模型驱动,对文本评估一个或多个问题,在几分之一秒内返回概率、命名标准中的选项或有序量表评分,延迟和成本低于 LLM。
Databricks 推出新的 AI Function ai_decide(Beta),由 TypeSafe AI 的 Jev 决策模型驱动,对文本评估一个或多个问题,在几分之一秒内返回概率、命名标准中的选项或有序量表评分,延迟和成本低于 LLM。
NVIDIA 宣布 xio-sig 在 cuFile 之外新增 cuObject,并正式开放 cuObject 客户端与服务器库,开发者可通过其 API 和 RDMA 线协议构建加速对象存储应用。同步推出的 SCADA Server SDK 让存储厂商构建响应 GPU 发起请求的 SCADA 服务器,IBM 已用集成 Storage Scale 的原型验证互操作性。
Magnitude(YC S25)发布开源推理引擎,在本地设备上编译调优内核,宣称比 llama.cpp 快最多 2x(Metal 上 decode 快 92%,CUDA 上快 19%)。
Google Cloud 的 AI Agent Clinic 节目演示如何在 60 分钟内搭建框架无关的智能体评测流水线,替代依赖 vibes check 的手工测试。
Google 在 TPU 上通过稀疏注意力内核优化加速视频扩散模型推理,将理论稀疏性转化为端到端实际加速。
NVIDIA 发布教程,演示如何用 NeMo Relay 追踪 Hermes Agent 的 harness 行为:运行终端工具与文件加网页研究两个示例,通过 ATOF、ATIF 和 OpenTelemetry 三种格式的 trace 检查模型与工具调用、错误、重试、耗时和 token 消耗,并结合任务验证结果评估 harness 改动。
AlphaPixel 发布 Slughorn(C++20、MIT 许可),实现 Eric Lengyel 2017 年提出的 Slug 算法,其专利已于 2026 年 3 月进入公有领域。
Anthropic 销售团队基于 Claude Managed Agents(beta)搭建购买智能体,每天处理数千场对话,引导客户从咨询到完成购买。转化的销售机会是旧表单的两倍多,成交快约五天,需人工介入的对话占比下降约一半。文章介绍了部署位置、三种会话结局,以及给目标而非规则、少即是多、引入领域专家等构建经验。
CoreWeave 在 Fully Connected 大会宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网正式可用,Cognition 成为首家跑生产负载的客户,其 SWE-2 推理总 token 吞吐较 GB200 NVL72 最高提升 4.8x。
DeepSeek 与华为合作,开源面向 Ascend 芯片的编程工具,核心是比 CUDA 编程模型更简单的 TileLang,据称华为全面支持该项工作,双方还优化了由 128 颗 Ascend 950 组成的 supernode。
柏林初创公司 Restate 完成由 Singular 领投的 2000 万美元 A 轮融资,Redpoint Ventures 和 Capital One Ventures 参投,资金将用于组建市场团队、扩充工程师并扩展旧金山湾区办公室。
新思科技于 9 月 30 日宣布与亚马逊达成多年期、总额超 10 亿美元(约合 67.18 亿元人民币)的定制芯片 IP 战略合作协议,合作拓展至云端及 AI 赋能的工程研发领域。双方将针对 Trainium 与 Graviton 芯片深度优化新思科技的软件工具,新思科技工程团队还将引入 Amazon EC2 与 Amazon Bedrock 加速产品开发,并借助 AWS 加快自身产品迭代。
Torch Spyre 基于 PyTorch 跨仓库 CI Relay(CRCR)达到 L2 集成,用智能体流水线从代码与执行证据中筛选并重新分桶测试,再用声明式 YAML 框架适配上游测试而无需打补丁。
vLLM 官方博客发布分离式推理实用指南,讲解 vLLM v0.30.0 及以上版本中 prefill/decode 分离、无 GPU render 前端及两者组合的原理与运行方法。
推荐理由:作者来自参与开发的 IBM Research,给出 P/D 与 render 拆分的收益数据、适用场景表和可复用运行方法。
小红书技术团队详解推荐系统 Agentic 发布实践:一次发布横跨十几个部署组、数千个 Pod,平均持续 10 多个小时,团队将发布知识沉淀为近 20 万字 SKILL,并构建长程任务 Harness,通过任务持久化状态、流程模板、引擎推进与 Transactional Outbox 效果查证保障跨昼夜可靠执行。
DeepSeek 开源面向华为昇腾算力平台的基础设施组件,包括 TileLang 编译工具、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect,与此前英伟达平台开源组件一一对应。
推荐理由:原文给出各组件功能与开源链接,读者可以据此评估昇腾平台软件生态的可用范围。
DeepSeek 于 9 月 30 日通过官方公众号宣布正式开源面向华为昇腾算力平台的基础设施组件,与此前面向英伟达平台的开源组件一一对应,涵盖 TileLang 编译工具、计算库和分布式通信库。
Anthropic 与 SpaceX 签署算力协议,据路透社查阅的 IPO 申报文件,合同金额上限最高达 845 亿美元,用于租用 SpaceX 数据中心内的英伟达 GPU。
推荐理由:原文基于 SEC 申报文件给出合同金额、月费与解约条款等具体细节,读者可了解 Anthropic 算力采购的实际安排。
OpenRouter 发布教程,讲解如何从生产流量构建 golden 评测集,作为每次部署前的回归测试。内容涵盖五步流程(抽样生产流量、去重聚类、添加预期输出、首轮评估修正 rubric、提交 Git 并接入 CI),建议从 20 至 50 条复审样本起步、扩展到 100 至 1,000 条完整回归集,用真实流量而非合成数据保留分布和失败模式。
推荐理由:原文给出从生产流量构建 golden 评测集的五步流程和跨模型复测方法,可直接照做。
OpenRouter 发布 AI Agent 回归测试教程:每次提示词、模型、工具定义或检索设置变更后,重跑锁定的用例集并对照书面行为契约检查。
推荐理由:原文给出可复用的 Agent 回归测试方法,包括锁定用例集、行为契约、具体模型 slug 固定和模型切换对比的完整做法。
特斯拉签署总额 300 亿美元的信贷协议,其中包含 200 亿美元可延后支取定期贷款额度、80 亿美元五年期循环信贷额度和 20 亿美元 364 天期循环信贷额度。
Fireworks 为推理部署新增 GLOBAL 多区域选项,让单个部署和单一端点跨区域调度兼容 GPU 容量,避免把工作负载钉在单一区域造成容量上限。其路由在请求路径之外预先规划,DNS 就近选择健康网关,不增加每次请求的全局调度往返。七天生产观测中,可全球部署客户在 2 个以上服务集群的请求成功率从单区域的 99.269% 升至 99.992%。
微软正式发布 Windows Subsystem for Linux 3.0(最新版本 3.0.1),在 Windows 11 上原生支持运行 Linux 容器,引入 wslc(WSL Containers)工具,无需额外虚拟化软件即可创建、部署、运行容器,并同步开放 API 供 Windows 程序透明调用。
Liquid AI 发布决策模型 d1,专为结构化选择设计,通过 Noul、Choice、Score 三种原语一次调用返回类型化答案和校准概率,output_tokens 为 0。
Databricks 发文介绍其让 12,000 多名员工在新模型发布首日即可使用的方法,依托 Unity Gateway 和 UG CLI 分发实验配置,并用按用户的四类预算限制用量。
🚨 BREAKING: Super excited to announce we're deploying the world's fastest inference with @Cerebras. Talk to any developer and they're excited to build with 20x faster AI... the problem is there's almost no compute available. We're here to solve that. Using GPUs for prefill - it's now more affordable than ever too. Thank you to the whole Cerebras team and excited to grow this partnership. First tokens live Q127 🚀
OpenAI 宣布 Codex cloud environments 上线,用户关掉笔记本后智能体仍可继续工作。可复用的云环境预置仓库、依赖、脚本和设置,减少配置时间、加快启动。
同一件事,精选收录的是《OpenAI 推出 Codex 云环境,可复用配置并跨设备跟进任务》
OpenAI 在开发者活动日宣布推出 GPT-6.1 Sol,性能接近旗舰 GPT-6 Astra,标准输入/输出 token 价格仅为 Astra 的五分之一,每 100 万 token 缓存输入费用 0.10 美元。
同一件事,精选收录的是《OpenAI 发布 GPT-6.1 Sol,以约五分之一价格接近 GPT-6 Astra 智能》
OpenAI 发布 GPT-6.1 Sol,在 agentic 编码、computer use 和专业工作等任务上接近 GPT-6 Astra,标准 API 价格为每百万输入 token $2、缓存输入 $0.10、输出 $10,约为 Astra 五分之一。
推荐理由:官方公布了与 GPT-6 Astra 的多项基准对比和完整 API 定价,开发者可以据此评估用五分之一成本替代旗舰模型的可行性。
We just raised an $8M seed round to kill AWS, GCP, and Azure. Introducing http://instacloud.com, the agent-native serverless cloud. Your team is shipping code like never before. But you're getting caught up in manual, tedious DevOps work trying to deploy it. InstaCloud provides the serverless compute that lets your services autoscale, with all the infrastructure managed for you. Agents branch into complete replica environments when working, keeping prod safe and iteration speed high. And of course, it all works seamlessly with agents through MCP/CLI. Get off the traditional, legacy cloud. Start deploying your services on InstaCloud today.
作者实测 Anthropic 新发布的 Claude Sonnet 5.5,用代码动画、HTML PPT、3D 网页和写作四项任务对比 Opus 5.5 与 gpt6。
Manus 发布 2.0 版本,将 AI 智能体升级为平台,用户可编辑视频、托管多人游戏,并用手机远程操控智能体。
Google Cloud AI Research 联合 UNC-Chapel Hill、Stanford 和圣路易斯华盛顿大学发布 RRSI(Regularized Recursive Self-Improvement),让 LLM 智能体在不改动模型权重的情况下改写自身 harness 的提示词、工具、记忆、控制流和子智能体。
开源项目 ESP32S3-LLM-Cluster 在 7 块 ESP32S3 上以分布式流水线方式运行 1.58-bit BitNet 量化模型,其中切片后的 0.5B 模型由 1 块主节点加 6 块计算节点分担。
据知情人士,AI 推理基础设施公司 Modal Labs 接近完成由 Accel 领投的 7.5 亿美元融资,投后估值 157.5 亿美元,较四个月前 46.5 亿美元估值增长逾两倍。
Databricks 发布 Lakebase Search,为 Lakebase Postgres 带来 lakebase_vector(可扩展近似最近邻搜索)和 lakebase_text(BM25 全文搜索)两个扩展,已在 AWS 和 Azure 正式可用。
Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程,依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步:立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。
推荐理由:Databricks 以自家 12000 名员工的实际 rollout 为例,给出可复用的新模型评估、预算分层与成本度量方法。
GPU 租赁价格在九个月内从 $4.40 翻倍到 $8.08 每 GPU 小时,但 AI 使用价格仍在下降。
推荐理由:文章用 GPU 租金翻倍与 AI 推理降价并存的数据,解释两条曲线如何靠效率提升维持平衡,并指向每 GPU 小时毛利这一关键指标。