Fastino 发布 GLiNER2.5:以边界预测取代跨度枚举的信息抽取架构
Fastino 发布 GLiNER2.5,以边界预测取代跨度枚举,移除最大实体宽度限制,支持 4096 词上下文,计算量随序列长度线性增长。多语言检查点在 16 个零样本基准上整体 macro F1 达 56.17(GLiNER2 为 56.09),XNLI 提升 24.75 分。
Fastino 发布 GLiNER2.5,以边界预测取代跨度枚举,移除最大实体宽度限制,支持 4096 词上下文,计算量随序列长度线性增长。多语言检查点在 16 个零样本基准上整体 macro F1 达 56.17(GLiNER2 为 56.09),XNLI 提升 24.75 分。
llm-anthropic 0.27 发布,主要适配近期推出的 anthropic v1.0.0 Python 库,后者将依赖从 httpx 切换至 httpx2。OpenAI 在两周前的 v3.0.0 版本中也做了相同变更。Anthropic 提供了迁移指南,作者借助 Claude Code 中的 Fable 5 完成升级并让测试通过。
Meta 设计并开源了 MetaRoCE,一个专为 AI 工作负载在通用以太网上打造的 RDMA 传输协议,已通过 Open Compute Project(OCP)发布规范、参考软件实现和合规测试套件。该协议将智能移至端点,原生支持乱序交付、多路径、无损容忍和双向拥塞控制,无需 PFC,可在百万 GPU 规模下提供高吞吐、低尾延迟。现有 RDMA Verbs API 和软件栈无需修改即可运行。
推荐理由:MetaRoCE 把拥塞控制与路径选择交给端点,AI 集群无需 PFC 也能在有损以太网上维持吞吐,实测 1% 丢包下保持 86% 吞吐,为大规模组网去掉无损约束提供了依据。
丰田北美借助 Deep Agents 和 LangSmith 运行 50 多个生产环境 AI 智能体,将交付周期从 6 个月缩短至 4 天。文章展示了其如何通过 LangSmith 追踪 AI 投资回报率(ROI),并以此支撑企业级 AI 的规模化落地。
Databricks 工作区专为数据分析和数据工程而构建,现支持从本地 IDE 直接运行、调试和扩展工作负载。该功能旨在弥合本地开发环境与云端 Databricks 平台之间的差距,让开发者无需切换上下文即可完成编码、测试和部署。
台湾基隆检方起诉九人,涉嫌伪造文件掩盖向中国非法出口高端AI服务器、违反美国出口管制,据称包括一名Nvidia高级经理和两名Supermicro在台员工。嫌疑人被控“背信与伪造文件”,另有一名相关案件嫌疑人仍在逃。此前美国于3月逮捕Supermicro联合创始人Wally Liaw,指控其自2024年起向中国输送价值25亿美元受限AI服务器。
NVIDIA Dynamo 推出预览版影子引擎恢复功能,通过 GPU Memory Service 让权重常驻显存并由预初始化的影子引擎接管故障进程,恢复时间从 283 秒冷重启缩短到 7.3 秒,约快 39 倍。
OpenAI 推出 ChatGPT Work,将 Codex 改造为面向非工程师的智能体产品,最低订阅档每月 20 美元即可使用,旨在让白领通过 LLM 自主完成多步骤工作。OpenAI 内部 6 月有 98% 员工使用 Codex,但组织订阅者仅 17%、个人订阅者不足 1%。公司正通过简化界面扩大采用,以支撑其巨额训练投入。
推荐理由:内部 98% 使用对组织 17%、个人不足 1% 的落差,把智能体无法走出编程群体的障碍从模型能力转移到产品交互与可发现性上。
NVIDIA 实测数据显示,Vera Rubin NVL72 在智能体工作负载下每兆瓦吞吐量较 GB300 NVL72 最高提升 30 倍,每百万 token 成本降低至 35 倍。
推荐理由:对电力受限的 AI 工厂,每兆瓦吞吐量 30 倍提升与 token 成本同步下降,意味着同等能源预算下可承载的 agentic 负载量级不同,部署决策中的成本模型可能改写。
NVIDIA 推出 NVLink Fusion,将定制 XPU 接入其 NVLink 扩展域,使 XPU 间端到端延迟比基于现成以太网的方案低 3 倍、数据包速率高 10 倍。
AI 基础设施瓶颈正沿供应链依次传导,形成典型的牛鞭效应。2023 年初 GPU 短缺使 H100 租赁价超 $9/小时,随后压力转移至内存,企业级 SSD 合约价单季上涨 80%;到 2025 年底智能体推高 CPU 需求,2026 年存储短缺导致西数和希捷 2026 全年 nearline 产能售罄。数据中心建设成本已超 $20b/GW,变压器交期近三年,涡轮机订单排至 2031 年。
推荐理由:把牛鞭效应用在 AI 硬件供应链上,解释了瓶颈逐段迁移的滞后期,可为判断 2027-2028 年哪些长期资本开支会先承压提供框架。
ElevenLabs 发布 CLI v1,把 ElevenLabs API 直接带入终端,OpenAPI spec 中的所有 API 端点都可用作子命令。
推荐理由:官方介绍 CLI 的 agents-first 设计细节,读者可以了解如何用文件和版本控制管理大规模 Agent 配置工作流。
Cerebras 发布新一代 AI 加速器 CS-4,CEO 称其为业界最快系统。该机架级产品仍采用 5nm WSE-3 芯片,通过提升功耗与散热将时钟频率翻倍,单机架容纳三片晶圆,每用户每秒可处理高达 4,400 tokens,据称比 Nvidia GPU 方案快 30 倍。
阿里巴巴集团主席蔡崇信、CEO 吴泳铭在 800 亿港元新股配售公布次日,合计增持 107 万股阿里港股,总金额约 1.2 亿港元(约合 1.03 亿元人民币),对公司 AI 战略投下信心票。此前一日阿里宣布 800 亿港元配售,所得款项将全部投入全栈 AI 能力和 AI 基础设施建设,配售获近 3 倍超额认购。最新财报显示,阿里 AI 相关产品年化收入已突破 495 亿元人民币。
Coherent 上周宣布已开始向人工智能半导体合作伙伴提供 300mm(12 英寸)高导热性碳化硅(SiC)衬底样品,宣称散热性能比现有解决方案提升多达 25%。该公司高级副总裁 Craig Mullaney 表示,AI 性能日益受散热能力限制,Coherent 正结合数十年 SiC 专业技术和可扩展的 300mm 制造平台,为未来 AI 基础设施构建材料基础。
小米在今日玄戒芯片技术沟通会上发布新一代玄戒芯片,包括「AI 旗舰 SoC」玄戒 O3、「高带宽 AI 加速芯片」玄戒 O100 和「国内首款 3nm 智驾高算力 AI 芯片」玄戒 D100。雷军透露,小米重启大芯片研发五年多,累计投入研发经费超 210 亿,芯片团队近 3000 人。玄戒 O3 已开启规模量产,O100 和 D100 研发完成,明年正式商用。
三星技术负责人 Han Sang-wook 在 Hot Chips 2026 提出 HBM 远期愿景,计划将内存控制器从处理器转移到 HBM 基底芯片中,以释放 SoC 面积并增加计算晶体管。内存控制器当前约占 SoC 面积的 5%-10%。三星还在研究 aHBM(Advanced HBM)方案,让 HBM 从高速内存向内存 + 计算演进,承担部分 AI 计算任务。
美国成屋签约销售量跌至三年最低,7月新屋建设创三年半新低,房地产市场承压。AI数据中心建设热潮正争夺建筑业熟练技工,部分住宅建设工人转向数据中心项目。美国住宅建筑商学会CEO埃德·布雷迪称,全美约缺30万名熟练技工,且短期内难以扭转。
阿里巴巴完成 800 亿港元(约合 686.51 亿元人民币)新股配售定价,所得款项净额将 100% 用于投资全栈 AI 能力,加强 AI 基础设施建设。据接近交易的消息人士称,本次配售获近 3 倍超额认购,超 2,000 亿港元,主权和长线基金最终认购比例超 40%,中东、欧洲、亚洲等地区主要主权基金均积极参与。
五家最大GPU neocloud商业模式各异:CoreWeave与Nebius向SEC报告,Lambda和Crusoe为私有并筹备IPO,Groq在将LPU技术授权给NVIDIA后转型为推理云。
摩尔线程发布《MTT S5000 Prefill-as-a-Service 技术白皮书》,基于旗舰级AI训推一体智算卡MTT S5000构建“Prefill As a Service”新范式,面向AI Agent、代码生成、超长文档分析等长上下文推理场景。
SK 海力士在 Hot Chips 2026 大会上披露下一代 HBM 封装路线图,计划借助英特尔 EMIB 等先进封装技术,未来进入 3D 封装阶段。其 HBM4 带宽超 2TB/s,功耗效率较 HBM3E 提升 40% 以上,容量最高 48GB,并正研发混合键合与 I-HBM 局部热点缓解技术以应对散热挑战。
SemiAnalysis 发布 AgentX 1.0,一个以 Apache 2.0 协议完全开源的百万上下文多轮智能体编码推理基准,作为 InferenceXv3 的新场景,配套数据集耗资超过 300 万美元并在约 2MW 算力、1000 多块芯片上运行。
长期运行的 AI 智能体会因上下文累积而注意力衰减、临时指令变成永久规则,并带来安全风险。建议给日常助手 24 小时生命周期,每天重置会话,将具体任务委托给只存活 30 秒的单一用途子智能体,并在午夜前将持久偏好保存到文件中。
推荐理由:作者提出24小时生命周期加短命子代理的架构模式,并给出可直接复用的调度与执行提示词。
封闭模型已成为较小的一部分。 开放权重模型在Vercel AI Gateway的token占比于8月达到62%,高于6月的28.4%。
Today's a record day for open weight share of tokens on Vercel AI Gateway. Aug 22 (today) 🟦 Open: 62% 🟨 Closed: 38% Jun 24 (~2 months ago) 🟦 Open: 28.4% 🟨 Closed: 71.6% This is very likely just the start, because enterprise adoption is still early, and harnesses, CLIs, IDEs, SDKs, etc need to be adapted to be model agnostic.
NVIDIA 发布 Groq 3 LPX 交互式 AI 推理加速器,与 Vera Rubin NVL72 搭配服务高交互场景。
美国初创公司 Starcloud 完成 2.5 亿美元 A 轮扩展融资,估值达 23 亿美元,由 Manhattan West 领投,英伟达、思科等参投,资金将用于研发配备高性能 GPU 的卫星。
Republicans now see AI data centers as an electoral liability. In a private memo to leading AI firms, the Senate Republican campaign arm says public anger over U.S. data centers is threatening the party’s chances of keeping an important Ohio seat. It says Democrats have made data centers a major part of their effort to defeat Sen. Jon Husted (R-OH), and that strategy appears to be working with public. "If voters' perceptions of data centers are not fixed quickly, the campaign against them will expand far beyond Ohio." Republicans fear data-center backlash in Ohio could spread into a nationwide AI infrastructure constraint.
UC Berkeley 与 UT Austin 团队提出 FreeToken,将个人电脑视为统一弹性推理平台,在 8 GB 笔记本 GPU 上以交互速度运行 35B 模型,在单张工作站显卡上运行 753B GLM-5.2。
微软计划在英国利兹斯凯尔顿农庄建设的超大规模 AI 数据中心园区遭当地居民反对,请愿已收集 4 万个签名。该项目含 3 栋建筑、总建筑面积 4.65 万平方米,利兹规划委员会仅条件性批准,最终需首席规划官签字。居民担忧 29℃ 时运营耗水量大及额外电力需求推高本已高昂的能源价格。
彭博社报道,受内存短缺影响,搭载英伟达AI芯片的服务器价格在许多情况下将上涨超15%,波及Vera Rubin和Grace Blackwell系统。涨价主因是三星、SK海力士和美光的DRAM成本上升,适用于明年初发货的产品。为微软、谷歌和甲骨文代工的服务器制造商已通知客户,英伟达未予置评。
本教程演示如何用 deepDoctection 搭建端到端文档智能流水线,涵盖布局分析、DocTR OCR 与表格抽取的配置。同时展示如何为实体识别实现自定义服务,并为 RAG 工作流生成结构化 JSONL 数据。
阿里巴巴宣布拟向美国境外的非美国人士配售新股,总金额 800 亿港元(约合 688.11 亿元人民币),为 2019 年港股上市以来首次启动新股配售。本次配售所得款项净额将 100% 用于投资全栈 AI 能力,加强 AI 基础设施建设。