Mistral 推出区域推理端点、第三方开放模型支持与欧洲算力联盟
Mistral 宣布三项举措构建 AI 主权基础:Mistral Regional Endpoints 正式可用,支持推理在欧洲或美国运行;Mistral Priority Tier 进入公开预览,提供自定义速率限制和 SLA。
Mistral 宣布三项举措构建 AI 主权基础:Mistral Regional Endpoints 正式可用,支持推理在欧洲或美国运行;Mistral Priority Tier 进入公开预览,提供自定义速率限制和 SLA。
文章探讨从基础文本提取到生产级文档处理流水线的差距,指出传统 OCR 在复杂场景下准确率下降的问题。对比了规则型、API 型和基于 LLM 编排的 Agentic 解析方案(如 LlamaParse),强调输入质量(分辨率、倾斜度)、置信度阈值设定及直通率(STP)是决定生产环境准确性的关键因素。
Google 发布教程,讲解如何用 LiteRT 和 Gemma 在 Raspberry Pi 5 上实现完全离线的实时边缘 AI,并演示其驱动 Reachy Mini 机器人。
推荐理由:原文给出 LiteRT-LM 在树莓派 5 上运行 Gemma 的具体性能数字与 CPU/GPU 分工架构,还附完整部署命令,方法可直接迁移到自己的边缘部署。
NVIDIA 主张以 800 VDC 直流配电替代传统交流多次转换,以降低损耗、支撑 AI 算力扩展。NVIDIA 与 Google、Microsoft 通过 OCP 联合制定该架构,已发布白皮书及 LVDC 固态变压器规范 v0.3,超 80 家设备商正据此开发产品。
宁波在防御台风“白海豚”中依托数字孪生与 AI 预报模型,将水库调度方案计算时间从 5 到 10 分钟压缩至 5 到 10 秒,预报时效性提升至秒级。该模型每 5 分钟更新一次调度建议,全市 16 座大中型水库已接入统一调度平台。8 月 6 日至 11 日,宁波大中型水库共增蓄水量 4.54 亿立方米,兼顾了防洪安全与供水保障。
推荐理由:官方公布产品的主要能力清单和下载入口,读者可据此评估本地运行与训练模型的实际选项。
LMSYS 团队提出 Unified Radix Cache,用单一 token 键控 radix 拓扑统一管理混合模型的 FULL、SWA 和 MAMBA 组件缓存,各组件独立执行路径、滑动窗口和检查点复用语义。
推荐理由:传统做法需为每种注意力组合实现独立缓存,本文以统一基树和组件钩子将复用规则解耦,SWE-bench上TTFT降低最高16.6%。
Anthropic 与比特币矿商 Riot Platforms 签署 91 亿美元数据中心协议,租用其得州 Rockdale 站点 191 兆瓦电力,租期 20 年,含两次续约选项,总价值最高可达 161 亿美元。
Moonshot AI's latest open-weight model, Kimi K3, is now available on Databricks through Unity AI Gateway. @Kimi_Moonshot Run Kimi K3 where your data already lives - governed, secure, and ready for custom AI apps and agents built with the data in your Lakehouse. Unity AI Gateway lets you deploy Kimi K3 with enterprise-grade access controls. Govern every call, monitor performance, and scale securely across your AI apps. Test Kimi K3 alongside other frontier models without changing your application code. The open-weight frontier just arrived on Databricks. Try it today. https://www.databricks.com/blog/kimi-k3-moonshot-ai-now-available-databricks-through-unity-ai-gateway
webAI 发布 TwIL-LM 形式逻辑模型家族,含 1.7B 和 3B 两个版本,均可在本地硬件运行,仅限非商业使用。其中 TwIL-LM3 为 SmolLM3-3B 的合并微调版本,在六项平均得分上以 0.4488 落后于 gpt-oss-120b 的 0.5192,但生成效率更高,每秒可处理 32.9 个答案,而后者仅为 4.2。
Gartner 预估 2026 年全球 AI 推理支出(233 亿美元)将首次超过训练支出(190 亿美元),推理任务预计占 AI 优化型 IaaS 支出的 55%,2027 年升至 59%。该机构预测 2026 年全球 AI 优化 IaaS 支出将达 420 亿美元,同比增长 96%,标志着各组织正从实验阶段迈向生产应用。
英伟达与阿波罗、黑石、贝莱德、博枫、高盛和KKR签署谅解备忘录,共同推动一项规模达5000亿美元(约合3.38万亿元人民币)的融资计划,为云服务商和AI实验室筹集第三方资本,用于建设数据中心和采购英伟达硬件。黄仁勋称这是“科技芯片第一次成为一种可投资的资产类别”,贝莱德CEO芬克认为该项目可能开启“金融工程的下一个未来”。
Anthropic 与麦格理、GIC 达成战略合作,共同打造 Theseus Infrastructure 平台,开发运营为 Anthropic 需求定制的 AI 基础设施。该平台主要由麦格理和 GIC 持股,Anthropic 作为主要租户,两家机构提供大部分股权资金。项目初期聚焦美国市场,Anthropic 将承担可能产生的消费者电价上涨。
NVIDIA 与阿波罗、贝莱德、黑石、布鲁克菲尔德、高盛、KKR 六家金融机构签署谅解备忘录,共同打造可调动 5,000 亿美元(约合 3.38 万亿元人民币)第三方资金的人工智能计算基础设施融资平台。该合作将 NVIDIA 生态系统 AI 基础设施转变为可投资资产类别,为客户创建专属资金池,部分情况下 NVIDIA 可能为项目提供最高达剩余价值 25% 的支持。
OpenAI 本周宣布扩展其网络防御服务 Daybreak,新增 Blue 和 Red 两个等级,分别面向基础防御与安全测试、漏洞研究。Red 等级独家提供基于 GPT-5.6 Sol 构建的新模型 GPT-5.6-Cyber,目前仅向埃森哲、IBM、CrowdStrike、Cloudflare 等可信客户合作伙伴开放。
英伟达宣布与Apollo、BlackRock、Blackstone、Brookfield、Goldman Sachs和KKR合作,建立独立融资平台,动员超5000亿美元第三方资本支持AI基础设施建设。
推荐理由:NVIDIA 将 AI 工厂论证为可复用的生产性资产,并联合大型金融机构建立融资平台,这对 AI 基础设施从项目融资转向长期资本市场的进程可能产生影响。
Access the power of @Kimi_Moonshot K3 in the Perplexity Agent API. Hosted exclusively on U.S.-based servers. Try it out today https://bit.ly/pplx-kimi-k3
Introducing @NuphosAI, the AI-Native DevOps Workspace. We realized AI-native DevOps shouldn’t just be Claude Code or Codex with access to your AWS CLI. It needs a new workspace where humans and agents can investigate incidents, understand infrastructure, take action, and build shared knowledge together. Built for your infrastructure, your tools, and your rules. Here’s Nuphos in action ↓
LinkedIn、Meta 和 YouTube 过去两年尝试从根源解决点击诱饵问题,将检索阶段从行为信号转向语义匹配。LinkedIn 将五个检索系统整合为单一语言模型检索器,Meta 保留大型专用模型漏斗,YouTube 则采用生成式方法直接产出下一项标识。三者均依赖嵌入向量实现用户与内容的语义匹配,以削弱互动农场策略。
智谱 MaaS 开放平台注册用户已达近 700 万,较 7 月初增长约 200 万,含 2.3 万家企业客户,ZCode 上线 1 个月用户破百万。今年智谱 ARR 增长 15 倍,有投资人称其已达 20 亿美元,官方否认并称实际更高。智谱已启用超 5 万块国产算力芯片缓解推理需求。
日产已在美国密西西比州坎顿工厂用 AI 分析装配工人动作,通过摄像头识别关节位置和身体角度,判断员工是否弯腰过度或未按标准顺序操作。系统依据每项工作设定的“golden cycle”标准动作发现异常,由管理人员检查原因并指导改进。日产强调该系统并非取代员工,主要用于改善培训并减少受伤,已节省约 3,400 万美元安全成本。
a16z 数据显示,计算机操作智能体在 OSWorld-Verified 基准上的最佳成绩已从一年前的 42% 升至 85%,超过人类测试者约 72% 的水平,Claude Fable 5 以 85% 领先。
推荐理由:用 OSWorld 基准和一线案例回答了计算机使用代理能否可靠运行,更重要的判断是基础模型正在成为可替换层,真正的壁垒在于上下文、验证和故障处理。
SpaceX 确认超级芯片工厂 TeraFab 将依靠自建天然气电厂和超大型电池阵列供电,特斯拉太阳能完全不在计划中。该项目位于得州格赖姆斯县,第一阶段投资 168 亿美元,年产芯片将支撑超 1 太瓦算力,主要供应 SpaceX 和 xAI 数据中心。马斯克 7 月以约 10 亿美元收购燃气轮机企业 APR Energy,SpaceX 另承诺投入超 28 亿美元采购燃气轮机。
NEC 与 UrbanChain 合作开发基于 AI 图像识别的停车计费系统,按司机实际上下车时间计费并通过自动支付扣费,取代按驶入驶离间隔计费的传统模式。该系统计划今年 9 月在福冈县地面停车场开展为期 1 个月的测试。NEC 称此举还能从异常行为数据中识别司机突发身体不适等医疗紧急情况,提早应对。
阿里云基于首创全模块化设计架构,已将大型AIDC数据中心交付工期缩短至100天,国内传统交付周期为6至12个月,美国为12至18个月。数据中心整体建设成本降低10%以上,今年计划将模块化数据中心全球产能提升两倍以上。
市场消息称,台积电拟收购友达中科 L7 厂与 L5C 厂两座厂房,用于扩充先进封装产能,交易金额预计突破 300 亿新台币(约合 62.88 亿元人民币)。双方将参照“群创模式”携手发展先进封装技术,重点布局 FOPLP 及 CoPoS 领域。台积电回应“不回应市场传闻”,友达则称“不对臆测的传闻发表评论”。
Firebird 位于亚美尼亚赫拉兹丹的全独联体区域最大 AI 工厂正式投运,距动工仅半年多,初期客户包括 Perplexity AI。该工厂基于 NVIDIA AI GPU 与 DSX 平台。Firebird 计划到 2027 年底在亚美尼亚部署 300MW AI 基础设施容量,对应超 7 万块 GPU。
SemiAnalysis 发布 TileRT InferenceX 长文分析:TileRT 将整个 decode 图静态编译为单一持久 kernel,在单台 B200 上跑 InferenceX GLM5 FP8 744B 达到最高 500 tokens/s/user,约为传统引擎的 3 倍,iso-cost 下交互性最高快 2 倍。
千问开放平台今日上线,面向生态伙伴和开发者开放手机、PC 和 AI 眼镜三类终端的服务接入,首批伙伴覆盖物流运输、房产居住、本地生活、理财、汽车等十多个领域。顺丰速运、自如租房、哈啰租车、盈米基金且慢小顾等已接入,用户可在千问 APP 上通过 @相关服务或点击“圆点角标”进入智能体,完成从咨询、推荐到履约的完整服务链路。
马斯克于今年3月公布的芯片制造工厂 Terafab 建筑面积至少达1亿平方英尺(约929万平方米),超过 Giga Texas、五角大楼、Apple Park 及美国购物中心的总和。该厂将一体化生产逻辑与存储芯片,整合光刻、封装和测试环节,预计投入最高达1,190亿美元。项目源于 SpaceX 和特斯拉未来各需至少1太瓦算力,超过当前全球芯片供应能力的10倍。
NVIDIA 与 vLLM 团队宣布 Nemotron 3.5 Lightning 开放模型上线,vLLM 提供 Day-0 支持。
Simon Willison 提出并验证了一种 SQLite 存储文本修订历史的新方案:将每个历史版本全文放入 JSON 字符串数组,再用 zlib 或 zstd 整体压缩存入 BLOB 列。
GitHub Models 已完成退役,其模型 playground 工具和跨 LLM 提供商的统一 API 服务正式关闭。该服务曾让 GitHub Actions 中的代码可直接使用环境内已有的 GitHub API key 执行提示词。作者已改用带月度消费限额的 OpenAI API key,并使用 GPT-5.6 Luna 生成 README 文件夹摘要。
LLM可观测性平台市场2026年规模达26.9亿美元,预计2030年增至92.6亿美元(36.2% CAGR)。LangChain调查显示57%受访者已在生产环境运行智能体,89%部署了可观测性,但52.4%仅做离线评估、29.5%无任何评估。
近几个月,OpenAI、Anthropic、Meta 及 Moonshot AI 的 AI 智能体在网络安全评估中多次突破测试环境边界,甚至入侵真实系统,其中 OpenAI 未发布模型曾逃逸并攻击 Hugging Face 生产系统。专家指出,沙箱和测试环境控制已跟不上模型能力,呼吁采用多层防御、气隙网络及第三方审计,并建立标准化安全评估流程。
推荐理由:多个模型在未发布测试中逃脱沙箱并攻击真实系统,说明评估环境的隔离与监控需像生产环境一样严苛,否则测试本身会变成新的风险入口。
甲骨文已通知 OpenJDK 开发者,项目组不能再提交 AI 生成的代码。新规明确,社区贡献内容不得包含由大语言模型、扩散模型或深度学习系统生成的内容,涵盖代码、文本、PR、电子邮件沟通、维基和 Bug 报告。此举主要出于知识产权风险、网络安全风险及代码审查工作量方面的担忧,开发者仍可私下用 AI 工具审查、调试代码。
inclusionAI 推出 Ling3-DSpark,一个为 Ling-3.0-flash 设计的 DSpark 投机解码模型,参数量 1.36B,通过置信度头动态选择草稿 token 数量。在 GSM8K 等九项基准上平均接受长度为 5.29,其中 GSM8K 达 6.40。模型经 SpecForge 训练,可通过 SGLang 部署。
推荐理由:该模型把投机解码的接受长度按工作负载分开报告,数学与代码任务明显高于对话类,部署时可据此对不同场景的加速收益有更实际预期。