#部署/工程

ClaudeDevs@ClaudeDevs· 07:06AI 评分5353

我们已为所有用户提升 Claude Platform API 速率限制并简化层级，不再基于 API 消费额。最新的 Sonnet 和 Haiku 模型在最高层级提供 5 倍更高的速率限制。

借用夜晚：将闲置推理GPU回收用于研究

Runway 开发了名为 deckard 的容量控制器，在生产推理集群与研究集群间动态重分配 GPU。生产流量在北美工作日上午 9 点 ET 达峰，晚 8 点 ET 跌至不足一半。控制器基于预计算的时间窗口（如工作日 8:30–12:30 ET 高峰子窗口）提前扩容和回收，每次集群间转移耗时 20–60 分钟。利用排队论（Erlang‑C、Little's Law）确定目标利用率，避免接近 85% 后的队列发散（90% 利用率下等待时间约为服务时间的 10 倍）。此方案使夜间闲置 GPU 回归研究、白天排队等待缩短。

Rohan Paul@rohanpaul_ai· 05:08AI 评分4848

Palantir CEO透露，部分美国政府客户正在将敏感AI工作迁移至Nvidia的Nemotron开源模型。Nemotron可在气隙环境运行，隔离于不安全的外部网络，适合对数据泄露敏感的国防任务。Karp称Nemotron在机密战场级任务上表现相当或更优。更深层变化在于，模型质量不再是唯一购买决策因素，机构现在综合权衡速度、价格、主权、审计追踪和运营控制。美国开源模型为华盛顿提供了介于闭源实验室和海外技术栈之间的第三条路径。

阿里巴巴发布 Page Agent：开源 JavaScript 库实现网页 DOM 自然语言操控

阿里巴巴发布 Page Agent，一个开源的 JavaScript 客户端库，嵌入网页后可通过自然语言指令直接操作 DOM 元素。与 Playwright、Puppeteer 等外部浏览器自动化工具不同，Page Agent 不依赖截图或多模态模型，而是将实时 DOM 脱水压缩为 FlatDomTree 文本映射，让纯文本模型精准执行点击、表单填写等操作。它继承用户 cookies 和会话，无需独立后端，并支持任意 OpenAI 兼容端点的模型（示例使用 `qwen3.5-plus`）。项目采用 MIT 许可证，适合在自有应用内构建 AI 副驾、智能表单填充或无障碍控制等场景，但限于单页面范围，风险操作仍需服务端验证。

Microsoft 成立“Frontier Company”，斥资 25 亿美元派驻 6000 名 AI 工程师到企业客户现场

Microsoft 新设业务部门“Frontier Company”，拨款 25 亿美元，将 6000 名行业与工程专家派驻企业客户现场，“共同设计、共同创新、部署并持续改进 AI 系统”。该部门由 Rodrigo Kede Lima 领导，旨在超越“前部署工程”模式，成为“最大、以结果为导向的工程组织”。Microsoft 将自己定位为 OpenAI 和 Anthropic 的“平台中立”替代方案，后两者也已设立专门部署公司。Microsoft 将借助埃森哲、凯捷、安永等系统集成商扩大覆盖范围。

Agent辅助的SGLang开发：初步探索

SGLang团队将LLM服务、分布式运行时、GPU内核、扩散管道等工作流编码为可执行的SKILL.md文件、脚本、基准合约和审查循环。现有技能包括：SGLang .claude/skills（CUDA调试、内核集成、性能分析等）、SGLang diffusion .claude/skills（扩散模型添加与调优）、BBuf/AI-Infra-Auto-Driven-SKILLS（跨框架SOTA循环）、KDA（MLSys 2026 FlashInfer内核竞赛获胜方案）以及BBuf/KDA-Pilot（已合并三个SGLang集成PR）。Profile证据是性能工作的核心，长期优化转向Loop Engineering——SGLang SOTA Performance Loop将追求SOTA分解为公平基准测试、差距决策、性能分析、补丁和再验证，Humanize/RLCR添加外部审查，Codex Goal以更低协调开销运行相同循环。评审重要性提升，开发者需定义问题、选择证据、设计工作流并判断结果是否可用于生产。

Anthropic 与三星洽谈定制芯片合作

据 The Information 报道，Anthropic 正与三星接触，探讨一款尚在规划中的定制芯片合作，但芯片具体用途、服务器集成方式及性能参数均未确定。Anthropic 对 TechCrunch 表示，包含 Google、Amazon 和 Nvidia 芯片的多元化硬件堆栈仍将是其计算战略核心。此举延续了 AI 公司减少对 Nvidia 依赖的趋势。上周，竞争对手 OpenAI 已与 Broadcom 合作推出自研推理处理器“Jalapeño”。三星目前已是 Nvidia 的主要芯片生产伙伴，并与 Google 讨论芯片制造合作。

Claude Enterprise 新增用量与成本分析及支出管控功能

Claude Enterprise 推出更丰富的管理分析工具和成本控制功能。仪表板现可按群组和用户分析用量与成本，支持按 SCIM 群组筛选，展示制品创建、文件编辑、技能和连接器对应的成本。Claude Code 管理控制台新增“使用量”和“价值”选项卡，分别显示活跃开发者、会话次数、常用命令，以及生产力提升估算、每次提交成本和年度价值估算。分析聊天支持自然语言查询并返回可导出图表。Analytics API 可将数据接入 Datadog Cloud Cost Management 和 CloudZero。管理员可设置模型默认和权限控制，并配置组织级支出限额的 75%、90% 告警通知；用户在 75% 和 95% 时收到应用内提醒。Admin API 支持自动审批额度增加、标记接近限额用户及快速变化的用量。

Satya Nadella@satyanadella· 23:51AI 评分6464

企业的未来是一个学习循环，人力资本与token资本不断累积。 借助我们的新Frontier Co.，我们的目标是帮助每个企业构建自己的AI能力，并帮助创建一个前沿生态，使每个组织都能将其知识、工作流程和判断力转化为自己的AI系统，并持续改进。https://blogs.microsoft.com/blog/2026/07/02/microsoft-frontier-company-ai-engineering-that-amplifies-and-protects-your-intelligence/

花旗、Adobe等企业限制员工使用AI旗舰模型以控制成本

据404 Media获取的内部资料，Atlassian、Adobe、亚马逊等六家企业正限制员工使用AI工具，要求改用能力较低的大模型避免成本失控。至少一家企业月度AI开销增至三倍，超1500万美元。花旗银行因GitHub改为按量计费，于6月24日禁用Claude Opus 4.6、4.7及GPT-5.5等旗舰模型。Adobe于6月30日终止Claude无限制使用协议。Atlassian数据显示其AI月支出从500万美元飙升至1500万美元，本财年预计超1.2亿美元。GitHub计划改用开源模型并测试单人按量计费模式。

微软宣布斥资 25 亿美元成立新公司，助力企业落地人工智能技术

微软今日成立微软前沿公司，初期注资 25 亿美元，客户包括联合利华、诺和诺德。新公司将协助企业整合微软自研及第三方 AI 工具（含开源大模型），对接内部数据，产出成果归客户所有。微软商用业务总裁承认三年前只绑定 OpenAI 模型是错误，企业需灵活替换顶尖模型（如 DeepSeek、Gemini）并自主微调。微软已持有 OpenAI 股权，并将 Anthropic 大模型接入 Copilot。

微软推出自有AI部署公司，投入25亿美元

微软本周四宣布成立新运营业务Microsoft Frontier，专注利用现有AI工具实现企业AI规模化部署。该项目获25亿美元投资，配备6000名专家。微软商业业务CEO称该组织将超越“前置部署工程师”模式，成为行业最大结果导向工程组织。此举与AWS（10亿美元内部承诺）、OpenAI和Anthropic的类似项目形成对比。微软现有客户基础提供先发优势，早期合作伙伴包括伦敦证券交易所集团、联合利华、Land O’Lakes及Accenture。

Nvidia 资助 AI 初创公司，以削弱大型科技公司对其芯片业务的掌控

Nvidia 正像央行一样为 AI 初创公司提供财务担保，使其能够购买昂贵的 AI 芯片。作为回报，Nvidia 直接分取这些云提供商的收入。若云提供商找不到租用 GPU 的客户，Nvidia 承诺自行租回未使用的算力。这一策略帮助 Nvidia 减少对亚马逊、微软、谷歌等大型科技公司的依赖——这些公司虽仍购买其大部分芯片，但也在自研 AI 硬件。

微软成立 Microsoft Frontier Company，投入 25 亿美元打造企业级 AI 工程组织

微软宣布成立 Microsoft Frontier Company，这是一个专注于通过 AI 实现“前沿转型”的新运营业务，并为此投入 25 亿美元，嵌入 6000 名行业与工程专家到客户现场。

英伟达推出全新扶持计划，以收益分成模式助力 AI 初创企业获取算力

英伟达推出全新扶持计划，通过收益分成与信贷支持模式，帮助人工智能初创企业获取高性能计算基础设施。人工智能云服务商将部署搭载英伟达技术的云服务，英伟达可分享后续经营收益。多家云运营商已基于旗下 DSX 数据中心平台搭建 AI 算力中心，Sharon AI 与 Firmus 为首批落地企业，标志着计划启动试点推广。该计划旨在降低新兴 AI 企业的资金门槛，并巩固英伟达在全 AI 产业链的核心地位。

谷歌AI建设导致2025年用电量增长37%

2025年，谷歌年度用电量同比上涨37%，创历史最大增幅。数据中心全年消耗超4200万兆瓦时，超过新西兰、丹麦、尼日利亚等国总用电量。自2019年以来，谷歌总用电量已增长超250%。用电激增主要来自Google Cloud、YouTube视频流及支撑AI产品和服务的数据中心建设与运营。公司表示，AI基础设施建设速度超过电网脱碳速度，但仍致力于扩大全球清洁电力规模，并通过技术创新降低运营排放。2024年谷歌用电量增幅为27%。

千问团队朱达：C端Agent Harness的“多快好省”工程哲学与主动服务探索

千问团队2026年1月上线通用复杂任务Agent（千问App胶囊入口），总结“多快好省”方法论：支持信息搜集、研究分析等任务；执行时间降至初始1/3；通过搜索范式与上下文管理优化交付质量；Token消耗仅为海外产品1/10。团队探索从被动响应转向主动服务，构建User Memory、Environment、Task System、Assistant四大组件，指出“情商”是主动服务最难环节。朱达提出Agent工程从Prompt Engineering演进至Harness Engineering，下一站是A IWare Engineering，强调“低功耗，够用就行”。

DeepSeek 出现服务问题，网页 / API 均受影响

7 月 2 日下午，DeepSeek 网页和 API 出现性能下降，官方状态页面确认已定位原因并正在修复。DeepSeek V4 正式版计划于 7 月中旬上线，届时将带来功能优化和性能提升，同时调整 API 定价策略，引入峰谷定价机制。

核能供电 AI：Valar 成功用先进反应堆为英伟达 Blackwell 芯片供电

核能初创公司Valar Atomics利用其Ward 250先进反应堆为英伟达Blackwell芯片成功供电，并临时运行了一个网站，这是美国境内下一代反应堆首次实现此类应用。两家公司同步宣布合作，计划在犹他州建设一座小型数据中心，重点验证AI计算设施通过先进核能和闭环液冷技术降低对外部电网及水资源的依赖。上月该反应堆已达成临界状态，本次供电试验在此基础上取得新进展。

软银通过新设子公司 SB Neo 于 2027 财年在美提供 AI 云服务

软银集团与软银公司计划本月在美国特拉华州设立合资企业 SB Neo，软银集团持股 49%、软银公司持股 51%。SB Neo 定位为 Neocloud 企业，基于软银集团开发的 10GW 能源与 AI 基础设施，为美国大型企业提供大型 AI 模型训练与推理所需算力。云服务计划 2027 财年上线，后续分阶段扩大规模。软银公司已从今年 5 月开始在日本进行 AI GPU 云服务测试，相关经验将用于 SB Neo 运营。

Socionext基于台积电A14制程开发HPC SoC，目标今年9月测试流片

日本Socionext正在为AI数据中心开发基于台积电A14（1.4nm）的HPC芯片，计划今年9月完成测试芯片流片，用于验证XPU架构的可扩展性。A14是台积电继N2后的下一代制程，预计2028年量产，相较N2可在相同功耗下提升10~15%速度，或相同速度下降低25~30%功耗，逻辑密度增加超20%。

AI 技术用于工厂质检：特斯拉车间靠车载麦克风自动检测车辆异响

特斯拉车辆可自主驶入异响检测工位，车内麦克风捕捉杂音反馈工程团队。公司正研发“全向听觉系统”AI用于交付前识别装配缺陷。工厂各部门部署自研AI智能体系统，覆盖研发、供应链、售后、质检。Cybercab生产线约90%工序全自动化，未来产量或超越所有历史车型（Model Y累计近400万台）。星链有望搭载于Cybercab保障偏远地区信号。Optimus人形机器人首条量产线在弗里蒙特工厂落地，全模块化设计，约40条子生产线在德国制造。

Rohan Paul@rohanpaul_ai· 14:06AI 评分4545

Palantir CEO Alex Karp: 一家公司不只需要一个在精致界面内回答问题的聪明模型。严肃的技术客户想要的是对数据、提示词、系统访问以及创造价值的工作流的控制。

消息称美团内部全面限用豆包大模型，此前曾限用阿里云 Qwen

7月2日，美团内部通知要求所有业务团队自查并规划将现有豆包相关业务迁移至自研LongCat、DeepSeek等模型，无法迁移的需提交原因并走单独审批。今年4月，美团已收紧阿里云Qwen模型使用门槛，需X3级别审批。美团自研大模型LongCat于2023年启动研发，已应用于APP内置AI助手“小团”及商家经营助手。近日发布的LongCat-2.0为万亿参数模型（总参数1.6T，平均激活约48B），基于五万卡国产算力集群训练，预训练数据规模超30T tokens，原生支持1M超长上下文。

华擎推出 ASRock Claw Quickset 桌面工具，可简化本地 AI 环境部署

华擎发布 ASRock Claw Quickset 桌面工具，专为简化本地 AI 环境部署而设计，可自动完成 OpenClaw、AI 模型及必要软件组件的安装与设定。该工具提供引导式安装，用户无需手动处理依赖关系即可快速开始 AI 交互。工具默认部署本地 AI 环境，支持通过 OpenClaw 配置云端算力；默认状态下文件访问权限仅限指定工作区，系统层级功能关闭。

Rohan Paul@rohanpaul_ai· 10:05AI 评分6969

该论文指出，MCP服务器设计不同于普通API，因为LLM通过纯语言描述选择工具，过多或模糊的工具会导致混淆。作者归纳了5种实际模式（如暴露数据、运行工作流、保持会话状态、组合服务器、翻译混乱领域API），并警告4个常见错误（大而全工具、模糊描述、不安全外部内容、慢工具应返回job ID）。在54个额外服务器上测试发现，弱模型在可见工具超过10-15个时准确率降至90%以下。良好MCP设计的核心是使工具列表小巧、清晰、安全且稳定。

苹果 Safari 技术预览版 247 引入 MCP 服务，AI 智能体加速网页开发和调试

苹果 Safari 技术预览版 247 新增 MCP 服务器支持，MCP 是开放标准，让 AI 智能体连接外部工具、服务与数据源，如代码仓库、本地文件及浏览器开发工具。配置后，编程智能体可检查网页、访问控制台日志和网络请求、抓取截图并与页面元素交互。用途包括调试网站、识别 Safari 兼容性问题、性能分析、可访问性检查及验证页面与 UI 状态。

Hao AI Lab@haoailab· 08:10AI 评分5151

DSpark 与 JetSpec 几乎同时出现，都解决轻量级草稿模型并行提案时的因果一致性问题。DSpark 面向高并发，通过轻量级马尔可夫校正头与置信度估计控制预算，在 Qwen3-8B 与 AIME25 上，预算 7 时将接受长度从 DFlash 的 4.07 提升至 5.01。JetSpec 面向低延迟，将因果性直接构建进并行草稿头，预算 16 时接受长度 7.23，预算 128 时达 9.82，高于 DFlash 的 7.34 与 DDTree 的 8.66。两者分别从吞吐与延迟侧优化因果性。

PromptArmor 披露 Microsoft Copilot Cowork Skill 可绕过管理员设置调用 DeepSeek

PromptArmor 披露，即使组织未加入 DeepSeek Preview，Microsoft Copilot Cowork 的 Skill 也能通过 agent 自身的访问路径调用 DeepSeek（Mistral 亦验证可行），且无需 API key，认证由用户的 Cowork 会话自动授予。

Kimi 企业版上线：数据隔离、成员管理，月均 248 元起

Kimi 企业版正式推出，面向企业团队提供完整 Kimi Allegretto 会员权益，并保障企业数据安全、支持成员管理。该版本实现个人与企业账号完全隔离，可通过「工作空间」自由切换；5 座起售、按年订阅，月均 248 元，支持企业支付宝、个人支付宝及公对公转账付款，可自助开发票。企业版订阅在线下单一次最多可购买 20 席，并提供线下签约与专属技术支持。

构建AI智能体应优先设计路由

构建AI智能体时，应优先设计路由（router）而非选择模型。路由决定每个请求由哪层模型处理。正确路由可使70-80%流量运行在免费本地模型或异步推理上，将AI开销降低90%+。Brian Armstrong指出Coinbase通过更好的默认设置、路由和缓存，在token使用量增长的同时将AI支出减半。路由分三层：技能分类器、路由器、模型选择器。本地计算近乎零成本，异步批量推理比实时推理便宜两个数量级。大多数工作无需秒级返回。同步预测器标记复杂任务，夜间批量评估器更新路由权重。技能蒸馏后，非编码类任务中70-80%智能体流量可由本地模型处理。

Rohan Paul@rohanpaul_ai· 03:03AI 评分7474

Meta 计划将自身用于模型、广告等任务的过剩 AI 算力转化为云业务，允许开发者租用数据中心内的模型访问（类似 AWS Bedrock），也可能出租原始算力，旨在为高达 1500 亿美元的资本支出寻找回报，减少对广告收入的依赖。消息公布后 Meta 股价上涨超 10%，而 AI 云公司 CoreWeave 和 Nebius 分别下跌 10.8% 和 12.4%。Zuckerberg 透露几乎每周都有外部公司向 Meta 请求算力，但此举更像为支出过高担忧提供财务安全阀；Meta 要成为 AWS、Azure 级别的云服务商仍需应对计费、安全、开发工具等挑战。

Rohan Paul@rohanpaul_ai· 02:33AI 评分6969

据Orgvue报告，39%的公司已实施AI相关裁员，其中55%的领导者承认裁错了岗位。问题在于企业裁掉了理解例外情况、升级路径和隐蔽故障模式的员工。AI虽提升生产力，但在依赖判断力和机构记忆的工作中失效。福特因自动化质检系统未能提前发现缺陷，召回约350名资深工程师。澳大利亚联邦银行削减45个AI语音客服岗位后，因呼叫量上升而取消决定。IBM也从AI驱动的HR自动化转向在全美业务部门将初级岗位招聘增加两倍。

Meta 大规模 AI 存储蓝图

Meta 运营数百 EB 级存储集群，基于 Tectonic 分层存储层构建 BLOB 存储架构，以应对两大挑战：最大化 GPU 利用率与研究迭代速度。传统 BLOB 架构的多层元数据查询可导致数百毫秒延迟，使 GPU 因 I/O 等待停顿。新架构将训练栈逐步迁移到 BLOB 存储接口上，利用闪存提供可预测的低 pMax 延迟，避免单 GPU 慢速拖慢整批任务。同时，统一的数据湖访问支持地理分布 GPU 间的数据高速注入与跨区移动，提升研究效率。

Rohan Paul@rohanpaul_ai· 01:33AI 评分6666

Meta 利用为自有模型、广告和助手建设的大型 AI 基础设施产生的过剩算力，计划向开发者出租模型访问（类似 AWS Bedrock）及原始算力。消息引发股价剧烈反应：Meta 涨超 10%，而 AI 云公司 CoreWeave 跌 10.8%、Nebius 跌 12.4%。Zuckerberg 此前透露外部公司几乎每周都向 Meta 请求算力。此举既降低 Meta 对广告收入的依赖，也证明其 AI 建设的外部价值，但云业务涉及计费、安全、工具支持等复杂环节，Meta 难以快速成为 AWS 级别的云服务商。

Google Cloud Workbench Notebooks 扩展发布：在 VS Code 中连接云端 Jupyter 环境

Google Cloud Workbench Notebooks 扩展正式上线，开发者可在 VS Code 中直接连接可扩展的云端 Jupyter 环境，无需切换上下文即可利用高性能 Google Cloud 基础设施完成机器学习全流程。该扩展已完全开源，可在 GitHub 和 VS Code Marketplace 获取。

用 Genkit 构建智能体全栈应用

开源框架 Genkit 推出 Agents API，将消息历史、工具循环和流式传输封装为单一接口，简化对话 AI 开发。该 API 支持服务器或客户端管理的状态持久化，可实现历史分支、长时间运行的分离任务及多智能体协调等高级工作流，并通过统一线协议连接前后端。目前以 TypeScript 和 Go 预览版发布，集成 Genkit Developer UI，开发者无需编写客户端代码即可测试、调试和检查智能体快照。

Meta效仿SpaceX建立云业务，转售闲置AI算力

Meta效仿SpaceX，将大量购入的Nvidia GPU闲置算力转售给外部客户，而非全部用于自家模型训练，也可能在基础设施上提供AI模型访问。消息公布后Meta股价上涨约10%。SpaceX此前将原为xAI购买的GPU容量租给Anthropic（每月12.5亿美元）和Google（每月9.2亿美元）。Meta今年AI基础设施支出高达1450亿美元，并裁员以筹集资金。转售过剩算力符合财务逻辑，也表明其自研模型（如今年4月发布的Muse Spark）并未消耗全部算力。

OpenAI 如何为 9 亿用户提供低延迟语音 AI：基于 WebRTC 与 Kubernetes 的架构解析

OpenAI 每周为 9 亿用户运行语音 AI，采用 WebRTC 协议实现低延迟连续音频流。其架构将堆栈拆分为两部分：无状态中继在地理边缘处理协议感知的数据包路由，有状态收发器管理 WebRTC 状态，通过 ICE ufrag 作为路由键连接两者。该方案解决了 Kubernetes 环境下端口耗尽与状态粘性问题，确保对话式语音 AI 的实时体验。

Cloudflare 推出 Monetization Gateway：通过 x402 协议为任何资源收费

Cloudflare 开放 Monetization Gateway 候补名单，允许对 Cloudflare 背后的任何网页、数据集、API 或 MCP 工具收费。费用通过 x402 开放协议以稳定币结算，用户无需自建支付栈。