跳到正文
7月9日周四
  1. MarkTechPost48

    Netflix 工程团队为 Cassandra 宽分区提出动态拆分方案,读取延迟降至毫秒级

    Netflix 工程团队为 Apache Cassandra 4.x 上的 TimeSeries Abstraction 平台提出动态分区方案。该方案按 TimeSeries ID 异步透明拆分宽分区,无需应用改动。检测阶段在读取路径上通过字节计数和 Kafka 事件触发,优先拆分不可变分区;使用 Bloom 过滤器(微秒级)和缓存的 wide_row 元数据查找路由读取到子分区。校验包括校验和、保留原始分区、Data Bridge Spark 检查和影子对比。效果上,读取延迟从秒级降至两位数毫秒,尾延迟降至约 200ms,500MB+ 分区保持可用。

  2. OpenAI:官网动态58

    OpenAI发布政府与国家安全合作伙伴关系方针

    OpenAI近日公布国家安全原则,阐明在政府及国家安全领域部署前沿AI系统的方针。原则强调在保护公民、防御关键基础设施、提供公共服务及应对新兴威胁(网络防御和生物安全)中发挥AI优势,同时确保民主问责、人类判断和法治。过去一个月,OpenAI通过Daybreak网络防御计划与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟ENISA等机构建立网络安全信任访问合作,并与英国政府开展网络安全测试评估。上月,OpenAI向部分美国政府及盟友合作伙伴开放GPT‑Rosalind模型用于公共卫生和生物防御。原则适用于现有及未来合作,包括与Department of War的协议,明确禁止大规模国内监控、自主武器系统及高风险自动化决策。OpenAI支持立法对高风险军事用途(如国内监控、自主武器)建立保障措施。

    推荐理由:OpenAI 首次公开发布国家安全合作原则,同时宣布与多国建立网络和生物防御伙伴关系。我觉得这是头部 AI 公司在军事合作上的一次主动透明化尝试,值得看看他们如何设限。

  3. MarkTechPost56

    Google AI Studio Build 模式新增“从 GitHub 导入”功能,可将现有仓库转为可编辑、可部署的应用

    Google AI Studio 在其 Build 模式中推出“import from GitHub”功能。用户可直接导入一个 GitHub 仓库,AI Studio 自动将其转换为运行时兼容格式,随后可在 Build 中通过对话或标注模式继续迭代,并一键部署到 Cloud Run。对于使用 Gemini API 的应用,平台默认将 GEMINI_API_KEY 配置为服务端环境变量,避免密钥暴露在客户端代码中。该功能填补了 Build 模式此前缺少的从外部代码库入手的路径,支持复活 Hackathon 项目、快速上手团队仓库等场景。

  4. Claude:Blog47

    Thomson Reuters携手Claude推进高风险专业AI:智能体架构将法律研究从数十小时缩至数分钟

    Thomson Reuters CTO Joel Hron称Claude Fable 5为专业AI的关键进化。该公司为法律、税务等领域构建Fiduciary-Grade AI™,整合2700+领域专家、权威内容及工作流。其法律AI平台CoCounsel Legal基于Claude Agent SDK重建,智能体能同时访问数百个工具并自主规划、校验引用。模型需通过四项考验:自检引用、长链工具调用、保持连贯、引入人类审核。客户反馈深度研究从数十小时缩短至数分钟。

  5. LMSYS Blog52

    利用 Netpreme X‑Mem™ MPU 加速 SGLang HiCache

    Netpreme X‑Mem™ 内存处理单元(MPU)作为专用高带宽 KV 内存层与 SGLang HiCache 集成,替代主机 DRAM 作为 L2 卸载层。在基于 Claude Code 代理轨迹的编码工作负载中,前缀缓存命中率平均约 98%。单请求微基准测试显示,首 token 延迟(TTFT)相比主机 DRAM 方案降低约 6.7 倍。在端到端推理基准测试中(20K token 上下文、26 token 输入、20 轮对话),中等负载下每用户吞吐量提升 33%,高负载下交互性提升 50%、系统吞吐量提升 30%。X‑Mem™ 通过 CUDA 和 PyTorch 兼容 API 集成,单节点提供最高 24 TB 内存、4 TB/s 带宽。

  6. Hugging Face 社区博客66

    原生速度的 vLLM transformers 建模后端

    Hugging Face 宣布 transformers vLLM 后端现与手写原生 vLLM 实现速度相当甚至更快。模型作者无需移植代码,即可自动利用 transformers 获得超快推理。测试使用 Qwen3-4B(单 GPU)、Qwen3-32B(张量并行)和 Qwen3-235B-A22B-FP8 MoE(数据+专家并行)三种配置,吞吐量均达到或超过原生。该后端通过 torch.fx 静态分析图、AST 重写代码实现动态层融合,支持张量/管道/专家并行及 torch.compile。用户仅需添加 `--model-impl transformers` 标志。目前不支持线性注意力模型但即将支持。

    推荐理由:用 transformers 写的模型,现在不用改一行代码就能在 vLLM 里跑到手写实现的水平,模型作者最大的集成痛被抹平了。虽然主要是工程黑魔法,但生态意义不小。

7月8日周三
  1. IT之家·人工智能51

    国产 GPU 厂商沐曦股份:部分产品订单已排到明年甚至之后,MXC600 芯片系列已大规模出货

    沐曦股份首席产品官孙国梁表示,公司部分产品订单已排到明年甚至之后。MXC600 芯片系列是今年主力,已大规模出货。该芯片采用自研 GPU 架构,实现从设计到制造、封装及配套软件栈的全国产供应链。基于 MXC600 的曦云 C600、曦思 N300、曦索 X300 系列已推出。5 月 26 日,MXC600 通过国家《安全可靠测评》。孙国梁指出,通用、易用、稳定、可靠的算力仍一卡难求,过剩的是不通用架构、只能跑上一代模型的算力。

  2. IT之家·人工智能58

    AI 芯片竞合并存:NVIDIA 牵手 d-Matrix 打造混合算力基础设施

    NVIDIA 与 AI 芯片初创企业 d-Matrix 合作,构建结合双方硬件的混合算力基础设施。Neocloud 企业 Parasail 将 NVIDIA Hopper/Blackwell GPU 与 d-Matrix Corsair ASIC 结合,实现 10 倍 token 生成速率。Corsair 采用台积电 N6 制程 D-IMC(数字存内计算)架构,将计算单元与 SRAM 集成在同一芯片上,通过片外 LPDDR5 扩展内存。在该架构中,GPU 负责推理前端的预填充任务,Corsair 则处理后端延迟敏感的解码任务。d-Matrix 称此举旨在验证推理的异构未来:GPU 与专用推理加速器相辅相成,而非竞争。

  3. IT之家·人工智能56

    中国信通院启动“算力超银生态共建计划”,探索算力超市与算力银行

    中国信通院联合算力产业发展方阵今日启动“算力超银生态共建计划”,依托中国算力平台探索“算力超市”与“算力银行”。计划聚焦立标准、建机制、促普惠三大目标。“算力超市”推动算力资源商品化、标准化计价与在线交易,推行按“卡时”“核时”及Token计费。“算力银行”建立存入—计费—支取—信贷机制,鼓励存入闲置算力,通过信用积分向较高企业提供先用后付。中国电信副总经理栾晓维同日表示,将推动经营从传统流量经营向Token经营转型。

  4. TechCrunch:AI64

    ZML推出免费推理服务器ZML/LLMD,支持多种AI芯片运行开源大语言模型

    法国AI初创公司ZML发布LLM推理服务器ZML/LLMD,允许多种开源大语言模型在NVIDIA、AMD、Google TPU、Apple Metal、Intel Arc等芯片上以最高速度运行,旨在打破软硬件壁垒、避免供应商锁定。该产品目前为免费非开源版本,团队仅20人,已获2000万美元融资,投资人包括Hugging Face联合创始人Clément Delangue与Julien Chaumond、图灵奖得主Yann LeCun等。创始人Steeve Morin表示后续计划推出更多版本并择机商业化。

  5. MiniMax (official)51

    MiniMax 宣布与 Together Compute 合作,其 M3 开放模型上线 Provisioned Throughput(保留推理容量)服务。该服务提供基于 token 的定价、99% 正常运行时间 SLA,以及无服务器化的容量保证,相比 Opus 4.8 降低高达 90% 成本。同批支持的还有 GLM-5.2 模型。

    引用Together AI@togethercompute

    We're introducing Provisioned Throughput: reserved inference capacity for frontier open models, with token-based pricing and a 99% uptime SLA. Serverless simplicity, guaranteed capacity, up to 90% lower cost vs. Opus 4.8. Get started with MiniMax M3 + GLM-5.2, read more 🧵

  6. IT之家·人工智能57

    中国电信拟从流量经营转向 Token 经营,发布多项 AI 举措

    在2026中国互联网大会上,中国电信副总经理栾晓维宣布推动向 Token 经营转型。具体措施包括:年底上线息壤算力互联网调度平台2.0,智算算力突破91 EFLOPS;推出星辰TokenHub运营服务平台,兼容100余款主流大模型;打造110余个行业大模型、350余个行业智能体,服务3.7万家政企客户;发布Token商用套餐;自研见微安全垂类大模型及云脉等安全产品。今年5月已面向个人推出9.9元/月起Token套餐。

  7. TechCrunch:AI67

    AI芯片公司SambaNova完成10亿美元F轮融资,估值110亿美元

    AI芯片公司SambaNova Systems完成10亿美元F轮融资,估值110亿美元,由General Atlantic领投,Intel等跟投,后续还将有更多投资者加入。距离2月发布SN50芯片并完成3.5亿美元E轮融资仅5个月。该公司被JPMorgan Chase选为推理基础设施合作伙伴,其SN40L和SN50系统将用于银行本地安全AI推理。SN50预计下半年出货,SoftBank为首个部署伙伴。CEO表示资金将用于扩大业务和保障供应链。

  8. Baidu Inc.58

    百度文心大模型 ERNIE 5.0 系列已通过 WorldClawAI 的 WorldRouter 平台提供。WorldRouter 通过单一 API 接入百度全模型栈及平台已有 300+ 模型,服务初创、模型厂商、企业和独立开发者。为庆祝上线,所有 AI 模型价格享 30% 折扣(每百万 tokens),ERNIE 5.0 输入 $0.98/输出 $3.92,Kimi-K2.6 输入 $0.67/输出 $2.80,DeepSeek-V4-Flash 输入 $0.10/输出 $0.20,DeepSeek-V4-Pro 输入 $1.22/输出 $2.44,GLM-5.2 输入 $0.98/输出 $3.08,Seedance 优惠 5%。

    引用WorldClaw@WorldClawAI

    WorldClaw is partnering with Baidu AI Cloud @Baidu_Inc to bring the ERNIE 5.0 series to WorldRouter: one API connecting developers to Baidu’s full model stack, alongside 300+ models already on worldclaw platform. This opens frontier-scale capability to the fast-growing agent ecosystem of startups, model builders, enterprises and independent developers. To mark the launch, all AI models are 30% off (USD / 1M tokens), including: ERNIE 5.0 - $0.98 in / $3.92 out Kimi-K2.6 - $0.67 in / $2.80 out DeepSeek-V4-Flash - $0.10 in / $0.20 out DeepSeek-V4-Pro - $1.22 in / $2.44 out GLM-5.2 - $0.98 in / $3.08 out Seedance: 5% off. http://router.worldclaw.ai

  9. IT之家·人工智能43

    SpaceX 申请部署最多10万颗Gen3卫星,公布AI1专用卫星

    SpaceX 向 FCC 提交文件,计划将 Starlink Gen3 星座卫星数量最多提升至 10 万颗。Gen3 卫星重约 2000 公斤,运行于 350 公里甚低地球轨道,需由星舰发射;下行容量达 1 Tbps(较 Gen2 提高 10 倍),上行容量 160–200 Gbps(提高 22 倍),射频与激光回传总容量约 4 Tbps。现有用户终端需升级。此外,SpaceX 公布首款面向 AI 计算的专用卫星 AI1,最高支持 150 kW 计算载荷,配备液冷散热,计划在得克萨斯 Gigasat 工厂生产。

  10. IT之家·人工智能59

    智谱考虑自研芯片,应对GLM模型需求激增

    智谱(Z.ai)因GLM系列AI模型需求激增,正评估自研定制芯片的可能性。自研芯片可帮助实现AI软硬件协同优化,提升算力利用效率,降低对外部芯片供应商的依赖。OpenAI已公布其自研芯片Jalapeño,Anthropic与SpaceXAI也有意向,近日又传DeepSeek正推进类似项目。

  11. Claude Platform:开发者版本说明53

    Claude Console 新增 API Key 过期时间设置功能

    Claude Console 现支持在创建 API Key 或 Admin API Key 时设置过期时间,可选预设时长、自定义时长或永不过期。对于有效期至少 7 天的密钥,Anthropic 会在到期前邮件通知创建者。Admin API 会在 `expires_at` 字段中报告每个密钥的过期时间,现有密钥不受影响。

  12. IT之家·人工智能45

    三星量产 PM1763 企业级 SSD:最高 16TB,能效提升 1.8 倍、顺序读取 28400 MB/s

    三星电子宣布量产基于 PCIe 6.0 的企业级 SSD PM1763,面向 AI 和 HPC 服务器。该产品采用第 9 代 V-NAND 和 4nm 主控,提供 4TB、8TB、16TB 容量,16TB 版本顺序读取 28400 MB/s、写入 21900 MB/s,性能是前代的 2 倍以上,约 1.4 秒传输 40GB 大语言模型。散热采用芯片级直接冷却技术,针对液冷服务器优化,能效提升 1.8 倍以上。安全支持 PQC 算法和 TDISP 协议。

  13. Claude Code:GitHub Releases45

    Claude Code v2.1.203 发布

    本次更新新增登录过期警告和手动权限模式标记,并将附加工作目录加入 MCP roots/list。修复了 macOS 下因内存检测误报导致后台会话卡顿 15–20 秒(回归自 2.1.196)、后台会话因 token 过期永久不可用(现自动恢复)、交互式会话中上下文指示器每轮重分析整个对话导致 CPU 和内存回归等问题。同时改进了长响应流时的实时预览性能,并降低了子代理重新委托任务的倾向。二进制体积减少约 7 MB,启动内存减少约 7 MB。左侧箭头不再关闭后台任务/差异/工作流详情视图,改为 Esc。

  14. Simon Willison 博客63

    sqlite-utils 4.0 发布,新增数据库模式迁移等三大功能

    sqlite-utils 4.0 今早发布,是自 3.0 以来首个大版本。新增三大功能:数据库模式迁移(通过 Python 文件定义,利用 `table.transform()` 实现 SQLite 原生不支持的增强改表)、嵌套事务(`db.atomic()` 方法)以及复合外键。迁移记录保存在 `_sqlite_migrations` 表,可通过命令行 `uvx sqlite-utils migrate` 或 Python 代码执行。该设计源自此前独立的 sqlite-migrate 包,现已集成。

  15. Rohan Paul64

    微软宣布裁员4800人,约占员工总数2.1%,涉及商业运营和Xbox部门。声明称这些职位并非直接被AI替代,但AI仍是支出压力根源。Azure业务虽增长,但数据中心投入正挤压现金流。微软预计2026年资本支出达1900亿美元,远超市场预期。Xbox业务同样承压,利润率据报仅约3%,硬件成本上升、主机需求疲软及游戏内容投入未能提振收入。

    引用Rohan Paul@rohanpaul_ai

    Microsoft is cutting 4,800 jobs as AI infrastructure spending forces a harder tech reset, equal 2.1% of its workforce and hit commercial operations and Xbox. Says these roles are not being replaced directly by AI, but AI still sits behind the pressure. Microsoft’s Azure business is growing, but data center spending is squeezing cash flow. The company also projected $190B in 2026 spending, far above expectations. Xbox shows the same squeeze from another angle, with margins reportedly near 3%. Hardware costs rose, console demand softened, and gaming content spending failed to lift revenue. --- reuters .com/business/world-at-work/microsoft-joins-ai-driven-tech-layoff-wave-with-4800-job-cuts-2026-07-06/

  16. TechCrunch:AI61

    Discord 承认 AI 审核系统 bug 误封超 8000 名用户

    Discord 承认其 AI 审核系统存在 bug,自 5 月以来错误封禁了超过 8000 名用户,另有 200 人在上周末被封。系统本应匹配已知有害内容数据库并交由人工审核,但 bug 导致在人工审核前直接自动封禁账号。被误判的无害图片包括电子表格、棋盘、游戏纹理以及白色和灰色透明背景。所有受影响账号正在恢复中,Discord 表示将加强防护。用户推测网格图案被过度敏感,因其常被用于掩饰 NSFW 和儿童剥削内容。此前 Meta 和 Tumblr 也遭遇过类似 AI 审核误封问题。

  17. Hugging Face 社区博客67

    Hugging Face Storage 成为 SkyPilot 一级后端:零出站费跨云存储

    Hugging Face Storage 现为 SkyPilot 的一级后端。用户通过 `hf://` URL 和现有 HFTOKEN 即可将 Hugging Face Bucket(读写)或模型/数据集/Space 仓库(只读)挂载到 SkyPilot 任务中,支持 MOUNT(FUSE 懒加载)或 COPY 模式。SkyPilot 可将任务调度到 20+ 云、Kubernetes、Slurm 及本地集群的任意可用 GPU 上。Hugging Face 不收取出站及 CDN 费用,故跨云读取数据无额外成本。存储价格 $12–18/TB/月,低于 AWS S3 加出站费。Bucket 基于 Xet,增量检查点和模型变体仅存储和传输改动部分。

    推荐理由:Hugging Face 和 SkyPilot 把存储和算力真正解耦了,跨云读取模型零出口费,用过 SkyPilot 的团队可以立刻省下那块 egress 账单。

  18. Claude:Blog50

    将 Claude Code 和 Claude Cowork 带到政府

    Claude Code 与 Claude Cowork 即日起在 Claude for Government Desktop 公开测试,运行于 FedRAMP High 授权环境。Claude Code 协助政府团队构建和现代化公共服务软件系统;Claude Cowork 可直接处理桌面文件,用于备忘录撰写、RFP 审查、案例处理及演示文稿制作。新增治理功能包括管理员设置配置默认值、按部门分配与控制支出;安全团队可获取防篡改审计日志及支持 ATO 流程的文档。计费采用固定增量预付费,设有硬性支出上限,支持按用户和按模型使用跟踪。部门级管理员可通过 SCIM 组映射设置速率限制、金额上限和允许使用的模型。所有管理操作记录在哈希链审计日志中,敏感操作需二人审批。

  19. Tomasz Tunguz 博客77

    FDE爆发:AI公司12个月承诺97.5亿美元部署工程

    AI公司在12个月内合计承诺97.5亿美元用于建设前部署工程(FDE)团队。三种结构模型浮现:资产负债模型(微软、亚马逊从现有编制调配,Salesforce承诺1000个FDE岗位);独立实体模型(OpenAI Deployment Company融资40亿美元,投后估值140亿;Anthropic从黑石等融资15亿美元);合作伙伴生态系统模型(Google Cloud承诺7.5亿美元合作伙伴基金)。瓶颈从模型能力转向部署——GPT-4、Claude、Gemini已足够强大,但多数企业无法自行安装配置。FDE投资构成护城河:嵌入式工程师教育客户、获取专有工作流与数据反馈模型调优,切换成本为制度性而非技术性。

    推荐理由:Tunguz 把近 100 亿美元 FDE 投资掰成三种结构,让我意识到 AI 竞争已经从模型卷到了客户内部——嵌入式工程可能比 API 更深的护城河。

  20. Cognition 模型 / Devin 博客67

    Cognition 发布 SWE-1.7 模型并详解 RL 训练方法

    Cognition 发布 SWE-1.7,称其以更低成本达到前沿智能水平。模型基于 Kimi K2.7 底座训练,FrontierCode 1.1 Main 通过率 42.3%,Terminal-Bench 2.1 为 81.5%,已在 Devin(Web、Desktop 和 CLI)中经 Cerebras 以 1000 TPS 提供。

    推荐理由:官方既公布基准成绩也详解训练方法,读者可以了解多集群 RL 训练、熵稳定和自压缩等具体做法。

7月7日周二
  1. Rohan Paul50

    据The Information,智谱AI在DeepSeek之后也开始探索定制ASIC芯片,原因是其GLM-5.2使用量一周内暴涨27倍。定制ASIC虽牺牲灵活性,但可降低功耗和每token成本。Nvidia GPU适合通用场景,大规模推理需针对性设计。智谱尚未选定合作伙伴,项目或需两年以上。此前DeepSeek已自研推理芯片以摆脱对Nvidia和华为的依赖,但芯片工作尚处早期,大规模制造受美国限制先进代工厂和高带宽内存的制约。

    引用Rohan Paul@rohanpaul_ai

    DeepSeek is building an inference chip to cut dependence on Nvidia and Huawei in China’s $50B AI-chip market. DeepSeek’s chip work is still early, with outside partners and private hiring of chip-design engineers. The hard part is not drawing a chip, but making it at scale. Advanced foundries and high-bandwidth memory remain chokepoints because U.S. rules restrict Chinese access. DeepSeek can still gain from a narrower chip built mainly for its own models. A custom inference chip could lower serving costs, reduce power needs, and tighten software-hardware control. --- reuters .com/world/china/chinas-deepseek-developing-its-own-ai-chip-sources-say-2026-07-07/

  2. TechCrunch:AI70

    美国首批自主地面车辆在乌克兰参战

    美国自动驾驶车辆公司 Forterra 宣布,过去九个月已向乌克兰战场部署超过 100 辆基于 Polaris ATV 的 Lancer 自主地面车辆。这些汽油动力车辆可携带 750 公斤货物,加装 Starlink 天线实现远程操控,已执行 1100 多次任务,行驶 2500 英里,运送 777,440 磅物资,完成 52 次伤员撤离。目前车辆主要采用远程操作,因自主系统尚无法实时识别并应对敌方威胁。Forterra 已融资超 5 亿美元,正将经典机器人方法与生成式 AI 结合以提升自主能力。美军专家认为地面自主技术已具实战价值。

    推荐理由:这是首次有美国自主地面车辆在实战中长期部署的详细报道,做军事 AI 的人可以认真读,但对多数从业者来说只是猎奇。

  3. IT之家·人工智能56

    最高速度可达 32 GT/s:英特尔公布 XBM 内存专利,挑战 HBM 4

    英特尔公布一项名为 XBM(eXtended Bandwidth Memory)的超高带宽内存专利,定位 HBM 4 替代方案。XBM 采用后段晶体管(BEOL)设计,将晶体管移至后端金属互连层,提升面积利用率和 TSV 密度,运行速度最高达 32 GT/s,每颗芯片容量在 0.5GB-5GB 之间,封装尺寸与 HBM 4 保持一致。该技术预计 2030 年之后商业化。

  4. IT之家·人工智能51

    新思科技停供EES、FDC软件,三星等多家芯片制造商受影响

    新思科技计划停止供应设备工程系统(EES)和故障检测与分类(FDC)软件,已通知三星电子、SK海力士、铠侠、Qorvo等十余家芯片制造商,相关产品进入“终止生命周期”阶段。公司称将资源集中到AI设计等利润更高业务,已裁撤数十名员工,计划2026年7月内完成维护义务谈判。三星回应已建立兼容替代方案,认为不会影响生产。

  5. IT之家·人工智能62

    英伟达回应Kyber机架平台延后消息:路线图保持不变

    英伟达回应Kyber机架平台可能延期的报道,称路线图保持不变。研究机构SemiAnalysis数据显示,因PCB中介板制造工艺问题,下一代AI机架系统Kyber可能推迟至2028年推出。英伟达官方计划Kyber随Vera Rubin Ultra芯片平台于2027年下半年推出。Kyber NVL144专为Vera Rubin Ultra架构GPU设计,采用垂直插拔与正交背板技术,单机柜可容纳144颗GPU实现高速互连。