跳到正文
7月14日周二
  1. IT之家·人工智能43

    阿里云百炼宣布 GLM-5.2 Fast mode 模式降价 20%,7 月 15 日生效

    阿里云大模型服务平台百炼宣布,自 2026 年 7 月 15 日起,GLM-5.2 模型的 Fast mode 模式计费单价下调 20%。该模式专为输出速度敏感场景设计,TPS 提升至标准 API 的 1.5~2 倍,达 80~100 TPS,适用于 AI 流式编程助手、Agent 多步推理、实时对话等。当前为 preview 阶段,按输入与输出 token 计费,超出 TPM 额度时请求进入排队队列。调用时指定 model 参数为对应 model ID 即可开启。

  2. IT之家·人工智能67

    IBM 预警 AI 基建热潮抢占企业软件支出预算,引发软件板块下挫

    IBM 预计第二季度营收约 172 亿美元,低于分析师预期的 178.6 亿美元,调整后每股收益 2.93 美元,亦不及市场预期的 3.02 美元。CEO Arvind Krishna 表示,客户在 6 月最后几周将资本支出转向服务器、存储设备和内存采购,以锁定供应紧张的基础设施资源,导致许多大型软件订单未能如期签约。IBM 盘前股价暴跌约 20%,微软、ServiceNow、Salesforce 和 Intuit 股价下跌 3% 至 5%。

  3. IT之家·人工智能69

    腾讯混元发布 1bit 与 4bit 量化版 Hy3 模型,旗舰 AI 模型可单卡本地运行

    腾讯混元将 295B 参数的旗舰模型 Hy3 量化至 1bit 与 4bit,并打包成 GGUF 格式。1bit 版本(IQ1_M)将权重从 598 GB 压缩至 85.5 GiB,单张 96GB 推理显卡即可部署;4bit 版本(Q4_K_M)体积 169.9 GiB,需两张显卡。量化版本在 Agent 能力、多语言代码、工具调用和长文理解等任务上贴近满血模型。团队还开发了 llama.cpp 的 MTP 投机解码 patch,开启后 1bit 版本解码速度提升约 50%,4bit 版本提升接近 60%。此外还提供 GPTQ Int4 版本,可通过 vLLM 部署。

  4. 公众号:小红书技术56

    小红书企业级 AI 个人助理——从 0 到全员覆盖

    小红书基于开源项目 OpenClaw,3 人 3 天推出内测版本,一个月内实现全员覆盖。安全方面搭建了专属隔离集群 Seal AI Zone 和面向 Agent 的沙箱平台 NEX,后者基于 MicroVM 实现六层防护,冷启动 P50 低于 300ms。成本优化通过 Self-GC 机制使白天平均输入 Token 下降 10%~15%,以及 Auto 模式智能模型路由系统 SealRouter,将约 75% 请求路由到高性价比模型,成本降低 69%。记忆系统采用三层架构(Session、Work Log、LLM Wiki),其中 LLM Wiki 按需召回结构化知识。生态方面推出 Skill Hub 技能共享平台和 Cowork Studio 作品发布平台。

  5. 公众号:小红书技术64

    小红书企业级 AI 个人助理:从 0 到全员覆盖的架构实践

    小红书以 3 人 3 天推出内测版本,约一个月实现全员覆盖,核心是 AI Native 项目运作机制。技术选型基于 OpenClaw 二次开发,通过 Seal AI Zone 隔离集群与 NEX 沙箱解决安全,Self-GC 使输入 Token 下降 10%~15%、Auto 模式路由使成本降低 69%,并自研 LLM Wiki 三层记忆架构与 Skill Hub 生态。

    推荐理由:从物理隔离到三层记忆,这套方案把 OpenClaw 定制为企业个人助理,沙箱和成本控制细节对同类实践有直接参考价值。

  6. The Verge:AI57

    纽约州签署全美首个大型数据中心建设禁令,为期一年

    纽约州州长 Kathy Hochul 签署全美首个州级数据中心建设禁令,未来一年内禁止新建超过 50 兆瓦的超大规模数据中心。此举旨在为州政府争取时间制定相关法规,以保护居民免受能源价格上涨和环境影响。州议会此前通过的版本将门槛设为 20 兆瓦,但 Hochul 签署的行政令提高了这一标准。另一项可能进一步限制数据中心发展的法案仍在等待州长签署。

  7. Tencent Hy75

    腾讯混元发布旗舰级 295B MoE 模型 Hy3 的 1-bit 与 4-bit 量化版本。Hy3 在同类规模中表现最佳,可媲美万亿参数级旗舰模型,适用于多数智能体场景。量化版可通过 llama.cpp 运行并启用 MTP,大幅降低硬件门槛,实现单 GPU 部署。模型采用 Apache 2.0 开源协议,支持商用,并提供 2 周免费 API(通过 OpenRouter)。

    引用Tencent Hy@TencentHunyuan

    🚀Hy3 is here. 295B MoE. Best in its size class. Rivals trillion-scale flagships. Reliable and affordable for most agentic usecases. Apache 2.0. Friendly for commercial use. FREE API for 2 weeks → https://openrouter.ai/tencent/hy3:free 🤗 https://huggingface.co/tencent/Hy3 📖 https://hy.tencent.com/research/hy3

  8. 公众号:腾讯混元73

    腾讯混元 Hy3 量化版发布:1bit 版本单卡可部署,4bit 版本接近满血性能

    腾讯混元团队为旗舰模型 Hy3(295B 参数)推出量化版本。1bit 版本(IQ1_M)将权重从 598 GB 压缩至 85.5 GiB,缩小 6.7 倍,单张 96GB 推理显卡即可部署;4bit 版本(Q4_K_M)体积 169.9 GiB,两张显卡可承载。量化版在 Agent、多语言代码、工具调用、长文理解等任务上表现接近满血模型。团队还提供 GPTQ Int4 版本,支持 vLLM 部署。配合 MTP 投机解码,1bit 版本解码速度提升约 50%,4bit 版本提升近 60%。所有版本已开源并打包为 GGUF 格式,适配 llama.cpp 生态。

    同一件事,精选收录的是《腾讯混元发布 Hy3 1-bit 与 4-bit 版本》

  9. 公众号:腾讯混元78

    腾讯混元将Hy3旗舰模型量化至1bit与4bit,单卡即可部署

    腾讯混元将295B参数的Hy3旗舰模型权重量化至1bit与4bit并打包成GGUF,配合llama.cpp生态,使原本需多卡集群部署的模型最少一张96GB推理显卡即可运行。1bit版将权重从598GB压缩至85.5GiB,4bit版体积169.9GiB,两张显卡可承载;量化版在长文理解、Agent与代码任务上贴近满血效果,开启MTP后解码速度提升约50%-60%。

    推荐理由:将 295B 旗舰模型量化至单卡部署,1bit 版本在长文理解上仍接近满血,且提供 MTP 加速,改变了本地运行大模型的门槛与成本考量。

  10. MarkTechPost56

    Blume:一个开源、零配置的文档框架,从 Markdown 文件夹生成 AI 就绪文档

    OpenAI 开发者 Hayden Bleasel 发布了 Blume 1.0.3,一个 MIT 许可的开源文档框架。用户只需将 Markdown 或 MDX 文件放入文件夹,即可生成包含导航、搜索、主题和 Open Graph 图片的生产级文档站点。Blume 在底层驱动一个隐藏的 Astro 项目,核心主题不携带客户端框架 JavaScript,默认获得良好的 Core Web Vitals 评分。它原生支持 AI:在 URL 后追加 .md 可返回原始 Markdown,内置 llms.txt 和 llms-full.txt 文件供 AI 智能体使用,可托管 MCP 服务器供 Claude Code、Cursor 和 VS Code 直接读取文档,并提供可选的页面内 Ask AI 助手。配置为类型安全的 TypeScript 文件,支持 36 种语言和 Notion 等远程内容源。需要 Node.js 22.12 或更新版本。

  11. Inception Labs:Blog67

    Inception Labs 发布 Mercury 2:首个在 NVIDIA GPU 上每秒解码超 1000 token 的推理扩散语言模型

    Inception Labs 发布 Mercury 2,称其为全球首个推理扩散语言模型(dLLM),在 NVIDIA H100 上以 1000+ token/秒并行解码,300 token 的推理链可在约 300ms 内完成,适配语音对话延迟预算。

    推荐理由:官方给出扩散架构推理模型在 NVIDIA GPU 上的延迟与定价数据,语音 Agent 开发者可以据此评估是否能替换现有默认模型。

  12. Google AI:DEV 作者专属67

    合成随机向量数据会误导 PostgreSQL 和 AlloyDB 的向量搜索性能测试

    Google AI 工程师指出,使用合成随机向量数据测试向量搜索性能可能导致误导性结果。对于 HNSW 索引,合成数据构建耗时 6,601,789 毫秒,而真实数据仅需 4,174,196 毫秒,速度快 1.5 倍,因为随机向量缺乏自然聚类结构,使图索引的节点连接更难建立。

    推荐理由:玩pgvector或AlloyDB向量搜索的开发者应该看看这篇,用合成数据测HNSW索引召回率可能只有3%,而真实数据超90%,附带完整SQL复现脚本。

  13. IT之家·人工智能45

    软银孙正义:核聚变能源将是 AI 未来发展的关键

    软银集团创始人孙正义预测,随着 AI 数据中心电力需求迅速膨胀,核聚变将在 15 年后取代天然气发电,成为更便宜、更清洁、更安全的新型主要能源。他预计到 2040 年,全球数据中心所需电力容量将达到 3 太瓦。孙正义还否定了 AI 泡沫论,称质疑者既不了解也未深入使用 AI,并警告日本若无法认识到 AI 潜力,将错过巨大财富创造机遇。

  14. Greg Brockman47

    GPT-5.6 现已在 Bedrock 上正式可用。

    引用AWS Newsroom@AWSNewsroom

    GPT-5.6 Sol, Terra, and Luna from @OpenAI are now generally available on Amazon Bedrock. Three tiers of intelligence, from flagship reasoning to fast inference, running on Bedrock's next-generation inference engine built for high-performance, security, scale, and reliability. https://go.aws/4wkhHNX

  15. IT之家·人工智能44

    汤森路透因推广AI对工程部门进行小规模裁员

    路透社母公司汤森路透在内部技术人员会议上表示,因在各项业务中积极部署人工智能,将裁减工程部门“少量职位”。匿名员工透露裁员规模至多500人,占其27100名总员工的约1.8%,或运营和技术部门9400名员工的5.2%。公司发言人表示,未来两年将在全球新增250多个工程岗位,其中绝大多数为高级工程师和AI原生工程师。

  16. MiniMax (official)42

    在 RAISE 大会上,SambaNovaAI 将 H200 用于计算密集型预填充、SN50 RDUs 用于内存受限解码,实现了 MiniMax M2.7 的最快推理。经 Artificial Analysis 基准测试,短上下文达 850 t/s,长上下文超 450 t/s。

    引用SambaNova@SambaNovaAI

    MiniMax_AI 2.7 just got even faster! At @RaiseSummit, SN50 delivered the fastest @MiniMax_AI M2.7 inference in the world, as benchmarked by @ArtificialAnlys. 850 t/s on short-context workloads. 450+ t/s on long-context workloads. Built for premium inference. Read more in our blog ⬇️ https://bit.ly/4fdcsrE

  17. Claude:Blog53

    Hebbia 测试 Claude Fable 5:金融专用基准测试中准确率提升约 20%

    为机构金融提供 AI 平台的 Hebbia 测试了 Claude Fable 5。在其金融专用基准测试中,Claude Fable 5 在文档问答与引证测试上实现了约 20% 的相对准确率提升,创下团队记录;在智能体测试中,它能同时处理多部分请求并逐一溯源。该模型还能从更广泛的数据中推理,得出值得深入分析的结论。Hebbia 正借助 Claude Fable 5 将 Matrix 平台的能力从提取信贷协议条款扩展到多步分析,如对比实时监控数据、标记风险并草拟内部备忘录。

7月13日周一
  1. IT之家·人工智能59

    我国自研 AI 芯片取得架构突破:14nm 制程实现每秒 520 万亿次浮点运算

    7 月 13 日,我国首颗采用软件定义与三维近存计算技术的 AI 芯片在上海亮相。该芯片基于 14 纳米制程,实现每秒 520 万亿次浮点运算算力,访存带宽达每秒 6.4TB,通过底层架构创新缓解“存储墙”瓶颈。同步发布配套全栈软件工具链,兼容主流深度学习框架,形成从单张加速卡到大规模智算集群的完整产品体系,为大模型训练与推理提供算力支撑。

  2. IT之家·人工智能45

    中国电信联合北邮、鹏城实验室完成高轨卫星跨模态语义通信试验,传输效率较 H.265 提升 3.5 倍

    中国电信研究院联合北京邮电大学、鹏城实验室,基于亚洲九号卫星完成高轨卫星跨模态语义通信试验。该方案融合语义知识库与信源信道联合编码(JSCC)技术,将星地链路传输效率提升至 H.265 方案的 3.5 倍、H.264 方案的 5.5 倍,同时保持相近视频质量(FID<50)。试验还通过生成式语义恢复与多模态融合对齐,使多模态传输质量较传统方案提升 70% 以上。

  3. IT之家·人工智能42

    HBM4 价格明年有望翻倍,产能瓶颈与长期合同加剧供应紧张

    受AI需求与产能瓶颈推动,下一代HBM4价格到2027年有望翻倍,每Gb价格升至4至5美元甚至更高。HBM4生产周期长达4至6个月,初期良率低,消耗晶圆产能约为普通DDR5 DRAM的三倍。三星、SK海力士和美光等厂商通过与顶级AI客户签署3至5年长期合同锁定产能,预计到2027年全球约一半DRAM产能将无法向中小客户供应。英伟达Rubin AI架构正加速HBM4导入。SK海力士当天通过ADR登陆纳斯达克,发行规模达265亿美元。

7月12日周日
  1. The Verge:AI49

    苹果2015年爱尔兰数据中心项目为当前AI数据中心社区抗争埋下伏笔

    早在AI热潮威胁地方电网之前,2015年苹果计划在爱尔兰Athenry小镇建造一座约10亿美元的数据中心,占地500英亩,用于支撑欧洲的iTunes、iMessage和Siri等服务。这一项目引发了当地小规模抗议者的反对,为如今各地社区与AI数据中心建设之间的冲突埋下了伏笔。随着AI对算力需求的激增,类似围绕土地、能源和环境问题的社区抗争正在全美乃至全球范围内蔓延,且远未结束。

  2. The Decoder:AI News49

    AgenticSTS 用固定记忆层替代增长日志,在《Slay the Spire 2》中胜率翻倍

    Alaya Lab 与上海交通大学等机构提出的 AgenticSTS 项目,用五个固定记忆层(L1 协议指令、L2 状态模式、L3 检索规则、L4 历史对局摘要、L5 策略技能库)替代不断增长的对话日志,每次决策仅构建约 5,000 token 的提示词。在最低难度 A0 下,无记忆层时胜率 3/10,启用 L5 技能库后升至 6/10。对比公开智能体 STS2MCP 和 CharTyr,AgenticSTS 每得一分仅消耗其 1/66 至 1/90 的 token 量,且耗时仅为四分之一。跨模型迁移测试中,Gemini 3.1 Pro 积累的记忆使 Qwen 3.6-27B 平均分提升 84.5%,但 Deepseek V4-Pro 分数下降 18.1%,记忆内容与创建模型强绑定。

  3. MarkTechPost58

    TileGym GPU 编程教程:从cuTile与Triton内核到Flash Attention

    本教程通过Colab工作流讲解TileGym GPU编程。首先探测CUDA环境,在标准Colab GPU上回退至Triton,在CUDA 13.1+及Ampere/Ada/Blackwell GPU上使用NVIDIA cuTile后端。核心思想是以数据块(tile)为单位进行加载、计算与存储。教程实现了向量加法、融合GELU、行式softmax、分块矩阵乘法及Flash Attention内核,并与PyTorch对比验证正确性与性能。Flash Attention采用在线softmax避免完整注意力矩阵的显存占用。

7月11日周六
  1. 蚂蚁 inclusionAI:GitHub 新仓库65

    蚂蚁集团开源 AKernel:面向 AI 智能体的可编程数据中心基础设施

    蚂蚁集团开源 AKernel(Agent Kernel),一个将整个数据中心视为 AI 智能体可编程扩展的分布式内核。它通过统一 Python SDK 实现计算、网络和存储的编程控制,支持单机、私有 K8s 及多云(阿里云、华为云)一键部署,冷启动仅需 40 毫秒。AKernel 代码由 AI 大量贡献,并内置基于 OpenTelemetry 的全栈可观测性。

    推荐理由:蚂蚁把数据中心变成 Agent 的可编程扩展,对于需要大规模弹性编排 Agent 的团队来说,比用 Kubernetes 手写 YAML 直接得多,不过目前严重依赖阿里云和华为云,通用性还差一截。

  2. 蚂蚁 inclusionAI:GitHub 新仓库60

    蚂蚁 inclusionAI 开源沙箱生命周期服务 sandboxd

    蚂蚁集团 inclusionAI 在 GitHub 开源 sandboxd,这是 AKernel 使用的 Linux 沙箱生命周期服务,通过 gRPC API 管理沙箱资源,当前基于 gVisor 运行沙箱,并计划近期开源 Kata Containers 支持。

    推荐理由:蚂蚁把 AKernel 用的沙箱生命周期管理开源了,对需要安全执行代码的 AI 推理/评测场景有参考价值,但仅限底层基础设施人员,非目标受众不必深究。

  3. IT之家·人工智能58

    韩国开发者收到 Anthropic 1662 万美元巨额账单,Claude API 控制台却显示 0 美元

    一位韩国开发者于 7 月 8 日收到 Anthropic 自动发送的两笔扣款通知,金额分别约为 160 万美元和 1662 万美元(现汇率约合 1.13 亿元人民币)。该开发者通过调用 API 使用 AI 智能体编程,虽可能因无限循环导致大额消耗 Token,但媒体指出 1662 万美元的账单对个人开发者而言几乎不可能达到。然而,Claude API 控制台中显示为 0 美元。

  4. MiniMax (official)47

    MiniMax 与 Fireworks AI 合作,为 M3 模型在 NVIDIA Blackwell(B200)上推出新内核。该内核采用 KV-stationary 设计,每个选中的 KV 块仅读取一次,解决了长上下文稀疏注意力中数据依赖块选择破坏内存访问速度的问题,在 B200 上达到约 980 TFLOP/s 的算力。

    引用Fireworks AI@FireworksAI_HQ

    Long-context sparse attention has a catch: data-dependent block selection wrecks memory access kills speed. Our @MiniMax_AI M3 kernel on Blackwell answers it. KV-stationary, each block read once, ~980 TFLOP/s on a B200. See the breakdown here → https://fireworks.ai/blog/kernel-optimization-for-minimax-m3-on-nvidia-blackwell

  5. LMSYS Blog61

    DeepSeek-V4 Flash 强化学习训练登陆 AMD Instinct MI355X GPU,由 Miles 框架支持

    DeepSeek-V4 Flash 的强化学习训练现已在 AMD Instinct MI355X GPU 上通过 Miles 框架获得支持,基于 ROCm 软件栈运行。该 2840 亿参数 MoE 模型(每 token 激活 130 亿参数)需 SGLang 进行 rollout 生成、Megatron 进行策略更新,Miles 负责异步循环与权重同步。团队解决了 SGLang 与 Megatron 间模型对齐、量化状态在线更新及多节点并行稳定性三大挑战,最终在四个八 GPU 节点上完成端到端验证:超过 100 个优化器步骤中训练-rollout 对数概率差可控,在线奖励持续提升,离线 AIME-2024 基准分数同步上涨。

    推荐理由:把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。