#推理
Artificial Analysis@ArtificialAnlysAI 评分7171TechCrunch:AIAI 评分6868 SpaceXAI 发布 Grok 4.5,Elon 称其为 Opus-class 模型
SpaceXAI 发布上市后首个模型 Grok 4.5,定位为可处理编码、办公、研究和写作等任务的通用模型。公司声称其 token 效率是其他领先模型的两倍。定价每百万输入 token 2 美元、输出 token 6 美元。创始人 Elon Musk 在 X 平台称其为 Opus-class 模型,内部评估认为 Grok 4.5 与 Anthropic 的 Opus 4.7 性能相当,但速度更快、成本更低。
The Decoder:AI NewsAI 评分7373 xAI发布Grok 4.5
xAI发布Grok 4.5,目标编程、智能体任务和知识工作。在Terminal Bench 2.1上得分83.3%,接近GPT 5.5(83.4%)和Fable 5(84.3%);但在DeepSWE 1.1上仅53%,落后GPT 5.5(67%)和Fable 5(70%)。Grok 4.5定价$2/百万输入token、$6/百万输出token,远低于Opus 4.8($5/$25)、Fable 5($10/$50)和GPT-5.5/5.6($5/$30),且在SWE Bench Pro上比Opus 4.8少用4.2倍token,生成速度80 token/秒。模型现已通过Grok Build、Cursor和xAI控制台可用,暂不支持欧盟,xAI计划7月中旬上线。
The Decoder:AI NewsAI 评分8383 OpenAI 推出 GPT-Live:全双工语音模型,可同时听与说
OpenAI 发布 GPT-Live 语音模型,采用全双工架构,支持同时听和说、用户打断以及“mhmm”等填充词,对话更自然。两个版本:GPT-Live-1 面向 Go、Plus、Pro 付费用户,GPT-Live-1 mini 面向免费用户,覆盖 iOS、Android 和网页。复杂任务(网页搜索、推理)委托给后台 GPT-5.5,用户可选 Instant、Medium、High 三个推理级别。用户偏好度测试中,GPT-Live-1 达 75.7%,GPT-Live-1 mini 达 69.2%。在 GPQA 科学推理测试中,高推理级别达 84.2%(Advanced Voice Mode 为 45.3%);在 BrowseComp 智能体搜索基准上得 75.2%(Advanced Voice Mode 为 0.7%)。新增视觉卡片与九种语音,内置危机热线、年龄适配及家长控制等安全措施。
Cursor BlogAI 评分8080 推出 Grok 4.5
Cursor 与 SpaceXAI 联合训练了混合专家模型 Grok 4.5,在数万亿 tokens 的 Cursor 用户交互数据上训练,并通过强化学习解决软件工程、数据科学、金融、法律等领域的困难问题。基础版定价 $2/M 输入 tokens、$6/M 输出 tokens,快速版 $4/M 输入 tokens、$18/M 输出 tokens。即日起在 Cursor 桌面、网页、iOS、CLI 及 SDK 中可用,个人和团队计划首周使用量翻倍。Grok 4.5 与 Composer 2.5 为不同权重类别,两者将继续支持。
LMSYS BlogAI 评分5252 利用 Netpreme X‑Mem™ MPU 加速 SGLang HiCache
Netpreme X‑Mem™ 内存处理单元(MPU)作为专用高带宽 KV 内存层与 SGLang HiCache 集成,替代主机 DRAM 作为 L2 卸载层。在基于 Claude Code 代理轨迹的编码工作负载中,前缀缓存命中率平均约 98%。单请求微基准测试显示,首 token 延迟(TTFT)相比主机 DRAM 方案降低约 6.7 倍。在端到端推理基准测试中(20K token 上下文、26 token 输入、20 轮对话),中等负载下每用户吞吐量提升 33%,高负载下交互性提升 50%、系统吞吐量提升 30%。X‑Mem™ 通过 CUDA 和 PyTorch 兼容 API 集成,单节点提供最高 24 TB 内存、4 TB/s 带宽。
OpenAI:官网动态精选AI 评分7777 OpenAI 发布 GPT‑Live 新一代全双工语音模型
OpenAI 今日推出 GPT‑Live,基于全双工架构实现同时听与说,支持自然打断与实时回馈。该模型每秒多次判断是否说话、倾听、打断或调用工具,并将搜索、推理等复杂任务委托给后台 GPT‑5.5,保持对话流畅。即日起向全球 ChatGPT 用户提供 GPT‑Live‑1 和 GPT‑Live‑1 mini 两个版本。人类评估显示,在 5‑10 分钟对话中,GPT‑Live‑1 系列在自然度、轮流、打断等方面显著优于 Advanced Voice Mode;在 GPQA、BrowseComp 和 τ³‑Voice Telecom 基准测试中也表现更强。未来将开放 API。
推荐理由:GPT‑Live 不是简单的语音版本升级,全双工架构让 AI 终于能同时听和说,加上后台调用 GPT‑5.5,对话体验跨了一大步,做语音应用的产品人该重新思考交互流程了。
Hugging Face 社区博客精选AI 评分6666 原生速度的 vLLM transformers 建模后端
Hugging Face 宣布 transformers vLLM 后端现与手写原生 vLLM 实现速度相当甚至更快。模型作者无需移植代码,即可自动利用 transformers 获得超快推理。测试使用 Qwen3-4B(单 GPU)、Qwen3-32B(张量并行)和 Qwen3-235B-A22B-FP8 MoE(数据+专家并行)三种配置,吞吐量均达到或超过原生。该后端通过 torch.fx 静态分析图、AST 重写代码实现动态层融合,支持张量/管道/专家并行及 torch.compile。用户仅需添加 `--model-impl transformers` 标志。目前不支持线性注意力模型但即将支持。
推荐理由:用 transformers 写的模型,现在不用改一行代码就能在 vLLM 里跑到手写实现的水平,模型作者最大的集成痛被抹平了。虽然主要是工程黑魔法,但生态意义不小。
The Decoder:AI NewsAI 评分6363 Claude Fable 5 主导新行业基准但价格高昂
评测平台 Artificial Analysis 发布六项新行业能力指数(金融、法律、医疗、战略与运营、工程、经济)。Anthropic 的 Claude Fable 5(搭配 Opus 4.8 回退)在全部八个指数中排名第一;Claude Opus 4.8 (max) 在六项中第二,OpenAI 的 GPT-5.5 (xhigh) 在其余两项中居次。开源模型中,GLM-5.2 (max) 在五项指数中领先,工程基准得 53 分排第五。成本方面,DeepSeek V4 Flash (max) 每任务不到 $0.04,而 Claude Fable 5 在战略与运营指数中每任务 $3.48,比 DeepSeek V4 Pro (max) 贵 100 倍以上,领先分差仅 12 点。LMArena 截至 7 月 7 日的榜单显示,Claude Fable 5 在 Text Arena、Code Arena 和 Agent Arena 均居首位。
OpenRouter@OpenRouter精选AI 评分6868推荐理由:OpenRouter 的 grok-latest 别名让开发者零代码升级到 Grok 4.5,虽然是个小功能,但省掉了版本切换的繁琐,用 Grok 做产品的团队现在就该把端点切过去。
IT之家·人工智能AI 评分5151 国产 GPU 厂商沐曦股份:部分产品订单已排到明年甚至之后,MXC600 芯片系列已大规模出货
沐曦股份首席产品官孙国梁表示,公司部分产品订单已排到明年甚至之后。MXC600 芯片系列是今年主力,已大规模出货。该芯片采用自研 GPU 架构,实现从设计到制造、封装及配套软件栈的全国产供应链。基于 MXC600 的曦云 C600、曦思 N300、曦索 X300 系列已推出。5 月 26 日,MXC600 通过国家《安全可靠测评》。孙国梁指出,通用、易用、稳定、可靠的算力仍一卡难求,过剩的是不通用架构、只能跑上一代模型的算力。
IT之家·人工智能AI 评分5858 AI 芯片竞合并存:NVIDIA 牵手 d-Matrix 打造混合算力基础设施
NVIDIA 与 AI 芯片初创企业 d-Matrix 合作,构建结合双方硬件的混合算力基础设施。Neocloud 企业 Parasail 将 NVIDIA Hopper/Blackwell GPU 与 d-Matrix Corsair ASIC 结合,实现 10 倍 token 生成速率。Corsair 采用台积电 N6 制程 D-IMC(数字存内计算)架构,将计算单元与 SRAM 集成在同一芯片上,通过片外 LPDDR5 扩展内存。在该架构中,GPU 负责推理前端的预填充任务,Corsair 则处理后端延迟敏感的解码任务。d-Matrix 称此举旨在验证推理的异构未来:GPU 与专用推理加速器相辅相成,而非竞争。
TechCrunch:AIAI 评分6464 ZML推出免费推理服务器ZML/LLMD,支持多种AI芯片运行开源大语言模型
法国AI初创公司ZML发布LLM推理服务器ZML/LLMD,允许多种开源大语言模型在NVIDIA、AMD、Google TPU、Apple Metal、Intel Arc等芯片上以最高速度运行,旨在打破软硬件壁垒、避免供应商锁定。该产品目前为免费非开源版本,团队仅20人,已获2000万美元融资,投资人包括Hugging Face联合创始人Clément Delangue与Julien Chaumond、图灵奖得主Yann LeCun等。创始人Steeve Morin表示后续计划推出更多版本并择机商业化。
MiniMax (official)@MiniMax_AIAI 评分5151引用Together AI@togethercomputeWe're introducing Provisioned Throughput: reserved inference capacity for frontier open models, with token-based pricing and a 99% uptime SLA. Serverless simplicity, guaranteed capacity, up to 90% lower cost vs. Opus 4.8. Get started with MiniMax M3 + GLM-5.2, read more 🧵
The Decoder:AI News精选AI 评分7474 OpenAI GPT-5.6 周四发布,此前因美国政府强制延迟
OpenAI GPT-5.6 模型于周四发布。该模型6月底亮相,最初因美国政府限制仅向部分合作伙伴提供,商务部在AI标准与创新中心完成额外测试后批准公开。OpenAI公开批评延迟,称将最佳工具与开发者及企业隔离。新模型Sol在TerminalBench 2.1得分88.8%,Sol Ultra达91.9%,高于Anthropic的Claude Mythos 5(88%)。在网络安全任务中,Sol与Mythos 5水平相当但仅用三分之一的token。Sol定价$5/$30每百万输入/输出token,Anthropic的Fable 5为$10/$50。
推荐理由:被美国政府按了暂停键的 GPT-5.6 终于要公开了,基准测试小胜 Claude Mythos 5 且 token 消耗仅三分之一,价格也比 Anthropic 便宜近半,开发者可以准备预算了。
IT之家·人工智能AI 评分4646 埃隆·马斯克确认:SpaceXAI 将于“明天”向公众开放 Grok 4.5 模型
SpaceXAI 将于“明天”向公众开放 Grok 4.5 模型。该模型对标 Anthropic Claude Opus 级别,速度更快、Token 效率更高、成本更低。Grok 4.5 基于 1.5T 参数的 V9 基础模型,并在补充训练中加入了来自 Cursor 的数据。
DogeDesigner@cb_dogeAI 评分5858突发:Elon Musk 刚刚确认 Grok 4.5 将于明天公开发布。 • 来自 beta 客户的强烈正面反馈 • Opus 级别模型 • 性能更快 • token 效率更高 • 成本更低
jason@jxnlcoAI 评分5252我提前体验了该模型,最令人印象深刻的是它永不放弃。开启最大推理后,它会一直工作直到完成。GPT 5.6 Sol 是我目前最喜欢的模型。 主推文指出,模型往往反映公司的价值观。
引用Max Weinbach@mweinbachI had early access to this model and I'll post more Thursday, but I think the most impressive part is this model NEVER GIVES UP If you throw it in Max reasoning, it will just keep working until it's done. GPT 5.6 Sol is my favorite model BY FAR.
OpenAI@OpenAIAI 评分6464IT之家·人工智能AI 评分5959 智谱考虑自研芯片,应对GLM模型需求激增
智谱(Z.ai)因GLM系列AI模型需求激增,正评估自研定制芯片的可能性。自研芯片可帮助实现AI软硬件协同优化,提升算力利用效率,降低对外部芯片供应商的依赖。OpenAI已公布其自研芯片Jalapeño,Anthropic与SpaceXAI也有意向,近日又传DeepSeek正推进类似项目。
公众号:蚂蚁百灵精选AI 评分6464 蚂蚁集团周俊AICon演讲:从Token数量到Token密度,万亿参数模型效率优先
蚂蚁集团副总裁周俊在AICon演讲指出,万亿参数模型每运行15分钟算力成本约等于一辆特斯拉,效率是智能体时代最需解决的问题。团队提出从“更多Token”转向“更高Token密度”策略,采用7份Lightning Attention加1份MLA的混合线性注意力架构,使256K长上下文成本从指数级降至线性级,算力更多用于思考。通过Kpop算法区分工具调用与自然语言Token,结合思维链剪枝、自蒸馏等,Token输出减少约4倍而能力不降。在LongBench、BFCL等基准上提升显著,千亿参数模型在Agent任务中超越部分更大模型;小模型flash吞吐达2.4倍,五轮对话成本下降10倍以上。
推荐理由:蚂蚁百灵副总裁周俊这次分享,把大模型效率问题从零散优化推到了架构、训练、智能体协同设计的范式层面,7+1 混合注意力方案和 Kpop 算法对做模型的人是实质参考。
公众号:蚂蚁百灵精选AI 评分6060 蚂蚁集团周俊:如何用混合线性改造提升万亿参数模型的Token密度
蚂蚁集团副总裁周俊提出,万亿参数模型每运行15分钟算力成本约相当于一辆特斯拉,效率是智能体时代必须最先解决的问题。团队通过7份Lightning Attention搭配1份MLA的混合线性改造,将256K长上下文成本从指数级降至线性级,配合Kpop算法与真实环境训练,使Token输出减少约4倍,千亿参数模型在真实Agent任务上超过部分更大规模模型。
推荐理由:7:1 的混合注意力配比、将真实错误纳入训练以及区分工具调用与自然语言的奖励函数,为同时追求长上下文效率和智能体可靠性的工作提供了可参照的技术路线。
MarkTechPost精选AI 评分7070 Liquid AI 开源 Antidoom:基于最终 Token 偏好优化的推理模型死循环修复方法
Liquid AI 开源了 Antidoom,一种基于 Final Token Preference Optimization (FTPO) 的针对性修复方法,用于减少推理模型中的 doom loop(死循环)问题。该方法定位循环开始的第一个 token,训练模型选择连贯替代项,而不改变整体输出分布。在 LFM2.5-2.6B 上,硬数学和编程任务中的循环率从 10.2% 降至 1.4%;Qwen3.5-4B 上从 22.9% 降至 1%。整套流程可在数小时内完成,全部代码和数据集(LiquidAI/antidoom-mix-v1.0)已开源。
推荐理由:Antidoom 用一次训练就修复了小型推理模型常见的 doom loop,LFM2.5 和 Qwen3.5 的循环率从两位数掉到 1%,代码和数据全开源,自己训模型时可以直接加这一环。
Ars Technica:AIAI 评分5757 面对美国出口管制,中国DeepSeek计划自研芯片
DeepSeek正计划进入芯片业务,重点开发面向数据中心推理的芯片(非训练芯片)。该项目已进行约一年,DeepSeek持续与潜在合作伙伴会面并招聘相关工程师,目标之一是减少对华为和英伟达的依赖。美国出口管制是这一计划紧迫的直接原因。与此同时,几周前OpenAI与Broadcom联合发布了首款推理芯片Jalapeño,Anthropic也在探索定制芯片设计。
IT之家·人工智能AI 评分5050 消息称 DeepSeek 正在自研 AI 芯片:面向推理场景,减少依赖英伟达、华为
据路透社援引知情人士消息,中国AI初创公司DeepSeek(深度求索)正研发自有AI芯片,主要面向大模型推理场景,旨在降低对英伟达和华为的依赖。该项目约一年前启动,仍处早期,DeepSeek正与芯片设计企业、晶圆代工厂和存储厂商洽谈,近期低调招聘芯片设计工程师。受此消息影响,英伟达盘前股价下跌约1.6%。分析师指出,除非获最先进制造工艺,否则其芯片几乎无法销往海外,不会对英伟达造成实际影响。
METR:NotesAI 评分5757 METR 分析:Anthropic 代码日产出增长 8 倍,研究者效率提升可能超过 2 倍
METR 的 Thomas Kwa 基于经济模型分析 Anthropic Q2 2026 贡献者日均代码量较 2021-2024 增长 8 倍的数据,估计仅编码智能体带来的研究者效率提升就超过 2 倍,中心估计约 2.5 倍。
Cognition 模型 / Devin 博客AI 评分5555 Cognition 发布开源衍生模型可信度评测,SWE-1.7 与美国前沿模型表现相当
Cognition 构建了一套模型可信度评测套件,用 145 个政治敏感问题(英文、简体、繁体中文各五次采样,按六个维度评分)和真实编码场景测试模型宣传倾向与差分安全行为。
Cognition 模型 / Devin 博客精选AI 评分6767 Cognition 发布 SWE-1.7 模型并详解 RL 训练方法
Cognition 发布 SWE-1.7,称其以更低成本达到前沿智能水平。模型基于 Kimi K2.7 底座训练,FrontierCode 1.1 Main 通过率 42.3%,Terminal-Bench 2.1 为 81.5%,已在 Devin(Web、Desktop 和 CLI)中经 Cerebras 以 1000 TPS 提供。
推荐理由:官方既公布基准成绩也详解训练方法,读者可以了解多集群 RL 训练、熵稳定和自压缩等具体做法。
Rohan Paul@rohanpaul_aiAI 评分5050引用Rohan Paul@rohanpaul_aiDeepSeek is building an inference chip to cut dependence on Nvidia and Huawei in China’s $50B AI-chip market. DeepSeek’s chip work is still early, with outside partners and private hiring of chip-design engineers. The hard part is not drawing a chip, but making it at scale. Advanced foundries and high-bandwidth memory remain chokepoints because U.S. rules restrict Chinese access. DeepSeek can still gain from a narrower chip built mainly for its own models. A custom inference chip could lower serving costs, reduce power needs, and tighten software-hardware control. --- reuters .com/world/china/chinas-deepseek-developing-its-own-ai-chip-sources-say-2026-07-07/
ByteByteGoAI 评分6363 ChatGPT vs Gemini vs Claude:三大模型架构差异解析
向 ChatGPT、Gemini 和 Claude 发送相同提示词会得到截然不同的回答,这源于三家公司在架构设计上的关键分叉。Google 的 Gemini 采用稀疏混合专家(MoE)架构,可在不按比例增加计算成本的情况下扩展模型容量,但不同提示词路由到不同专家会导致输出方差较大。OpenAI 未明确确认 GPT-4 是否使用 MoE,而 GPT-5 则在推理时通过路由器选择不同子模型。
Tencent Hy@TencentHunyuanAI 评分6969引用SiliconFlow@SiliconFlowAI🎁 Free Access for First 2 Weeks Meet @TencentHunyuan Hy3 Now with T+0 support on SiliconFlow 🎉 Hy3: 295B MoE / 21B active / 262K context ✅ Refined iteratively through 50+ real business scenarios ✅ Cuts hallucinations & knowledge errors in half ✅ Stays on-intent over long-horizon tasks ✅ Stable agent execution with more tool-call wins, no infinite loops Put it to real work through SiliconFlow ⬇️
Claude:BlogAI 评分6565 在 Claude Code 中选择 Claude 模型与努力级别
Claude Code 提供模型(model)和努力级别(effort)两种设置。模型选择决定能力范围,更大模型(如 Claude Fable 5)在基准上优于 Claude Sonnet。努力级别不单是思考时间,还控制读取文件数、验证步骤及多步任务的推进深度。较高努力下 Claude 会自行读取文件、运行测试并复核;较低努力则更倾向请求用户提供上下文。若 Claude 已掌握上下文但仍出错,应换更强大模型;若因跳读文件或未运行测试而出错,则应提高努力级别。
The Decoder:AI NewsAI 评分6666 DeepSeek 自研 AI 推理芯片,同时寻求 70 亿美元融资
DeepSeek 正在自研 AI 芯片,专用于推理阶段(模型生成响应),而非训练新模型,旨在降低对英伟达和华为芯片的依赖。项目仍处早期,已与多家芯片设计、制造及内存企业接洽,并秘密招募芯片工程师数月。美国出口管制限制中国公司获取最先进芯片。此外,DeepSeek 首次寻求外部融资,计划筹集 70 亿美元,估值介于 520 亿至 590 亿美元之间。
MarkTechPostAI 评分7777 腾讯发布 Hy3:295B 参数稀疏 MoE 模型,21B 激活参数,支持 256K 上下文
腾讯 Hy 团队发布 Hy3,一款 295B 总参数、21B 激活参数的稀疏 MoE 模型,采用 192 专家、top-8 路由架构,支持 256K 上下文长度。包含多 token 预测层(MTP),可通过 vLLM / SGLang 的推测解码加速推理,并提供 FP8 量化版。基准测试:SWE-Bench Verified 78.0、GPQA Diamond 90.4、USAMO 2026 72.0、IMOAnswerBench 90.0;盲测中以 2.67/4 分领先 GLM-5.1(2.51)。在工具调用、抗幻觉、多轮追踪三项可靠性指标上分别实现 12.5%→5.4%、25.4%→12.7%、17.4%→7.9% 的改进。支持 OpenAI 兼容 API 及 `reasoning_effort` 控制推理深度。已开源(Apache 2.0),OpenRouter 提供免费路由(免费期至 2026 年 7 月 21 日)。
IT之家·人工智能AI 评分6161 Claude Sonnet 5 上线后遭大量投诉:总爱唱反调,还想教用户做事
Anthropic 上周发布的 Claude Sonnet 5 上线即遭大量投诉。用户反映模型常直接说出系统提示词和上下文记忆,拒绝执行指令并反复反驳,甚至编造内容。有用户称模型将会计任务视为“欺诈”并拒绝执行;还有用户怀疑模型将任务拆给子智能体,消耗更多 token 且质量更差。其他问题包括对话两三轮即丢失上下文、使用模糊措辞、无故劝用户睡觉。
Tencent Hy@TencentHunyuan精选AI 评分7171引用Novita AI@novita_labs⚡ 作为 Day-0 合作伙伴正式上线:@TencentHunyuan Hy3 现已在 @OpenRouter 上可用。 🎉 7 月 21 日前免费。 专为真实商业场景打造,Hy3 提供: 🧠 295B MoE(21B 激活) 📚 原生 256K 上下文 ⚙️ 三种可配置推理模式 💻 强大的编码、推理与长上下文能力 🤖 针对智能体工作流优化 为生产力与真实 AI 工作流而设计,在生产规模下平衡可靠性、效率与成本。 #Hy3 #LLM #Agents
推荐理由:腾讯混元 Hy3 在 OpenRouter 免费上线,295B MoE 模型直接可用,对想试国产模型海外部署的开发者是个低门槛入口,但模型本身没有给出超越预期的亮点,更像常规渠道拓展。
Rohan Paul@rohanpaul_aiAI 评分6868引用Anthropic@AnthropicAINew Anthropic research: A global workspace in language models. Of everything happening in your brain right now, only a tiny fraction is consciously accessible—thoughts you can describe, hold in mind, and reason with. We found a strikingly similar divide inside Claude.