消息源 @HarshithLucky3 爆料，谷歌计划 7 月 17 日发布 Gemini 3.5 Pro 模型，支持 200 万 tokens 上下文窗口，引入全新“深度思考”推理模式。该模型面向复杂智能体工作流，承担比已发布的 Gemini 3.5 Flash 更高阶的推理与执行角色。据 LMSYS Chatbot Arena 截图显示，在编码任务中 Gemini 3.5 Pro 表现优于 Anthropic 的 Claude Fable 5 High。
OpenAI Developers@OpenAIDevsAI 评分6262GPT-Realtime-2.1-mini 现已在 API 中可用，以与 GPT-Realtime-mini 相同的费用为我们的 Realtime mini 系列带来推理和工具使用功能。
Rohan Paul@rohanpaul_aiAI 评分5454BREAKING 🔥: TRACES OF GROK 4.5 HAVE BEEN SPOTTED ON THE GROK WEB! > Unlock the full power of Chat with Grok 4.5 SOON 👀
Anthropic@AnthropicAIAI 评分5252Anthropic新研究：语言模型中的全局工作区。 你大脑中此刻发生的一切，只有极小部分是有意识可访问的——那些你能描述、记住并推理的想法。 我们在Claude内部发现了惊人的类似划分。
GPT-4在ECI指数上保持第一约一年，远超其后任何模型。OpenAI的o1以三个多月的领先时长位居第二，不到GPT-4统治期的三分之一。自2024年2月Claude 3 Opus取代GPT-4后，榜首已易手17次，每款模型的中位在位时长约为七周。这表明模型间竞争显著加剧，性能提升更快但幅度更小。
SGLang 团队将 DSpark 推测解码算法集成到开源推理引擎中。该算法采用半自回归块起草器一次生成一组 token，并利用置信度头与顺序温度缩放（STS）为每个请求动态分配可变验证长度，从而在高负载下裁剪无效验证成本。SGLang 支持密集模型（如 Qwen3）和稀疏模型（如 DeepSeek-V4），通过全 CUDA 图处理不规则的每请求验证长度。提供三种验证模式：`static`（全长）、`compact`（生产路径）和 `cap-accept`（接受上限测量）。还引入了零开销调度、基于离线成本表的在线调度器、融合 Triton 核等优化。在 H200 上使用 DeepSeek-V4-Flash 的测试中，DSpark 在整个并发扫描范围内比 MTP 和非推测基线实现了更优的吞吐量-延迟权衡。
推荐理由：DSpark 这版推测解码的工程落地比论文本身更有看头——SGLang 用 ragged CUDA Graph 和动态调度把 trimm 掉的计算按字节级回收，383 tok/s 的单请求速度对部署方是即时可用的性能增益。
腾讯7月6日发布混元Hy3模型，元宝已接入并免费开放使用。元宝支持查资料、写内容、做排版，输出可视化文档，还能通过指令手搓小游戏，上传数据即可生成分析报告。Hy3基于preview版本修复体验问题，提升后训练数据质量和多样性，扩大RL算力规模，在推理、智能体、长上下文等任务上显著进步，效果比肩2-5倍参数规模的旗舰模型。在270位专家盲测中，Hy3均分2.67/4，优于GLM5.1的2.51/4，前端、数据存储、CI/CD等类别优势显著。
腾讯混元今日正式发布并开源 Hy3 模型。该模型基于 4 月底的 preview 版本，提升了后训练数据质量与多样性，并扩大 RL 算力规模，在推理、智能体、长上下文等任务上显著进步，效果比肩参数规模为 Hy3 2～5 倍的国内外旗舰模型。在 270 位专家基于真实工作的盲测中，Hy3（均分 2.67/4）优于 GLM5.1（均分 2.51/4）。API 价格为输入 1 元/百万 tokens、输出 4 元/百万 tokens，命中缓存输入 0.25 元/百万 tokens。
Mistral AI 于本月 2 日推出面向 Lean 4 的 Leanstral 1.5 模型，拥有 119B 参数、激活 6B 参数，以 Apache-2.0 许可开源。该模型在 miniF2F 验证集和测试集上均实现 100% 完成率，在 PutnamBench 的 672 道问题中解决 587 道，在硕士级 FATE-H 上达 87%、博士级 FATE-X 为 34%，均为最佳表现。成本优势显著：PutnamBench 平均解决开支仅 4 美元，远低于竞品。实际测试 57 个代码库，标记 47 个违规属性，其中 11 个指向真实缺陷，包括 5 个此前未报告的问题。
腾讯混元发布 Hy3，在推理、智能体、长上下文等任务上显著进步，比肩 2～5 倍参数规模旗舰模型。内部盲测均分 2.67/4，优于 GLM5.1（2.51/4）。幻觉率从 12.5% 降至 5.4%，常识错误率从 25.4% 降至 12.7%，多轮问题率降至 7.9%，MRCR 从 42.9% 升至 75.1%。任务解决率从 72% 跃升至 90%，平均耗时缩短 34%。API 价格为输入 1 元、输出 4 元（每百万 tokens），命中缓存 0.25 元。已以 Apache 2.0 协议在 GitHub、HuggingFace 等平台开源。
推荐理由：腾讯混元 Hy3 不堆参数，靠 agent 能力和产品实测说话，幻觉率减半、多轮问题率大降，开源+降价让开发者能直接上手，是国内大模型里少见的产品导向发布。
腾讯混元正式发布 Hy3，在推理、智能体、长上下文等任务上比肩参数规模 2～5 倍的旗舰模型。内部盲测中 Hy3 均分 2.67/4，优于 GLM5.1 的 2.51/4；幻觉率从 12.5% 降至 5.4%，任务解决率从 72% 跃升至 90%，平均耗时缩短 34%。
推荐理由：Hy3 用 8 个业务线的实测数值（幻觉率从 12.5% 降至 5.4%，任务解决率从 72% 升至 90%）说明模型从榜单到生产可用的差距具体落在哪里。
Rohan Paul@rohanpaul_aiAI 评分5454
"100 million words context window is already possible, which is roughly what a human hears in a lifetime. Inference support is the only bottleneck to achieve it. And AI Models actually do learn during the context window, without changing the weights." ~ Anthropic CEO Dario Amodei This is from 11 months back. --- From 'Alex Kantrowitz' YT Channel (Full Video link in comment)
Rohan Paul@rohanpaul_aiAI 评分5757
"100 million words context window is already possible, which is roughly what a human hears in a lifetime. Inference support is the only bottleneck to achieve it. And AI Models actually do learn during the context window, without changing the weights." ~ Anthropic CEO Dario Amodei This is from 11 months back. --- From 'Alex Kantrowitz' YT Channel (Full Video link in comment)
本教程演示如何利用 Tunix 框架与 GRPO 算法对 Gemma-3-1B 进行强化学习训练，通过 LoRA 适配器（秩 32）和自定义奖励函数（评估格式遵循与数学正确性）在 GSM8K 数据集上优化结构化数学推理能力。训练仅更新适配器权重，单加速器即可运行，共 100 步，NUM_GENERATIONS=2，BETA=0.08，EPSILON=0.2，TEMPERATURE=0.9。
7月6日，美团正式开源万亿参数大模型 LongCat-2.0。该模型总参数1.6T，平均激活约48B，专为 Agentic Coding 任务设计，引入 LongCat 稀疏注意力和 N-gram Embedding。作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型，LongCat-2.0 同步开源针对国产算力芯片深度协同优化的多精度版本（BF16、FP8、INT8），覆盖不同算力平台部署需求。
美团正式开源万亿参数大模型 LongCat-2.0，总参数 1.6T、平均激活约 48B，面向真实 Agentic Coding 任务，官方称在五万卡国产算力集群上完成推理。
推荐理由：官方公布模型参数结构、三项关键优化和开源链接，可据此评估其在国内存量算力上的部署可行性。
受 AI 产业扩张拉动存储芯片供给紧张、价格走高，三星电子第二季度营业利润预计同比暴涨约 18 倍至 86 万亿韩元（约 3786.58 亿元人民币），连续三个季度刷新纪录。DRAM 和 NAND 闪存平均售价环比分别大涨 44% 和 53%。分析师提示奖金计提或影响业绩，AI 基础设施投资可持续性是最大隐患；摩根大通预计 AI 存储在云资本开支中占比今年达 52%，明年或超 70%。手机业务成本攀升，下半年大概率再度涨价。
SK 海力士于本周一启动规模约 280 亿美元的美股上市计划，将在纳斯达克通过存托凭证发行 1779 万股新股，每 10 份存托凭证对应 1 股普通股。发行价区间周一公布，最终发行价周四敲定，股票周五挂牌交易。受益于全球人工智能热潮，该股年内涨幅超 270%。本次募资规模预计为史上第二大新股发行，仅次于上月 SpaceX 的 857 亿美元 IPO。SK 海力士是高带宽内存芯片核心供应商，产品用于英伟达、谷歌等 AI 设备。
推荐理由：SK海力士的IPO是AI基础设施商业化的标志节点，HBM的垄断地位让它成为这波浪潮里最硬的硬件锚点，280亿美元募资规模足以让做AI投资的人认真关注。
韩国科学技术院教授金正浩近日称，AI 核心竞争力正从 GPU 转向内存。GPU 在推理中利用率仅 10%-30%，因每次计算需从 HBM 读写数据。未来技术包括：堆叠 NAND 闪存的 HBF（10 年后需求超 HBM）、采用 SRAM 的 HBS（容量可达 1600GB），以及由 HBM、HBF、HBS 组合的约 100 层 3D 复合架构。
ARC Prize 公布 ARC-AGI-3 里程碑奖 #1 结果，总奖金 $37.5K：Tufa Labs 的 The Duck 以 agent 写代码的 REPL 方案夺冠（本地跑 Qwen 3.6 27B FP8），Reki 的 Gemma-4-31B 视觉 JSON 动作方案获第二，Md Boktiar Mahbub Murad 的 forge 框架获第三。
Mistral AI 发布 Leanstral 1.5（Apache 2.0 许可证），专为 Lean 4 编程语言的形式化验证设计。该模型在 miniF2F 基准上准确率达 100%，在 PutnamBench 的 672 道题中解出 587 题，在 FATE-H 和 FATE-X 上分别取得 87% 和 34% 的最高分。除数学外，该模型在代码验证中扫描 57 个开源仓库，发现 5 个未知漏洞，包括 Rust 库 varinteger 的一个溢出 bug。模型通过 Hugging Face 和免费 API 提供，训练涉及 mid-training、监督微调和强化学习。
Mistral AI 发布 Leanstral 1.5，专为 Lean 4 证明助手设计的代码智能体模型。采用 MoE 架构，总参数量 119B，每 token 激活 6.5B，上下文窗口 256k token，支持图文输入、文本输出。权重以 Apache 2.0 开源，并提供免费 API 端点 leanstral-1-5。模型在 miniF2F 验证集和测试集均达 100%，在 PutnamBench 上解出 587/672 道题（约每问题 $4），超越 Seed-Prover 1.5 high 设置（每问题接近 $300）。在 FATE-H 和 FATE-X 上分别取得 87% 和 34% 的新 SOTA；在 FLTEval 上 pass@1 从 21.9 提升至 28.9，pass@8 从 31.9 提升至 43.2，以 Opus 4.6 七分之一成本超越其 39.6。训练分三个阶段：mid-training、监督微调和基于 CISPO 的强化学习，利用多轮交互和文件系统两种 RL 环境。实测成功证明 AVL 树 O(log n) 时间复杂度，并在 57 个开源仓库中找出 11 个真实 bug。可通过 Mistral Vibe 或自托管 vLLM 部署。
Mistral 发布 Leanstral 1.5，一个 Apache-2.0 许可、总参数 119B、激活 6B 的形式化证明模型，权重开放在 Hugging Face 并提供免费 API。
推荐理由：原文给出基准数字、成本对比和真实代码库找 bug 案例，读者可据此评估形式化验证模型的实际可用性。
英伟达7月2日开源 Nemotron-Labs-TwoTower，一种基于预训练自回归骨干的离散扩散语言模型。总参数60B，采用双塔架构：30B自回归/上下文塔（冻结）与30B扩散/去噪塔（可训练），每塔激活3B参数，含128个可路由专家。两塔通过逐层交叉注意力协作，分离上下文表示与去噪过程。综合基准测试显示质量保留98.7%，实际生成吞吐量提升2.42倍。模型以开源权重形式发布在 HuggingFace，采用 NVIDIA Nemotron Open Model License。
Anthropic 计划于 2026 年 7 月 7 日后，从 Pro、Max、Team 及部分 Enterprise 订阅中移除其最强模型 Claude Fable 5 的访问权限，转为基于使用积分的计费模式。目前该模型在订阅中最高占每周使用限额的 50%。Fable 5 将在 Claude.ai、Claude Code、Claude Cowork 及 Claude Platform 上全球提供服务。核心工程师 Thariq Shihipar 回应称，后续将在容量允许时尽快将其重新纳入订阅体系。
Runway 开发了名为 deckard 的容量控制器，在生产推理集群与研究集群间动态重分配 GPU。生产流量在北美工作日上午 9 点 ET 达峰，晚 8 点 ET 跌至不足一半。控制器基于预计算的时间窗口（如工作日 8:30–12:30 ET 高峰子窗口）提前扩容和回收，每次集群间转移耗时 20–60 分钟。利用排队论（Erlang‑C、Little's Law）确定目标利用率，避免接近 85% 后的队列发散（90% 利用率下等待时间约为服务时间的 10 倍）。此方案使夜间闲置 GPU 回归研究、白天排队等待缩短。
推理大语言模型支持测试时扩展，准确率随 token 预算增加而提升，但预算设定带来风险-精度权衡。Conformal Thinking 框架将预算设定重定义为风险控制问题：在最小化计算量的同时限制错误率。该框架引入上阈值（模型足够自信时停止推理，承担输出错误的风险）和下阈值（提前终止无法解决的实例，承担过早停止的风险）。给定目标风险与验证集后，使用无分布风险控制来最优指定这些停止机制。跨多种推理任务和模型的实验表明，该方法在遵守用户指定风险目标的同时，通过下阈值与集成停止机制实现了计算效率提升。代码已开源。
扩散大语言模型（dLLM）可并行解码多个token，但现有分块式dLLM依赖重新掩码机制，仅保留最置信token而丢弃其余，造成计算浪费。本文提出Residual Context Diffusion（RCD）模块，将丢弃token的表示转化为上下文残差并注入下一次去噪步骤，采用解耦两阶段训练绕过内存瓶颈。在长CoT推理（SDAR）和短CoT指令跟随（LLaDA）模型上验证，标准dLLM仅需约10亿token即可高效转换为RCD。RCD在多项基准上以极小额外计算将前沿dLLM精度提升5–10个点，在最具挑战的AIME任务上几乎翻倍基线准确率，等效精度下减少4–5倍去噪步数。
François Chollet@fcholletAI 评分4343最终，大部分AI将趋近于直觉引导的符号世界建模，即深度学习引导的程序合成。这是不可避免的。符号建模让系统能够用最少的数据构建一个紧凑、可复用、高度泛化的问题空间心智模型。
SGLang团队将LLM服务、分布式运行时、GPU内核、扩散管道等工作流编码为可执行的SKILL.md文件、脚本、基准合约和审查循环。现有技能包括：SGLang .claude/skills（CUDA调试、内核集成、性能分析等）、SGLang diffusion .claude/skills（扩散模型添加与调优）、BBuf/AI-Infra-Auto-Driven-SKILLS（跨框架SOTA循环）、KDA（MLSys 2026 FlashInfer内核竞赛获胜方案）以及BBuf/KDA-Pilot（已合并三个SGLang集成PR）。Profile证据是性能工作的核心，长期优化转向Loop Engineering——SGLang SOTA Performance Loop将追求SOTA分解为公平基准测试、差距决策、性能分析、补丁和再验证，Humanize/RLCR添加外部审查，Codex Goal以更低协调开销运行相同循环。评审重要性提升，开发者需定义问题、选择证据、设计工作流并判断结果是否可用于生产。
推荐理由：这不是一篇普通的开发经验总结，而是 SGLang 团队把调试、基准测试和性能调优等重复劳动变成可执行 agent 技能的实操手册，对于做推理框架和复杂工程的人非常值得一看。
大语言模型可涌现推理行为，但复杂推理轨迹在无约束采样中稀疏，标准强化学习难以保证多样性。Ctrl-R框架通过可追踪轨迹控制主动引导rollout，激励探索多样推理模式，并利用重要性采样实现无偏on-policy优化，引入重要性采样权重的幂缩放因子以选择性学习分布外轨迹。实验表明，Ctrl-R在语言和视觉-语言模型的数学推理任务上均取得一致改进。
强化学习（RL）微调被扩展至视觉语言模型（VLM）。研究发现，简单的文本扰动——误导性标题或错误思维链（CoT）——会显著降低模型鲁棒性和置信度，且开源模型衰退更明显。闭源模型呈现类似失败模式，但鲁棒性和推理一致性更强。进一步分析揭示准确性与忠实性的权衡：微调提升基准准确率，但同时侵蚀CoT的可靠性及对上下文变化的鲁棒性；对抗性增强可改善鲁棒性，却无法阻止忠实性漂移。引入忠实性感知奖励能恢复答案与推理的对齐，但与增强结合时训练易崩溃到捷径策略。这些发现强调需联合关注正确性、鲁棒性与视觉推理的忠实性。
推荐理由：RL微调让VLM基准分变好看，却可能让它的推理链变得靠不住，这个反直觉的诊断对正在用RL打磨多模态模型的团队是个警醒。
阿里云为秒悟 Meoo 推出夜间计划，每晚 22:00 至次日 08:00 期间，用户通过 Qoder 或 Meoo 调用 Qwen 3.7-Max 旗舰模型可享 2 折优惠，调用 Qwen 3.7-Plus 模型可享 4 折优惠。活动面向 Meoo Pro 或 Max 套餐用户，系统自动按比例扣减积分，不影响模型质量与响应速度，旨在利用夜间算力资源实现最高 80% 的成本节省。
Rohan Paul@rohanpaul_aiAI 评分5353
Fable 5 totally crushed our new contest, but it cost 6x more than Opus 4.8! We gave 4 models the same prompt: build three self-contained HTML5 canvas scenes with real physics demos Prompts: — A train derailing off a broken bridge into the water — Two cars jumping off ramps and colliding mid-air over a canyon — A monster truck crushing a row of parked cars Outputs: Fable 5: 62,158 tokens, $3.12 GPT 5.5: 37,753 tokens, $1.14 Opus 4.8: 22,280 tokens, $0.56 GLM 5.2: 36,246 tokens, $0.08 Fable 5 did all three scenes at A+. The crashes looked real, things fell and broke the right way, and nothing went through the ground or floated. GPT 5.5 was the closest to Fable. In the Bigfoot show, we think GPT was even a little better. GLM 5.2 did not win any scene, but it was the cheapest by far. Fable is the best pick for quality, but you pay more for it.
