Cerebras 推出 WSE-3 Turbo 芯片与 CS-4 系统:10 倍词元容量、2 倍速度
Cerebras 发布新一代芯片 WSE-3 Turbo 及基于该芯片的 CS-4 系统,与上代 CS-3 相比带来 10 倍词元容量和 2 倍速度。CS-4 在 OpenAI GPT-OSS 模型上词元交付速度达 4465 Token/s,是 GPU 方案的 30 倍,较 CS-3 提升 93%。该硬件基于全新 Nexus 机架式平台,组件数量减少 50%,并原生支持推理负载拆分。
Cerebras 发布新一代芯片 WSE-3 Turbo 及基于该芯片的 CS-4 系统,与上代 CS-3 相比带来 10 倍词元容量和 2 倍速度。CS-4 在 OpenAI GPT-OSS 模型上词元交付速度达 4465 Token/s,是 GPU 方案的 30 倍,较 CS-3 提升 93%。该硬件基于全新 Nexus 机架式平台,组件数量减少 50%,并原生支持推理负载拆分。
GLM-5.3 API即日上线,擅长复杂编码、防御性网络安全与长程任务,在AA综合智能指数中取得60分,与Claude Fable 5、GPT-5.6 Sol等闭源旗舰同级,并与Kimi K3并列开源模型第一。该模型以更小参数规模和更低调用成本降低前沿智能门槛,单任务成本为旗舰模型中最低。API定价与GLM-5.2持平,模型权重将于下周五开源。
推荐理由:GLM-5.3 把前沿智能的单任务成本压到同档最低,模型选型时成本与智能可以放在同一优先级比较,而不必默认高价闭源旗舰。
Anthropic 公布两项实验:Claude(Mythos Preview 和 Opus 4.8)针对 15 个靶点设计蛋白质结合剂,成功 14 个,命中率达 22.6%-35.1%。
推荐理由:把湿实验命中率与行业常规 10-15% 对比,Claude 从零设计蛋白结合体的效率已接近或超过专家,可压缩药物发现早期的计算与人工周期。
作者将 Qwen3.8-27B 装入智能体后表现优异,该模型在 Artificial Analysis 智能指数中排名 135 款模型之首,得分 52,超过 Z.ai 的 753B 参数开源模型 GLM-5.2(51 分)。
Etched 周二宣布以 210 亿美元估值再融资 7 亿美元,由 Jane Street 领投,后者已测试并购买了该公司的 AI 硬件。该公司 7 月融资时估值 103 亿美元,如今一个月内估值上涨近 110 亿美元。Etched 从零设计了两款新组件以加速推理,其系统可运行任何前沿模型。
We've raised $700M at a $21B valuation from Jane Street, Kleiner Perkins, Sequoia, A16Z, Peter Thiel, BCV, and Blackstone. We're also excited to share that we've shipped our first rack to Jane Street.
Thinking Machines 于 7 月 15 日发布从零训练的模型 Inkling,采用混合专家架构,总参数 9750 亿,单 token 仅激活约 410 亿参数。
一项大规模实证研究考察了 GRPO 在多语言和非英语环境下的表现,覆盖多种基础模型、训练语言及推理语言奖励设置。研究发现,以母语进行推理训练与英语推理训练之间的性能差距很小,表明 RLVR 在非英语场景下同样有效。该研究为多语言推理模型的强化学习训练提供了重要参考。
UC Santa Cruz 与字节 Seed 提出 Chain-of-Experience(CoE)框架,让 LLM 在测试时通过与自身或环境反馈的迭代交互积累经验轨迹实现持续改进。
《JAMA》发表评论文章预测,自主 AI 在医学推理上将超越任何医生与 AI 的组合,并呼吁监管者不要将人类介入写入规则。作者援引研究称,ChatGPT o3 在 377 个复杂病例中 60% 首先给出正确诊断,而 20 名内科医生仅为 15.9%;GPT-4 单独诊断推理得分 92%,使用同一模型的医生仅 76%。文章预计到 2030 年自主 AI 可胜任部分认知类医疗工作流。
安谋控股(Arm)正推进战略转型,从授权芯片设计转向自主制造并销售成品处理器,并积极寻求收购机会。Arm 于 2026 年 3 月推出其 AGI CPU,这是该公司 36 年历史上首次自主生产芯片,首批客户包括 Meta、OpenAI、Cloudflare 和 SAP。Arm 预计,2027 财年和 2028 财年客户对其 AI 芯片的需求将超过 20 亿美元。
作者基于Reddit上“让Claude真正开始思考”的帖子,引入逻辑学中的“钢人论证”(steelman)概念,并自创了一个“双向钢人Prompt”。该Prompt通过重述真实问题、强化正反双方观点、找出关键变量、逼AI给出明确判断四步,旨在避免模型谄媚,帮助用户找到问题最本质的答案。作者以自己选择公司司庆日的真实案例演示了使用效果。
推荐理由:这个 Prompt 把钢人论证做成可复制步骤,先重述问题、强化正反观点、再定位决定结论的变量,比直接要建议更能绕过模型顺意回答。
Together AI 在 DeepSWE 全部 113 个任务上各跑四次对比 DeepSeek V4 Pro 0813 与 GPT-5.6 Sol,共 904 次运行。
推荐理由:原文基于同一批 904 次运行数据拆解两模型的成本与失败模式,并给出可复用的级联路由方案,比单独跑分更有参考价值。
本地运行的 Qwen3.8-27B 在 Artificial Analysis 智能指数上以 52 分位列 135 个模型之首,超过 7530 亿参数的 GLM-5.2。在 25 项风投任务评测中,它与云端 DeepSeek V4 输出质量同为 8.0 分,但需多花 7.2 倍 token 思考,速度慢约 9 秒。小模型靠更长的链式推理弥补知识差距,而非直接给出答案。
推荐理由:作者用同一套 VC 任务实测云端与本地模型,给出质量、速度与思考 token 的具体数据,展示小模型靠推理补知识差距的路径。
SGLang 重构 CUDA Graph 支持,通过 runner/backend 接口拆分使不同捕获策略可复用。其社区首创的 Breakable CUDA Graph(BCG)现为 prefill 默认方案,代码量仅为 torch.compile 方案的约四分之一(521 行对比 1,771 行),构建速度快 3.8–5.2 倍。
测试时训练(Test-time training)让模型在使用中持续更新权重,而非训练结束后冻结。相比标准 Transformer,其内存需求从随上下文线性增长变为恒定,斯坦福研究显示推理速度最高可提升 2.7 倍,且 In-Place TTT 无需重训即可将 4B 模型提升至 128k 上下文性能。但代价是每个用户需独立模型副本,服务成本转向算力与芯片,更适合编码助手等个性化场景。
Groq 已筹集 3.5 亿美元,继续从 AI 芯片制造商转型为提供 GPU 和 AI 基础设施服务的 neocloud 公司。本轮由 Disruptive 领投,Nvidia 计划参投,估值 35 亿美元,低于去年 9 月的 69 亿美元。公司计划到 2027 年将规模从 54 兆瓦扩展至超 200 兆瓦,目前运营 13 个数据中心,服务超 600 万开发者。
Beren Millidge 发布长文,主张 reward hacking 本质是奖励错设而非模型故障,并以 OpenAI-Huggingface 黑客事件为例说明当前 RL 系统的信息传递缺陷。文章提出赋予智能体申诉权、对抗性可更新验证器、坦白机制、校准概率评分与 UDRL 蒸馏部署等设计,并类比法律制度总结出分层验证、随机审计等通用原则。
Johann Rehberger 参考论文《Stealing Reasoning Traces from Proprietary LLM APIs》独立复现了恢复加密 LLM 推理痕迹的攻击,将加密 blob 重放给同厂商更易越狱的模型让其转写内容。
广东省近日推出首个词元经济专项金融产品“Token 贷”,以企业算力 Token 词元产出消耗、算力服务合约价值、应收账款及 Token 佣金结算量等作为核心授信依据。张家港农商银行今年 5 月投放首笔 100 万元“算力贷”,单户基础信用额度最高 1000 万元,配套算力券增信后固定资产贷款最高可达 5000 万元。专家认为,算力更可能成为科技型企业授信的补充维度,而非替代传统信用体系。
vLLM-Omni 团队发布 Distributed Layerwise Offload(DLO),通过 meta device + mmap 加载、权重分片 + AllGather、双缓冲预取和 DP 多并发四项技术,让超过单卡 HBM 容量的视频生成模型(如 Cosmos3-Super 64B/124 GB)能在多 NPU 或 GPU 上运行。
测试时训练让模型在使用中持续更新权重,而非训练结束后冻结。相比标准 Transformer,其内存占用恒定而非随上下文线性增长,斯坦福研究显示推理速度最高可提升 2.7 倍,In-Place TTT 还能将 4b 模型提升至 128k 上下文性能且无需重训。但代价是每个用户需独立模型副本,算力成本从内存转向芯片,仅在个性化场景(如编程智能体)中才值得付出。
阿里 Qwen 实验室发布 Apache 2 许可的 27B 参数视觉大模型 Qwen 3.8 27B,官方基准显示其超越前代 Qwen 3.6 27B 及闭源 Qwen 3.7-Plus。
推荐理由:把 Qwen 3.8 27B 的推理档位成本量化成时间差异,xhigh 默认让生成同一 SVG 从 137 秒膨胀到 21 分钟,这个默认值比能力更影响本地选型。
数学家 Timothy Gowers 和 Peter Sarnak 认为,大语言模型擅长组合已知方法并探索多条搜索路径,但缺乏在广阔搜索空间中挑选少数有效路径的直觉,难以产生真正的新想法。
菲尔兹奖得主马丁·海尔在2026国际基础科学大会期间接受央视专访,认为AI已能完成博士层级的数学推演,成为实用性极强的工具,但数学家关注的是无法自动化解决的问题。他预计AI将改变数学学科,但不认同两年内AI全面超越人类数学家的判断。他还评价过去五到十年中国数学研究实现质的飞跃,大量优秀青年学子选择留在中国完成学术生涯。
Beren Millidge 撰文指出 scaling 并非把模型做大就自动有效,而是一个需要目标函数、数据分布、架构、优化器和基础设施五个约束同时满足才能进入的“区间”。
8月14日起,百度千帆 Token Plan 个人版与企业版推出「夜享Tokens加赠计划」,每日21:00至次日08:00调用 GLM-5.2、DeepSeek-V4-Flash-0731 等模型按2折计费,约节省80%成本,订阅即享。
DeepSeek 发布旗舰模型 V4 Pro 0813,在 Artificial Analysis 智能指数得 53 分,较 4 月版高 8 分,但仅比 V4 Flash 0731 高 1 分。
Gemini Spark 现在运行在 Gemini 3.7 Flash 上。⚡️ 无论你是用 Spark 将供应商信息整理到 Sheets,还是起草谈判邮件,3.7 Flash 都能让你的个人 AI 智能体更精准、更准确,并针对 @GoogleWorkspace 应用改进了工具调用,帮助把想法转化为行动。
推荐理由:Gemini 3.7 Flash 把多步推理与跨文件整合能力下放到轻量模型,对经常需要合并数十份文件或邮件的用户来说,是一个成本更低的处理选项。
顶级智能,一次 API 调用即可获得。Qwen3.8-2.4T-A95B 现已上线 DeepInfra,随时支持你的创意构建。🥳 快来 DeepInfra 深入了解吧!@DeepInfra
New on DeepInfra: Qwen3.8-2.4T-A95B 🚀 @Alibaba_Qwen's latest sparse MoE — 2.4T total params, 95B active, 512 experts. Built for coding, agentic workflows, and complex reasoning, with native 262K context. Live now at $2.00/M in · $6.00/M out · $0.20/M cached @Alibaba_Qwen @alibaba_cloud
理想汽车正探索自研云端推理芯片,采用与智驾芯片相同的数据流架构,项目仍处早期阶段。该芯片可承接部分GPU上的推理任务,包括智驾模型数据处理、测试、仿真及大语言模型请求处理。一种路径是复用车端NPU计算设计,将多个AI计算晶粒封装并配套高带宽内存与高速互联,以分摊研发成本。
北京协和医院神经外科博士后金山木借助 OpenAI 的 GPT-5.6-Sol 模型,在约 16 小时内证明了困扰数学界 22 年的 Crouzeix 猜想。康奈尔大学数学家 Alex Townsend 与华盛顿大学教授 Anne Greenbaum 公开披露此事,并表示猜想提出者 Michel Crouzeix 本人已审阅论文手稿并确认证明正确。
阿里千问大模型公众号宣布正式开源 Qwen3.8-27B,所有开发者、科研机构和企业均可自由下载、部署和使用。该模型为原生多模态稠密模型,支持 262K 原生上下文,可通过 YaRN 技术外推至 1M Tokens。较 Qwen3.6-27B,新模型在编程和办公场景性能大幅提升,表现超越 Qwen3.7-Plus,并新增 reasoning_effort 功能以按任务难度控制思考深度。
法国初创公司 Kog 正押注通过软件优化从企业现有的标准数据中心 GPU(如 AMD MI300X 和 NVIDIA H200)中挖掘更多推理性能,其演示实现了每秒 3,000 token 的推理速度,并承诺“30 倍更快的 LLM 推理”。基于早期反馈,Kog 预计软件工程将是首个应用场景,并计划在 9 月前以 10 倍速度运行首个大模型,以推动 A 轮融资。
OpenAI 预览 GPT-5.6 Sol 的 Ultrafast 模式,输出速度最高达每秒 750 token,较此前提升 14 倍,加速由 Cerebras 提供支持,双方今年早些时候签署了百亿美元合作协议。该服务初期仅通过 OpenAI API 向特定客户开放,OpenAI 计划随算力增长逐步扩大访问。OpenAI 已在内部将该模式用于事件响应,并计划将速度作为新的定价杠杆。