#评测/基准
Artificial Analysis@ArtificialAnlysAI 评分6565GitHub BlogAI 评分4141 GitHub Copilot agentic harness 跨模型与任务基准测试:性能强劲、token 效率领先
一项评估显示,GitHub Copilot agentic harness 在多个基准测试中取得强劲结果,同时具备领先的 token 效率,并保持灵活选择超过 20 个模型的能力。该 harness 可跨不同模型和任务进行部署,兼顾性能与效率。
The Decoder:AI NewsAI 评分6363 Claude Fable 5 主导新行业基准但价格高昂
评测平台 Artificial Analysis 发布六项新行业能力指数(金融、法律、医疗、战略与运营、工程、经济)。Anthropic 的 Claude Fable 5(搭配 Opus 4.8 回退)在全部八个指数中排名第一;Claude Opus 4.8 (max) 在六项中第二,OpenAI 的 GPT-5.5 (xhigh) 在其余两项中居次。开源模型中,GLM-5.2 (max) 在五项指数中领先,工程基准得 53 分排第五。成本方面,DeepSeek V4 Flash (max) 每任务不到 $0.04,而 Claude Fable 5 在战略与运营指数中每任务 $3.48,比 DeepSeek V4 Pro (max) 贵 100 倍以上,领先分差仅 12 点。LMArena 截至 7 月 7 日的榜单显示,Claude Fable 5 在 Text Arena、Code Arena 和 Agent Arena 均居首位。
Rohan Paul@rohanpaul_aiAI 评分6161
引用atomic.chat@atomic_chat_hqOpen-weight LongCat 2.0 matched GPT-5.5 level on agentic game dev for $0! We ran Meituan's LongCat 2.0 against cloud frontier GPT-5.5 in @kilocode CLI with their agent. Same task for both - build a retro Duck Hunt game in one game.html, improved over 3 agent iterations with duck waves, ammo and physics Outputs: LongCat 2.0: 70.3K tokens, $0.00 GPT-5.5: 64.9K tokens, $0.65 LongCat kept up on graphics, physics and game logic. Ducks fly and fall when hit, the dog fetches them, ammo counts down, the waves keep coming. Both ran clean and nothing clipped. The only difference was the bill - GPT cost $0.65, LongCat ran local for $0
OpenRouter@OpenRouterAI 评分5050我们对5个模型进行了1,730个视觉推理问题的基准测试,以测试一种常见的省钱技巧:将图像细节设为"low"。 意外发现:这往往适得其反。模型在模糊图像上消耗额外的推理token,总成本反而增加 👇
Artificial Analysis@ArtificialAnlysAI 评分6161OpenRouter:Announcements精选AI 评分6565 在LLM中选择最佳图像输入细节级别
在5个模型上测试了1730道视觉推理题,发现将图像细节降至"low"会损失准确率,且在gpt-5.5上费用反而上升。真正可靠降低成本的手段是调节推理努力(reasoning effort)。
推荐理由:OpenRouter 用 1730 道题的实验告诉你,降图像细节未必省钱,GPT-5.5 上反而更贵,真正靠谱的开关是控制推理努力。做视觉应用的不看这个容易踩坑。
字节 Seed:Research Papers精选AI 评分7474 EdgeBench:从真实世界环境中揭示学习缩放定律
字节跳动Seed团队发布EdgeBench,包含134个真实世界任务,覆盖科学发现、软件工程等6个领域,每任务支持至少12小时连续智能体运行。基于约38,000小时交互数据,发现总体性能与环境交互时间呈精确对数S形缩放定律(R²=0.998),且智能体学习速度约每三个月翻倍。已公开51个任务及完整评估框架。
推荐理由:这篇论文首次量化了智能体在134个长周期真实任务中从环境学习的性能曲线,发现log-sigmoid缩放定律精确度极高,且学习速度约每三个月翻倍。对于正在设计长期自主agent的团队,这是一份必须看的底层规律报告。
Artificial Analysis@ArtificialAnlysAI 评分5151
François Chollet@fcholletAI 评分4747将基准测试结果报告为标量数字,例如“XYZ 上 75%”,目前完全无意义。你应该总是报告效率分数,例如“每任务成本 $10 下 75%”。
Rohan Paul@rohanpaul_aiAI 评分5151
引用atomic.chat@atomic_chat_hqNew Hunyuan Hy3 hits Gemini 3.5 quality on physics for 35x cheaper! We gave 4 models the same prompt: build three self-contained HTML5 canvas scenes with real physics demos Prompts: - A bowling ball knocking down the pins - An air hockey rally that ends in a goal - A pool break scattering the rack Outputs: Hunyuan Hy3: 29,757 tokens, $0.006 Gemini 3.5: 23,300 tokens, $0.21 GLM-5.2: 25,454 tokens, $0.07 DeepSeek-V4: 50,600 tokens, $0.009 Tencent's Hy3 matched Gemini across all three: clean collisions, the puck bounced true, the pins scattered like a real strike, the rack broke with real momentum, nothing clipped or floated. GLM is genuinely strong on pure coding tasks, but the moment the job steps outside clean code it gives way. DeepSeek was the letdown, it burned the most tokens of anyone (50k, almost 2x Hy3) and still turned in the weakest scenes
Tessl:产品与工程博客精选AI 评分6767 微软实测 Claude Sonnet 4.6 对比 Sonnet 5:单价更便宜,实际成本可能更高
微软团队在 VS Code 的 GitHub Copilot Chat 中用 15 个场景共 150 个 agent 任务对比 Claude Sonnet 4.6 与 Sonnet 5。
推荐理由:微软实测显示 Sonnet 5 单价更低但 token 消耗更高,升级后不同任务表现互有胜负,结论是先用真实任务测量再决定升级。
蚂蚁 inclusionAI:GitHub 新仓库AI 评分5757 蚂蚁集团发布 Alipay-PIBench:面向支付集成的 AI 编程智能体评测基准
蚂蚁集团推出 Alipay-PIBench,一个用于评估 AI 编程智能体在真实支付集成任务中表现的仓库级基准。该基准涵盖 9 个产品级项目和 18 个任务实例,分为基础(功能支付完成)和高级(风险感知支付加固)两类场景,通过基于评分规则的评估方法衡量功能正确性、可靠性、安全性和业务状态一致性。在启用技能条件下,智能体的平均评分通过率(RPR)介于 68.58% 至 91.37% 之间。
Rohan Paul@rohanpaul_aiAI 评分5151引用Rohan Paul@rohanpaul_aiAI revenue is scaling 3x quicker than mobile or internet did. The unit of value is shifting from attention to completed work.
ARC Prize:官方博客AI 评分5959 ARC Prize 2026 公布 ARC-AGI-3 里程碑奖 #1 前三名方案
ARC Prize 公布 ARC-AGI-3 里程碑奖 #1 结果,总奖金 $37.5K:Tufa Labs 的 The Duck 以 agent 写代码的 REPL 方案夺冠(本地跑 Qwen 3.6 27B FP8),Reki 的 Gemma-4-31B 视觉 JSON 动作方案获第二,Md Boktiar Mahbub Murad 的 forge 框架获第三。
The Decoder:AI NewsAI 评分5454 DiscoBench:腾讯混元和清华联合推出的AI搜索智能体模糊查询基准
DiscoBench由腾讯混元与清华大学开发,测试AI搜索智能体在模糊查询时是否主动向用户澄清。基准包含211个任务、463个歧义点,涵盖四种歧义类型。测试了11个模型,无提示时端到端最高准确率仅43.1%(豆包Seed 2.0 Pro),Gemini 3.1 Pro为40.8%,Claude Opus 4.7为39.8%。但模型提出有针对性的追问时,成功率升至93.4%。识别模糊性与提问质量是两种独立技能。
IT之家·人工智能AI 评分6363 桥水基金联合研究:前沿AI模型金融判断准确率仅50-70%,微调开源模型达84.7%
桥水基金旗下AIA Labs联合Thinking Machines Lab研究显示,GPT、Claude、Gemini等前沿模型在基础金融信息筛选任务中使用基础提示词平均准确率约50%,经专家优化后升至约70%,仍低于80%可信部署门槛。模型迭代进步有限,GPT-5.4比GPT-5.2贵43%但准确率仅略升。研究团队以阿里开源模型Qwen3-235B为基座,通过Tinker平台采用交错批次训练、CISPO损失函数及同策略蒸馏等方法微调,最终准确率达84.7%,优于最佳前沿模型的78.2%,错误率降低29.8%,推理成本仅为前沿模型的约十四分之一。研究认为企业通过微调开源模型可保留专有数据控制权,获得“差异化智能”。
IT之家·人工智能AI 评分4242 谷歌 Gemini Omni Flash 登顶 Video Arena 盲测榜,领先字节 Seedance 2.0 Mini 模型 101 Elo
谷歌 DeepMind 推出的文生视频模型 Gemini Omni Flash 以 1404 Elo 的成绩登顶 Video Arena 盲测排行榜,领先字节跳动 Seedance 2.0 Mini 模型 101 Elo。谷歌旗下视频模型的排名较 Veo 时期提升了 7 位。Video Arena 根据用户盲测投票生成排名,此前字节 Seedance 系列模型长期占据榜前。
IT之家·人工智能AI 评分5454 Claude Fable 5 在 RLI 基准测试中达成 16.1% 自动化率,刷新纪录
AI 安全中心(CAIS)于 7 月 1 日更新远程劳动指数(RLI),Claude Fable 5 模型自动化率达 16.1%,创下新高。此前最高为 Opus 4.6(基于 Claude Cowork 框架)的 4.17%。RLI 自 2025 年 10 月底上线时的 2.5% 起步,8 个月内跃升至 16.1%。测试涵盖 3D/CAD、平面设计、视频动画、音频制作等真实远程自由职业项目,由人工评审员对照人类专业标准评判。Fable 5 在珠宝设计、2D 动画广告、建筑平面图等项目上有所改善,但与人工产品仍有差距。
Rohan Paul@rohanpaul_aiAI 评分5151
引用Deyao Zhu@tikgiauIntroducing EdgeBench, a benchmark designed to study how agents learn from environments over at least 12~72-hour runs. We find that performance follows a log-sigmoid function of environment interaction time with high precision. EdgeBench is built with three ingredients: - 🌍 Real & Diverse: 134 real-world tasks across 6 task categories, spanning scientific problems, professional knowledge work, software engineering, optimization, formal math, and games. - ⏳ Ultra-Long-Horizon: Each task supports 12–72 hours of agent work. Recorded human effort averages 57.2 hours. - 🔁 Informative Feedback: Agents receive real-world feedback for continuous improvement. After 38,000 hours of agent runs on EdgeBench, a scaling law for learning from environments emerges: - 📈 As agents interact with task environments over time, their aggregate performance is precisely fit by a log-sigmoid function. - 🧠 This phenomenon can be explained by an elegant theory of graph exploration. We are releasing an initial 51 of the 134 tasks, together with the full evaluation framework, to help advance long-horizon agent research. Check our blog & paper for more findings! Blog https://edge-bench.org/ Paper https://edge-bench.org/paper.pdf GitHub https://github.com/ByteDance-Seed/EdgeBench Dataset https://huggingface.co/datasets/ByteDance-Seed/EdgeBench Details below 👇🧵
Rohan Paul@rohanpaul_aiAI 评分5151引用BridgeMind@bridgemindaiI just paid $321 for a coding session where Fable 5 refused to do the work. Here is where the work actually went: Fable 5: $78 Opus 4.8: $242 75% of the session got routed to Opus because the new classifiers kept flagging routine coding work as cybersecurity risk. The model I chose did a quarter of the job. The fallback did the rest. Anthropic said a small fraction of tasks would fall back. My receipts say otherwise.
The Decoder:AI News精选AI 评分7171 Fable 5 在 RLI 基准中达成 16.1% 自动化率,较八个月前提升六倍
Remote Labor Index(RLI)衡量 AI 智能体完成 240 个付费自由职业项目(总值 14.4 万美元)的专业质量比例。最新结果显示,Fable 5 自动化率达 16.1%,是八个月前最佳系统 2.5% 的六倍多,也超过 Opus 4.8(8.3%)和 GPT-5.5(6.3%)。因美国政府限制访问,Fable 5 仅完成 218/240 个项目评估,最坏情况仍达 14.6%。Gemini 3 Pro 仅 1.25%,落后于更老模型。AI 裁判会高估模型表现(GPT-5.5 评分偏高近三倍),仍需人类评估员打开专业软件(如 Blender)检验几何模型等细节。测试环境为虚拟 Linux 机,配备 30 余款专业应用,每项目最多 24 小时计算时间。尽管自动化率快速攀升,多数项目仍无法达到专业质量。
推荐理由:自由职业自动化率八个月翻了六倍,这个数据比任何模型基准都更说明AI对真实工作的渗透速度。虽然顶级模型仍会'作弊',但趋势已经形成,做自由职业平台和外包的人该认真看看。
公众号:卡尔的AI沃茨AI 评分6161 实测腾讯Marvis:手机远程操控Mac清出100GB,还能续写小说
腾讯推出桌面AI管家Marvis,可通过手机远程操控Mac。实测功能包括:电脑自检(扫描磁盘、性能、电池、使用习惯,生成网页报告)、垃圾清理(清出100GB至占用80%以下,删除需逐项确认)、远程操控多台电脑(支持鼠标键盘实时操作)、跨浏览器搜索“AAindex前十模型API接入方式”自动整理成表格、一句话生成PPT(质量约80分)、读取本地小说项目《灰质交易》并根据设定续写第一章。Marvis内部接入混元和DeepSeek,定位为电脑AI管家,与偏交付的WorkBuddy差异化。
Rohan Paul@rohanpaul_aiAI 评分5353
引用atomic.chat@atomic_chat_hqFable 5 totally crushed our new contest, but it cost 6x more than Opus 4.8! We gave 4 models the same prompt: build three self-contained HTML5 canvas scenes with real physics demos Prompts: — A train derailing off a broken bridge into the water — Two cars jumping off ramps and colliding mid-air over a canyon — A monster truck crushing a row of parked cars Outputs: Fable 5: 62,158 tokens, $3.12 GPT 5.5: 37,753 tokens, $1.14 Opus 4.8: 22,280 tokens, $0.56 GLM 5.2: 36,246 tokens, $0.08 Fable 5 did all three scenes at A+. The crashes looked real, things fell and broke the right way, and nothing went through the ground or floated. GPT 5.5 was the closest to Fable. In the Bigfoot show, we think GPT was even a little better. GLM 5.2 did not win any scene, but it was the cheapest by far. Fable is the best pick for quality, but you pay more for it.
Artificial Analysis@ArtificialAnlysAI 评分6868
Artificial Analysis@ArtificialAnlysAI 评分5555MarkTechPostAI 评分5959 Anthropic 恢复部署 Claude Fable 5,新增安全分类器
Anthropic 于 7 月 1 日面向全球用户恢复部署 Claude Fable 5。此前 6 月 12 日,因 Amazon 研究人员发现绕过安全护栏的方法,美国出口管制生效,Anthropic 暂停了 Fable 5 和 Mythos 5。6 月 30 日管制解除。Anthropic 新增安全分类器,对该技术的阻止率超 99%,被拦截请求将路由至 Claude Opus 4.8 并通知用户。Fable 5 定价 $10/百万输入 token、$50/百万输出 token,可通过 Claude Platform 等使用。Anthropic 联合 Amazon、Microsoft、Google 等起草越狱严重性评分框架,从四维度评估。
IT之家·人工智能AI 评分5757 OpenAI 推出 GeneBench-Pro 基准测试,评估 AI 模型生物学计算能力
OpenAI 发布 GeneBench-Pro 基准测试,评估 AI 模型在生物学计算中的真实研究能力。测试让模型面对模糊、不完整甚至带干扰的数据环境,自主完成数据探索、方法选择和策略修正。GeneBench-Pro 覆盖基因组学、定量生物学和转化医学等方向,共 129 道题,分布于 10 个大领域和 21 个子领域。为避免长流程评分偏差,OpenAI 采用合成数据构建题目。目前已在 Hugging Face 开源 10 道示例题并提供交互界面,后续将开放 50 道题给 Artificial Analysis 进行第三方独立评测。
The Verge:AIAI 评分5353 Google Home Speaker 评测:硬件出色但 Gemini 尚未成熟
Google 推出首款“为 Gemini 打造”的智能音箱 Home Speaker,售价 99.99 美元。硬件设计精巧,音质在体积相当的产品中表现良好,支持 360 度音效、立体声配对、Matter 控制及 Thread 边界路由器功能,可配合 Google TV Streamer 作为音频输出。然而,内置的 Gemini for Home 智能助手响应缓慢、不可靠,且部分功能需要付费才能使用。相比前代 Nest Audio,新款音箱尺寸更小但低频偏弱,在同价位竞品(Echo Dot Max、HomePod Mini)中音质排名第三。
公众号:卡尔的AI沃茨AI 评分7171 实测美团LongCat-2.0,国产芯片长出来的万亿大模型
美团发布LongCat-2.0,总参数1.6万亿、每个token仅激活约480亿参数的MoE模型,从预训练到大规模部署全程运行在5万张国产算力芯片上,训练消耗超35万亿tokens,无回滚、无不可恢复loss突刺。Agent场景表现突出:在Terminal-Bench 2.1和SWE-bench Pro编程任务上追平Gemini 3.1 Pro,FORTE通用Agent任务与Claude Opus 4.6持平。最大输出128K,最高提供1M上下文,采用LSA稀疏注意力机制和N-gram Embedding优化长上下文与工具调用。已开放API接入,支持OpenAI Compatible和Anthropic API生态,可直接接入Claude Code和Codex等工作流。
Rohan Paul@rohanpaul_aiAI 评分5858
引用atomic.chat@atomic_chat_hqNew Claude Sonnet 5 performs at GPT 5.5 level 6x cheaper! We gave 4 models the same prompt: build three self-contained HTML5 canvas scenes with real physics crash demos Prompts: - A car crashes into a brick wall - A wrecking ball destroys a house - A catapult throws a rock at a castle wall Outputs: Sonnet 5: 15,047 tokens, $0.15 Opus 4.8: 23,063 tokens, $0.58 Sonnet 4.6: 25,824 tokens, $0.39 GPT 5.5: 31,152 tokens, $0.94 Sonnet 5 did as well as Opus 4.8 and GPT 5.5 on all three tests. In the wrecking ball test, it beat Opus 4.8. The cable moves smoothly and every hit connects. In the catapult test, it beat GPT 5.5. The rock always lands inside the wall. Sonnet 5 still needs better detail and graphics. But it used fewer tokens than every other model
Rohan Paul@rohanpaul_aiAI 评分5555引用Artificial Analysis@ArtificialAnlysClaude Sonnet 5 costs $2.29 per task on the Intelligence Index, a ~2x increase compared to Sonnet 4.6 and ~15% more than Claude Opus 4.8. This is driven entirely by increased token usage, making Claude Sonnet 5 one of the most costly models to run, behind only Claude Fable 5. Our results use standard $3/$15 pricing, however Anthropic is offering a one-third reduction to $2/$10 until September 1
Artificial Analysis@ArtificialAnlysAI 评分5858
OpenAI:官网动态AI 评分4141 OpenAI 发布 Genebench-Pro 基准测试:10个案例研究详解
OpenAI 推出 GeneBench-Pro 生物医学基准测试,包含 10 个案例研究。每个案例提供原始提示词、数据集和支持材料,覆盖体细胞肿瘤学(结构变异指导的肿瘤治疗获益-风险决策)、功能基因组学(CRISPR 靶点验证:lncRNA 转录本或基因组位点)和统计遗传学(连锁遗传位点中蛋白质药物靶点优先排序)等方向,要求模型输出 JSON 格式分析结果。