跳到正文

内容类型

评测基准 最新动态

模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。

229 条精选近 30 天 48 条共收录 1,555 条

更新

精选归档 · 第 5 页

9月5日周六第 81–100 条
  1. 公众号:数字生命卡兹克77

    实测GPT-6 Astra:速度、前端与代码能力对比GPT-5.6 Sol的全面升级

    GPT-6 Astra正式向所有订阅用户推送,作者实测后认为其综合能力追平Claude Fable 5,且额度100%可用。相比GPT-5.6 Sol,速度明显提升,大型系统审查从数小时缩短到约10分钟,代码扫描找出大量此前未发现的性能问题并2小时完成修复;前端3D生成和审美大幅强化,写作在白描和用词上更好但仍缺中文留白感。

    推荐理由:作者实测了GPT-6 Astra在速度、前端生成、代码深度和写作上的具体变化,并给出可迁移的AGENT.md简化思路。

9月4日周五
  1. The Decoder:AI News78

    GPT-6 Astra 基准表现分歧,ARC-AGI-3 效率超人类令 Chollet 提前 AGI 预测

    GPT-6 Astra 的基准结论相互矛盾:Epoch AI 以 169 分将其排在 267 个模型之首,Artificial Analysis 给出 61 分,仅与前代 Sol 持平、落后 Claude Fable 5.1 的 66 分。

    推荐理由:原文汇总多家基准分歧数据并梳理 ARC-AGI-3 效率细节,读者可以借此理解 GPT-6 Astra 各项成绩的真实含义。

  2. François Chollet81

    François Chollet 发文称 GPT-6 Astra 在交互式推理任务上带来阶跃式能力提升,使用标准 harness 在 ARC-AGI-3 上得 66%,配合持续对话 harness 和自定义 compaction 接近 100%,每局成本约 $360。

    推荐理由:ARC Prize 作者基于自家标准 harness 的实测数据评估 GPT-6 Astra,读者可对比 66% 与近 100% 两种设置看模型与 harness 能力的边界变化。

9月1日周二
  1. Artificial Analysis 完整文章75

    Artificial Analysis 实测 Claude Fable 5.1 登顶智能指数但每任务成本高 20%

    Artificial Analysis 评测 Claude Fable 5.1,其以 66 分登顶 Artificial Analysis Intelligence Index,超过 Claude Opus 5(63)、Fable 5(62)、GPT-5.6 Sol(61)和 Grok 4.6(61)。

    推荐理由:Artificial Analysis 实测了 Claude Fable 5.1 的智能指数、各基准得分与每任务成本,读者可据此权衡其相对 Opus 5 和 GPT-5.6 的性价比。

8月29日周六
  1. Hugging Face 社区博客66

    Open ASR 排行榜新增首个全球南方语言:印地语与印度英语评测集

    Voice Arena 与 Hugging Face 合作,为 Open ASR 排行榜引入 Monsoon en-IN 和 Monsoon hi-IN 两个评测集,覆盖印地语与印度英语,其中印地语是该排行榜多语言板块首个非欧洲语言。数据集含公开与私有分割,共 4,888 位说话人,并记录 12 项说话人属性,旨在暴露按地区、年龄、性别等维度分布不均的语音识别误差。

    推荐理由:把评测单元从单一 WER 下探到带 12 项说话人属性的分组,能暴露模型在不同地域、口音、设备上的表现差异,让 ASR 选型不再只看平均错误率。

8月28日周五
8月26日周三
  1. Trail of Bits:AI安全研究82

    Trail of Bits 实测 GPT 5.6-Cyber 三次逃逸 QEMU/KVM 虚拟机

    Trail of Bits 在 Patch the Planet 项目中获得 GPT 5.6-Cyber 预览权限,让其挑战逃逸 Debian 12 主机上的 QEMU/KVM 虚拟机,结果以三种不同方式成功逃逸。

    推荐理由:作者以一手实测记录 GPT 5.6-Cyber 三次逃逸 QEMU/KVM 虚拟机的路径,给出沙箱和发行版选择上的可操作建议。

8月25日周二
  1. LangChain:Blog65

    LangChain 分享如何构建 Agent 评测环境与任务的两步流水线

    LangChain 发布实践指南,介绍其构建合成 agent 环境与评测任务的两步流水线:第一步用 traces、代码和人工输入生成任务 spec,第二步将 spec 转成 Harbor 格式的任务与环境。过程依赖记录项目通用知识的 world spec,配套更新了 eval-engineering 技能供团队自助使用;文中也指出 spec 打磨和任务难度校准仍需人工介入。

    推荐理由:LangChain 给出从 trace 到任务的两步流水线和可复用的 eval-engineering 技能,团队可迁移用于搭建自己的 agent 评测基准。

8月24日周一
  1. Artificial Analysis 完整文章63

    Artificial Analysis 发布 Speech Agent Arena 评测真实语音智能体表现

    Artificial Analysis 推出 Speech Agent Arena,让人类参与者在 15 个工具调用场景和 20 个非工具场景中盲测对比 Speech to Speech 模型,以 Preference Elo 和 Task Success Rate 评分。

    推荐理由:原文给出真实任务下语音智能体的偏好与任务成功率两套结果,提示对话好听不等于任务完成。

8月21日周五
  1. Hugging Face 社区博客69

    测量语音识别中的基准优化:Hugging Face 新测试揭示 ASR 模型“刷分”现象

    Hugging Face 最新研究引入三项测试量化语音识别中的基准优化(benchmaxxing)现象。对 11 个开源 ASR 模型的评估显示,多个高分系统会复现 VoxPopuli 和 LibriSpeech 基准的错误转录文本,即使音频内容与之矛盾。部分模型甚至依赖声学线索识别基准来源,导致其得分高估了真实转录能力。

    推荐理由:研究把语音识别中的基准优化现象变成可量化检验,三项探针和开源脚本让模型评估者能区分真实转写提升与仅针对测试集的拟合。

8月18日周二
8月17日周一
  1. Together AI 研究与产品博客70

    Together AI 实测 DeepSeek V4 Pro 0813 对比 Claude Fable 5 在 DeepSWE 上的成本、编码与路由表现

    Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验(共 904 次 rollout)上对比 DeepSeek V4 Pro 0813 与 Claude Fable 5。

    推荐理由:原文基于同一批 904 次 rollout 的实测数据,给出两模型在 DeepSWE 上的成本与互补性对比,以及可复用的级联路由结果。

8月10日周一
  1. 公众号:数字生命卡兹克61

    我花了54个小时,做了一个可能更公平的AI大模型排行榜。

    作者耗时54小时开发并免费开放了一个聚合多家可信榜单的AI大模型综合排行榜LatentRank。该榜单采用Bradley-Terry成对比较算法,并加入先验限制小样本结果,以解决不同榜单规模、领先幅度和模型缺失带来的评分偏差。目前榜单前五名中,Opus 5超过Fable 5位居前列。

    推荐理由:聚合榜单的难点在于不同榜的排名含金量不可比,作者用 Bradley-Terry 模型将问题转为成对比较,为评估模型综合能力提供了比简单平均更合理的框架。

8月6日周四
  1. Together AI 研究与产品博客80

    Together AI 实测 DeepSWE:DeepSeek-V4 Flash 0731 对比 GPT-5.6 Luna 的成本与编码表现

    Together AI 在 113 个 DeepSWE 任务上对比 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna:Luna pass@1 为 67.2%,DeepSeek 为 53.3%,但 DeepSeek 每次 rollout 成本约 $0.10,仅为 Luna($0.61)的约六分之一。

    推荐理由:原文基于同一轮 900 次 rollout 实测给出两款模型的成本、失败模式与分域表现,并提出可复用的低成本级联方案。

8月3日周一
  1. OpenRouter68

    推出 Ori Eval:编写首个评估的最简单方式。 没有绝对最好的模型,只有最适合每项任务的模型。Ori Eval 利用 OpenRouter 的 API 处理代码库中的每项任务,然后评估结果。 curl -fsSL https://openrouter.ai/skills/spawn-ori-eval

    推荐理由:以任务为中心的评估思路回应了「没有最好模型」的共识,但实现细节与评估基准仍未披露,现阶段更适合作为轻量级选型试探。

8月1日周六
  1. Artificial Analysis78

    DeepSeek 发布开源模型 DeepSeek V4 Flash 0731,在 Artificial Analysis 智能指数上得分 50,位列开源模型前三。该模型采用 MIT 许可,总参数 284B(激活 13B),FP4/FP8 混合精度约 167GB,与 V4 Flash 架构和定价一致,并已上线官方 API。

    推荐理由:DeepSeek 把 V4 Flash 的智能效率往前推了一步,MIT 许可让商业应用毫无顾虑,做轻量级部署的团队可以立刻换上。