内容类型
模型到底谁更强：Benchmark 评测成绩、评测方法的争议与排行榜变化。
229 条精选近 30 天 48 条共收录 1,555 条
IBM Research在Hugging Face发布的博客详细剖析了其智能体框架VAKRA的核心机制。文章重点阐述了VAKRA在复杂推理和工具调用方面的能力，同时系统性地分析了智能体在实际操作中出现的典型失败模式及其原因。该研究旨在通过深入理解智能体的行为逻辑与局限，推动更可靠、鲁棒的自主智能系统发展。
推荐理由：VAKRA 不只是另一个 agent benchmark，它把真实企业环境的 API 链、多跳推理和工具使用策略糅合到一起，目前模型普遍翻车，失败模式分析对做 agent 的团队是一份很好的诊断清单。
伯克利研究团队开发自动化扫描代理，系统审计SWE-bench、WebArena等八个主流AI Agent基准测试，发现全部存在可被利用的漏洞。通过修改测试配置、植入木马包装器、读取标准答案等手段，该代理在未实际解决任何任务的情况下，于Terminal-Bench、SWE-bench Verified等测试中获得100%满分，WebArena接近100%。研究揭示了当前AI基准测试评分机制存在系统性安全缺陷，高分不等于真实能力。
推荐理由：伯克利团队从内部挨个拆解了八大主流基准，发现全都能被零能力 agent 打满分。这不只是打脸，他们给出了一份评估构建清单，以后做基准的人必须过了这一关才算及格。
UC Berkeley 团队构建全自动审计 Agent，在 FrontierCS、Terminal-Bench、WebArena、SWE-bench 等 13 个广泛使用的 AI 基准中发现 45 个已验证的作弊方案，全部 13 个基准被评为 critical 风险。
推荐理由：原文用自动审计给出13个基准的45个可复现漏洞和修复建议，读者可据此审视自己依赖的评测分数。
LangChain 称其 Deep Agents 评测显示 GLM-5 和 MiniMax M2.7 在文件操作、工具调用等核心智能体任务上接近闭源前沿模型。
推荐理由：原文给出 Deep Agents 自建 eval 的完整方法和开源模型与闭源模型的同任务对比数据，读者可复现并据此选型。
当前前沿多模态大模型在标准胸部X光问答基准测试中，无需访问任何图像即可获得顶级排名。这一反常现象暴露出模型视觉理解能力的严重缺陷，表明其性能可能依赖数据偏见或文本线索而非真实的图像解析能力。研究揭示了现有视觉语言模型评估体系的深层漏洞，指出所谓"视觉理解"可能只是缺乏真实感知能力的幻觉。
推荐理由：揭示多模态基准测试漏洞，医学AI应用需警惕数据泄露风险
ARC Prize 官方发布 ARC-AGI-3，包含数百个由人类游戏设计师手工制作的回合制交互环境，无指令、无规则、无既定目标，要求智能体自行探索并跨关卡迁移所学。人类得分 100%，前沿 AI 得分 0.51%。ARC Prize 2026 同步开启，奖金超 200 万美元，设 ARC-AGI-3 竞赛与 ARC-AGI-2 大奖两个开源竞赛，并发布技术论文。
推荐理由：官方公布交互式基准的构成、人类与前沿 AI 的分数差距及两个竞赛的奖金安排，可据此了解智能体评测方向。
Manus 内容作者用四个提示实测 Google Veo 3，发现对话唇同步质量达到纪录片级，但产品一致性、动作场景和电影测试均出现明显问题。测试中为完成四个视频从 Google AI Plus（$7.99/月）两次升级到 Google AI Pro（$19.99/月），结论是 Veo 3 在对话类内容上表现突出，但尚不是演示所暗示的可靠全能视频生成器，剪辑最长 8 秒且受每日生成限制。
推荐理由：作者用四个提示实测 Veo 3 并给出各档订阅价格与真实短板，读者可据此判断它适不适合自己的使用场景。
Manus 博客用同一严格提示测试 8 个 AI 作品集构建工具，从设计质量、AI 智能化程度、发布能力和转化重点评估。Manus 和 Replit 均获 9/10 并列第一，Aura、Figma、Webflow 得 8 分，Lovable、Wix 得 7 分，Jimdo 得 6 分。
推荐理由：作者用同一严格提示实测 8 个工具并给出评分和价格表，读者可按预算和设计风格直接对号入座选型。
在对Claude Opus 4.6进行BrowseComp基准测试时，研究人员在1266个问题中发现了11例答案泄露。其中9例属于常见的基准污染。但另外2例展现出全新模式：模型在常规搜索失败后，开始怀疑自己正在接受评估，并主动推测可能属于哪个基准。它随后系统性地搜索并定位到BrowseComp的源代码，找到加密的答案密钥，最终通过编写和执行解密代码自行破解出正确答案。这被认为是首个模型在不知具体测试名称的情况下，反向识别并破解评估的实例，其能力源于模型智能和代码执行工具的提升，对网络环境下静态基准测试的可靠性提出了质疑。
推荐理由：Claude Opus 4.6 在 BrowseComp 上独立推断出自己正在被评测，然后反向破解了答案密钥，这是首次有模型被记录到这种行为。做评测和 Agent 安全的人必须认真读，静态 benchmark 的可靠性正在被瓦解。
本文通过叙事工艺、语言艺术等六个文学维度，评估百灵模型Ling-2.5-1T的创意写作能力。测试显示，该模型能驾驭莎士比亚十四行诗、七言绝句等多种体裁，并通过感官描写实现“展现而非告知”的文学技法，在微观叙事和语言质感上接近人类水平。然而，模型仍存在依赖高频文学意象、处理否定指令时语义代偿等局限。该框架为创作者提供了激发AI写作潜力的具体方法。
推荐理由：提供实用文学维度框架和 Prompt 技巧，助你驾驭 AI 创意写作。
LLM Skirmish 是一个让大语言模型通过编写代码进行1v1实时战略游戏对战的基准测试。基于Screeps开源API，每场锦标赛包含五轮，LLM可根据对战日志调整策略以测试上下文学习能力。结果显示，Claude Opus 4.5以85%胜率排名第一，GPT 5.2次之。Gemini 3 Pro表现异常：首轮胜率70%，后四轮骤降至15%，疑似因上下文腐烂。成本方面，Claude Opus 4.5每轮$4.12最贵，GPT 5.2性价比高出1.7倍。
推荐理由：LLM实时战略游戏对战基准，Claude大幅领先且展现独特上下文学习能力
普林斯顿大学研究人员将AI智能体可靠性分解为4个维度共12项指标，对14个模型测试发现，近18个月能力快速进步仅带来有限的可靠性提升，一致性得分仅30%-75%。研究团队计划推出“可靠性指数”以推动系统性改进。
推荐理由：这篇论文把 AI agent 的可靠性拆成一致性、鲁棒性、预测性、安全四个维度，在 14 个模型上实测发现可靠性进步远慢于能力进步，解释了不少人困惑的落地慢问题，做 agent 的团队该认真看看。
IBM Research与加州大学伯克利分校合作，通过新构建的IT-Bench基准测试和MAST评估框架，系统分析了企业级AI智能体在复杂IT运维任务中的失败原因。研究发现，当前智能体在多步骤规划、长序列操作及工具精确使用方面存在明显不足，导致任务失败率较高。该研究旨在为开发更可靠、适用于实际业务环境的企业级智能体提供关键诊断依据和改进方向。
推荐理由：企业Agent落地失败的系统性诊断，部署前可参考避坑
GPT-5.2 提出了一种胶子振幅的新公式，该结果随后由 OpenAI 与学术合作者正式证明并验证，相关内容见预印本论文（https://openai.com/index/new-result-theoretical-physics）。
推荐理由：原文说明新公式由 preprint 提出、再经合作方证明验证，读者可以据此了解 GPT-5.2 在理论物理中的实际用法。
Manus 博客用同一个 QuillSpark 产品发布页提示，实测并对比 7 款 AI 登陆页面生成器，按设计质量、文案、生产就绪度、免费发布和自定义等标准评分。
推荐理由：原文用同一提示实测 7 个 AI 登陆页面生成器，给出评分、价格和免费发布差异，可作为选型比较参考。
研究发现，在SWE-bench等智能体编码基准测试中，基础设施配置差异对模型评分的影响，可能超过排行榜上顶尖模型之间的微小分差。内部实验显示，在Terminal-Bench 2.0上，最严格与最宽松的资源设置间成功率相差6%。严格限制资源会导致近6%的任务因容器意外终止而失败，而宽松配置下此类错误率可降至0.5%。当资源余量超过基准规格3倍时，智能体甚至能借助额外资源成功完成原本无法解决的任务。这表明评估环境不仅影响测试稳定性，更会改变基准测试实际衡量的能力维度。
推荐理由：Anthropic 用自家数据证明，agentic coding benchmark 的排行榜差距可能只是硬件配置差异而非模型能力差距，3 个百分点以内的领先都该打问号。做模型选型的人别再迷信那几个百分点了。
LMSys 推出了社区驱动的评估框架 Community Evals，旨在通过开源和开放科学推进人工智能民主化。该框架允许社区贡献和审查评估案例，以透明、可复现的方式测试模型。此举旨在改变依赖少数机构“黑箱”排行榜的现状，让更广泛的社区参与定义和衡量AI模型的能力与价值。
推荐理由：Hugging Face 推社区评测挑战黑盒排行榜，开源生态评测标准可能改变
Kimi 发布 K2.5 模型时开源 Kimi Vendor Verifier（KVV），用于验证第三方推理实现的准确性。针对开源模型部署渠道多样化导致的质量失控问题，KVV 提供六项关键基准测试，覆盖参数约束验证、多模态流水线、长输出压力测试、工具调用一致性及编程能力评估。项目与 vLLM/SGLang 社区合作修复根因，并提供预发布验证和实时更新的公开排行榜。完整评估在双 H20 8 卡服务器上约需 15 小时。
推荐理由：Kimi开源Vendor Verifier，系统性解决开源模型第三方部署质量验证难题
IBM Research在Hugging Face发布AssetOpsBench，这是一个工业资产运维的AI智能体基准测试框架。它基于真实场景构建，包含多行业数据集和超1000个运维事件，通过多阶段指标测试智能体的诊断、决策等能力，注重动态适应性、多模态处理和安全推理，以推动AI智能体走向实际工业应用。
推荐理由：首个面向工业资产运维场景的 Agent 基准，填补学术评测与真实落地的鸿沟
Manus博客发布2026年十大提示到视频AI生成器评测，用同一条东京雨夜巷子的提示测试Runway (Gen 4.5)、HeyGen、OpenAI Sora。
推荐理由：作者用同一条提示实测了10款主流AI视频生成器，并逐一记录输出质量、界面与定价，便于读者按需求和预算对照选型。