跳到正文

τ³-Banking(Mercor 复跑)

Mercor / 专业办公 · 在统一工具环境里办理银行客服业务:查政策、找产品、改账户。

官方评测
在 AICue 中参与排名
所属领域专业办公
上游数据时间待核实
最近成功同步10/30 02:05

它测什么,怎么测

取 Mercor 给所有模型统一复跑的 pass@1。同一型号按最高推理档位选代表配置,选择不看分数。

AICue 怎么用它

计分:专业办公领域的客服一类。

评测成绩

同一模型测了多个档位时,按固定规则只取一套代表成绩;没有可用成绩的模型标为“未计入”并写明原因。匿名测试型号不展示,名次照搬原榜,每项最多列 30 个。

原榜名次原榜型号原始成绩代表配置
1gemini-4-argonGoogle58.1%High 推理
2claude-opus-5-5Anthropic55.0%Max 推理
3claude-fable-5.1Anthropic54.0%Max 推理
3claude-sonnet-5-5Anthropic54.0%Max 推理
5muse-spark-1-3Meta52.2%xHigh 推理
6muse-wonder-1-0-maxMeta51.9%Max 推理
7gemini-3.8-flashGoogle48.8%High 推理
8qwen-3-8-max-xhighAlibaba46.7%xHigh 推理
8gpt-6-astra-maxOpenAI46.7%Max 推理
10grok-4-6-xhighxAI45.7%xHigh 推理
11claude-opus-5Anthropic44.0%Max 推理
12claude-haiku-5-5Anthropic43.0%Max 推理
12gpt-6-1-solOpenAI43.0%Max 推理
12gpt-5-6-sol-max-proOpenAI43.0%Max 推理未计入:Pro 系统多次采样后汇总作答,不是 GPT-5.6 Sol 本身。
12gpt-6-solOpenAI43.0%Max 推理
16deepseek-v4-1-flash-1017DeepSeek41.6%Max 推理
17inception/mercury-3Inception40.5%High 推理
17glm-5-3Z.ai40.5%Max 推理
19deepseek-v4-pro-08-13DeepSeek40.2%Max 推理
19gpt-6-lunaOpenAI40.2%Max 推理
21gpt-5.6-terra-maxOpenAI38.8%Max 推理
22glm-5-3-flashZ.ai37.8%Max 推理
22deepseek-v4-1-flashDeepSeek37.8%Max 推理
24gpt-6-1-terraOpenAI37.1%Max 推理
25minimax-m3p1-flashMiniMax36.1%Max 推理
26gpt-5.6-luna-maxOpenAI35.7%Max 推理
27kimi-k3Moonshot AI34.7%Max 推理
28beam-1-0-maxReflection33.0%Max 推理
29grok-4.7xAI32.6%xHigh 推理
30minimax-m3MiniMax21.0%High 推理
评测局限与数据署名

依赖模拟用户与工具协议,只代表银行客服场景;Sierra 官方榜单接受厂商自报成绩,不计分。

数据许可:官方公开结果;题目与评测框架来自 Sierra tau2-bench(MIT)

成绩由 Mercor 发布。各项评测的原始分数尺度不同,不能直接相加;AICue 按公开规则把它们折算成同一种分数。