语言模型评估中的多项选择归一化
自回归语言模型（GPT-3、GPT-Neo、GPT-J 等）的多项选择任务评估存在多种实现路径。文章系统梳理了当前主流的归一化（Normalization）方法，针对模型在不同选项上的概率计算方式、长度偏差修正及分数标准化技术进行详细阐述，为统一语言模型评测标准提供方法论参考。
#评测/基准
EleutherAI：Blog
OpenAI：官网动态精选AI 评分6666 OpenAI 发表针对代码训练大语言模型的评估研究
OpenAI 发布论文《Evaluating large language models trained on code》，主题是在代码上训练的大语言模型的评估。（仅标题可用，正文抓取失败）
EleutherAI：Blog 关于 OpenAI API 模型规模的探讨
研究团队利用 eval harness 评估框架，通过对比 OpenAI API 模型在标准测试集上的性能表现，成功反向推算出其模型参数规模。该方法基于模型能力与参数量之间的相关性，分析了包括 GPT 系列在内的闭源模型在各项任务中的得分差异，揭示了 OpenAI 未公开披露的模型大小信息，为理解这些模型的实际规模与能力边界提供了量化依据。
EleutherAI：Blog 在下游任务上微调模型
研究团队对GPT-Neo模型开展下游任务微调实验，利用eval harness评测体系进行针对性训练，系统观测微调过程对其性能表现产生的具体影响。实验通过调整模型参数适配特定任务，评估预训练模型在下游场景中的能力变化与适应性表现，为理解微调对模型性能的优化效果提供实证数据支撑。
OpenAI：官网动态精选AI 评分8282 OpenAI Five 击败 Dota 2 世界冠军战队 OG
OpenAI Five 在周末的决赛中连赢两局击败 Dota 2 世界冠军战队 OG，成为首个战胜电竞世界冠军的 AI，也是 AI 首次在直播比赛中战胜电竞职业选手。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下对局中战胜优秀职业选手，但在公开职业比赛中落败。
推荐理由：原文记录了 AI 首次在公开直播比赛中击败电竞世界冠军的节点，并交代了与此前私下对局结果的对比背景。
OpenAI：官网动态精选AI 评分6666 OpenAI Five 在 The International 2018 惜败顶级 Dota 2 选手
OpenAI Five 本周在温哥华 The International 2018 上与顶级 Dota 2 选手对战两场皆负，但两局前 20-35 分钟都保持较大获胜机会。
推荐理由：OpenAI 官方复盘 OpenAI Five 在 The International 的两场失利，指出前期 20-35 分钟保持优势这一具体表现。
OpenAI：官网动态精选AI 评分7474 OpenAI Five 在表演赛中战胜 99.95 百分位 Dota 玩家队伍
OpenAI Five 在三局两胜的比赛中战胜由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的队伍，其中四人曾打过职业 Dota。比赛面向现场观众并有 10 万人同时在线观看直播。
推荐理由：原文记录了 OpenAI Five 击败高分段 Dota 战队的比赛结果，可作为 AI 在复杂即时对战场景进展的早期事件参考。
OpenAI：官网动态AI 评分5555 OpenAI Five Benchmark 比赛结束
OpenAI 官方宣布 OpenAI Five Benchmark 比赛现已结束。