OpenAI 发布 CLIP：连接文本与图像的神经网络
OpenAI 推出神经网络 CLIP，能通过自然语言监督高效学习视觉概念。只需提供待识别视觉类别的名称，CLIP 即可应用于任何视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：原文说明 CLIP 用自然语言监督学习视觉概念并可零样本套用于分类基准，读者可了解其与 GPT 系列零样本思路的关联。
#OpenAI
OpenAI：官网动态精选AI 评分8181
OpenAI：官网动态精选AI 评分7676 OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft，供其用于自有产品和服务。
推荐理由：官方宣布将 GPT-3 独家授权给 Microsoft 用于其产品和服务，读者可以了解当时大模型商业授权的早期形态。
OpenAI：官网动态AI 评分5252 OpenAI 用人类反馈强化学习训练更擅长摘要的语言模型
OpenAI 将 RLHF（人类反馈强化学习）应用于训练语言模型，使其在文本摘要任务上表现更好。
Sam Altman：Blog精选 研究人员与创始人
曾与创始人合作、现与研究人员共事的作者发现，尽管两类人差异显著，但顶尖者都思考"领域内最重要的问题"、兼具短期专注与长期视野、极度坚持、偏向行动、创意丰富且重视自主，动机常源于好奇心。
推荐理由：Sam Altman深度剖析顶尖研究者与创始人的共同特质
OpenAI：官网动态AI 评分5454 OpenAI 发布 Image GPT：用 Transformer 生成连贯图像补全
OpenAI 发现与语言模型同理，基于像素序列训练的 Transformer 模型可以生成连贯的图像补全和样本。研究建立了样本质量与图像分类精度的相关性，其最佳生成模型在无监督设置下具备与顶级卷积网络相竞争的特征。
OpenAI：官网动态精选AI 评分7676 OpenAI 发布 API，开放访问其新 AI 模型
OpenAI 发布 API，供外界访问其开发的新 AI 模型。
推荐理由：OpenAI 官方宣布开放 API 访问其新模型，原文虽短，但可直接了解其对外提供模型访问的方式。
Sam Altman：Blog精选 如何获得创业想法
YC 曾实验资助无想法的优秀创始人，结果全部失败，证明创始人必须自身擅长产生想法。要身处正确环境：周围需有对未来敏感、乐观、想法丰富的人，远离愤世嫉俗者。关注重大结构性转变，区分真实与虚假趋势。评估想法时考虑能否做大、创始人与公司是否匹配，以及能否解释为何大多数人认为是坏主意但你看到价值。
推荐理由：Sam Altman 分享识别技术趋势的方法论，称适用于 AI 发展
OpenAI：官网动态精选AI 评分8383 OpenAI 发布论文 Language models are few-shot learners
OpenAI 发布论文 Language models are few-shot learners，探讨语言模型的少样本学习能力。原文正文抓取失败，仅标题可用。
OpenAI：官网动态精选AI 评分6161 OpenAI 分析：训练神经网络所需算力每 16 个月减半
OpenAI 发布分析，指出自 2012 年以来，在 ImageNet 分类上达到同等性能所需训练算力每 16 个月下降一半。达到 AlexNet 水平如今所需算力比 2012 年少 44 倍，而同期摩尔定律只能带来 11 倍的成本改进；结果表明在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 分类数据量化算法进步的速度，读者可据此比较算法效率与摩尔定律的贡献差异。
OpenAI：官网动态精选AI 评分6666 OpenAI 发布音乐生成模型 Jukebox 并开源权重与代码
OpenAI 发布 Jukebox，一个可直接以原始音频形式生成音乐的神经网络，支持多种流派和艺术家风格，包括初步的歌声。OpenAI 同时开源模型权重和代码，并提供探索生成样本的工具。
推荐理由：原文给出 Jukebox 以原始音频生成含人声音乐的核心能力，并说明开放模型权重与代码，读者可据此评估其可复用性。
OpenAI：官网动态AI 评分4040 OpenAI 推出 Microscope：八个视觉模型的可视化工具
OpenAI 推出 Microscope，对八个常用于可解释性研究的视觉"模式生物"模型的每个重要层和神经元进行可视化。该工具让研究者更易分析这些神经网络内部形成的特征，以帮助学界理解这类复杂系统。
Sam Altman：Blog 艰难的创业
创业中最反直觉的秘密是，做困难的创业往往比容易的创业更易成功。容易启动的项目虽简单起步，却因缺乏使命感而难以吸引顶尖人才；反之，解决核聚变、基因编辑等难题虽需大量资源，却能靠"世界需要这个"的使命感招募人才，形成顺风。建议创业者设定宏大愿景但保持合理节奏，以10年而非3年的长期承诺建立复利优势。
OpenAI：官网动态AI 评分5151 OpenAI 宣布将深度学习框架统一到 PyTorch
OpenAI 宣布将公司的深度学习框架统一为 PyTorch。
OpenAI：官网动态AI 评分5555 OpenAI 发布神经语言模型的 Scaling Laws 研究
OpenAI 发布关于神经语言模型缩放定律（Scaling Laws）的论文，讨论语言模型性能随参数量、数据量和计算量变化的经验规律。
OpenAI：官网动态AI 评分5555 OpenAI 发布 Dota 2 大规模深度强化学习研究
OpenAI 发布关于用大规模深度强化学习训练 Dota 2 智能体的研究内容。原文正文抓取失败，仅标题可用，无法确认更多细节。
OpenAI：官网动态精选AI 评分6060 OpenAI 发现深度学习中的深度双下降现象
OpenAI 报告 double descent 现象普遍存在于 CNN、ResNet 和 transformers 中：随着模型规模、数据量或训练时间增大，性能先改善、再变差、然后再次改善。该效应常可通过仔细的正则化来规避，作者表示其成因尚未被充分理解，并将其列为重要的研究方向。
推荐理由：原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象，并把它列为值得进一步研究的方向。
OpenAI：官网动态AI 评分4343 OpenAI 发布 Procgen Benchmark：16 个程序化生成环境
OpenAI 发布 Procgen Benchmark，包含 16 个易于使用的程序化生成环境，用于直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI：官网动态精选AI 评分8080 OpenAI 发布 GPT-2 最大版本 1.5B 参数模型及代码与权重
OpenAI 发布 GPT-2 分阶段发布的最终版本，即 1.5B 参数的最大版本，同时公开代码和模型权重以帮助检测 GPT-2 模型的输出。OpenAI 表示自 8 月以来已有更大的语言模型发布，但坚持按原计划完成分阶段发布，为社区提供一个完整的分阶段发布流程案例，并继续与 AI 社区探讨负责任发布。
推荐理由：OpenAI 以完整分阶段发布作为案例放出 1.5B 版本，读者可借此了解负责任发布的实际过程。
OpenAI：官网动态精选AI 评分6161 OpenAI 用机器手训练神经网络还原魔方
OpenAI 训练了一对神经网络，用类人机器手还原魔方。神经网络完全在仿真环境中训练，使用与 OpenAI Five 相同的强化学习代码，并配合一种名为 Automatic Domain Randomization（ADR）的新技术。系统能应对训练中从未见过的情况，例如被长颈鹿玩偶戳碰，说明强化学习不只能用于虚拟任务，也能解决需要极高灵巧度的现实世界问题。
推荐理由：原文说明了 ADR 方法与全仿真训练思路，可帮助读者理解强化学习从虚拟任务走向真实机械手操作的技术路径。
OpenAI：官网动态精选AI 评分6565 OpenAI 用人类偏好微调 774M 参数 GPT-2
OpenAI 用人类反馈微调 774M 参数 GPT-2，在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注，风格续写等较简单任务只需 5 千条；标注者偏好摘要整句照抄原文，导致模型学会照抄。OpenAI 表示此举意在让安全技术更接近'机器与人对话'这一通用任务。
推荐理由：原文给出人类偏好微调 GPT-2 的任务结果与标注成本，并暴露标注偏好与作者意图不一致的问题。
OpenAI：官网动态精选AI 评分6262 OpenAI 在多智能体躲猫猫游戏中观察到自发工具使用
OpenAI 报告在新构建的模拟躲猫猫环境中，智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略，其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明，多智能体共同适应未来可能产生极复杂且智能的行为。
推荐理由：原文记录了多智能体在躲猫猫环境中自发形成的六种策略与反策略，可帮助读者理解多智能体协同如何催生复杂行为。
OpenAI：官网动态精选AI 评分7070 OpenAI 发布 774M 参数版 GPT-2 并分享分阶段发布经验
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已于 2 月发布 124M 小型版、5 月分阶段发布 355M 中型版，并与合作伙伴及 AI 社区研究了模型的滥用风险与社会效益。同时发布一份开源法律协议以便组织间建立模型共享合作，并发布关于与 AI 研究社区协调发布规范经验的技术报告。
推荐理由：原文交代了 GPT-2 分阶段发布策略的推进节奏，并附带模型共享法律协议与发布规范报告，可了解负责任发布实践。
OpenAI：官网动态精选AI 评分8585 Microsoft 向 OpenAI 投资 10 亿美元并达成 AGI 合作
Microsoft 向 OpenAI 投资 10 亿美元，支持其构建具有广泛分配经济收益的 AGI。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台和新的 Azure AI 超算技术，Microsoft 将成为 OpenAI 的独家云服务商。
推荐理由：OpenAI 官方说明这笔 10 亿美元投资的具体用途和合作范围，可了解双方在 Azure 上共建 AGI 平台的安排。
OpenAI：官网动态AI 评分5757 OpenAI 发布深度神经网络 MuseNet，可生成 10 种乐器、4 分钟长的多风格乐曲
OpenAI 发布 MuseNet，一个可生成 10 种乐器、最长 4 分钟乐曲的深度神经网络，能融合从乡村乐到 Mozart、Beatles 等多种风格。模型未被显式编程音乐规则，而是通过在数十万 MIDI 文件上预测下一个 token 自主学习和声、节奏与风格，采用与 GPT-2 相同的大规模 transformer 无监督技术。
OpenAI：官网动态AI 评分5252 OpenAI 发布 Sparse Transformer，可处理比以往长 30 倍的序列
OpenAI 开发出 Sparse Transformer，一种在文本、图像和声音等序列预测任务上创造新纪录的深度神经网络。它通过改进注意力机制的算法，能从比以往长 30 倍的序列中提取模式。
OpenAI：官网动态精选AI 评分8282 OpenAI Five 击败 Dota 2 世界冠军战队 OG
OpenAI Five 在周末的决赛中连赢两局击败 Dota 2 世界冠军战队 OG，成为首个战胜电竞世界冠军的 AI，也是 AI 首次在直播比赛中战胜电竞职业选手。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下对局中战胜优秀职业选手，但在公开职业比赛中落败。
推荐理由：原文记录了 AI 首次在公开直播比赛中击败电竞世界冠军的节点，并交代了与此前私下对局结果的对比背景。
OpenAI：官网动态AI 评分5252 OpenAI 与 Google 研究者合作推出 Activation Atlases 神经元交互可视化技术
OpenAI 与 Google 研究者合作创建了 activation atlases，一种可视化神经元之间交互所代表内容的新技术。随着 AI 系统被部署到越来越敏感的场景，更好地理解模型内部决策过程有助于识别弱点和调查失败原因。
OpenAI：官网动态AI 评分4646 OpenAI 研究：AI 训练如何扩展——梯度噪声尺度可预测并行性
OpenAI 发现梯度噪声尺度这一简单统计指标能预测神经网络训练在多种任务上的可并行性。由于复杂任务的梯度噪声更大，未来更大的 batch size 可能变得有用，从而消除 AI 系统继续扩展的一项潜在限制。该结果表明神经网络训练并非神秘技艺，而是可以被严格化和系统化的。
OpenAI：官网动态AI 评分5050 OpenAI 发布 CoinRun：量化强化学习中的泛化能力
OpenAI 发布训练环境 CoinRun，用于衡量智能体将经验迁移到新情境的能力，并已帮助厘清强化学习领域一个长期存在的难题。CoinRun 在复杂度上取得平衡：比《刺猬索尼克》等传统平台游戏更简单，但仍对当前最先进算法构成值得挑战的泛化测试。
OpenAI：官网动态精选AI 评分6868 OpenAI 发布深度强化学习教育资源 Spinning Up in Deep RL
OpenAI 发布 Spinning Up in Deep RL，一套旨在让任何人学会成为深度强化学习熟练从业者的教育材料。资源包含清晰的 RL 代码示例、教育性练习、文档和教程。
推荐理由：OpenAI 自家发布的深度强化学习教育资源，代码示例、练习和教程齐全，适合想系统入门深度 RL 的开发者按图索骥。
OpenAI：官网动态AI 评分5757 OpenAI 提出 iterated amplification 方法，用子任务分解指定复杂目标
OpenAI 提出 AI 安全技术 iterated amplification，通过演示如何将任务分解为更简单的子任务，而非提供标注数据或奖励函数，来指定超出人类规模的复杂行为与目标。该方法尚处早期，目前仅在简单的玩具算法域完成实验，OpenAI 认为它可能成为可扩展的 AI 安全方法。
OpenAI：官网动态精选AI 评分6666 OpenAI Five 在 The International 2018 惜败顶级 Dota 2 选手
OpenAI Five 本周在温哥华 The International 2018 上与顶级 Dota 2 选手对战两场皆负，但两局前 20-35 分钟都保持较大获胜机会。
推荐理由：OpenAI 官方复盘 OpenAI Five 在 The International 的两场失利，指出前期 20-35 分钟保持优势这一具体表现。
OpenAI：官网动态精选AI 评分7474 OpenAI Five 在表演赛中战胜 99.95 百分位 Dota 玩家队伍
OpenAI Five 在三局两胜的比赛中战胜由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的队伍，其中四人曾打过职业 Dota。比赛面向现场观众并有 10 万人同时在线观看直播。
推荐理由：原文记录了 OpenAI Five 击败高分段 Dota 战队的比赛结果，可作为 AI 在复杂即时对战场景进展的早期事件参考。
OpenAI：官网动态AI 评分5252 OpenAI 训练仿人机械手以灵巧手法操控物理物体
OpenAI 宣布训练出一个仿人机械手，能够以前所未有的灵巧度操控物理物体。
OpenAI：官网动态AI 评分5555 OpenAI Five Benchmark 比赛结束
OpenAI 官方宣布 OpenAI Five Benchmark 比赛现已结束。
OpenAI：官网动态AI 评分5151 OpenAI 发布可逆生成模型 Glow
OpenAI 推出 Glow，一种使用可逆 1x1 卷积的可逆生成模型，扩展了此前可逆生成模型的工作并简化了架构。模型可生成逼真的高分辨率图像，支持高效采样，并能发现可用于操纵数据属性的特征。OpenAI 同时发布了模型代码和在线可视化工具供探索和构建。
OpenAI：官网动态精选AI 评分6666 OpenAI 用单条人类演示训练智能体在 Montezuma's Revenge 上达到 74500 分
OpenAI 训练的智能体仅从单条人类演示出发，在 Montezuma's Revenge 上取得 74500 分的高分，超过此前已发表的最好结果。算法做法是从演示中精心挑选的状态开始连续游戏，使用 PPO 优化游戏得分进行学习，PPO 也是支撑 OpenAI Five 的同一强化学习算法。
推荐理由：原文说明从单条人类演示中选取起始状态再用 PPO 优化得分的算法思路，读者可以理解这一强化学习方法的可迁移做法。
OpenAI：官网动态AI 评分4949 OpenAI Five 已能击败 Dota 2 业余人类战队
OpenAI 由五个神经网络组成的 OpenAI Five 已开始在与 Dota 2 业余人类战队的对战中取胜。该团队由五个神经网络构成，此次进展标志着其在 Dota 2 项目上首次战胜人类业余队伍。
OpenAI：官网动态精选AI 评分7575 OpenAI 发布基于无监督预训练的语言理解模型并取得 SOTA 结果
OpenAI 用结合 Transformer 与无监督预训练的通用、任务无关系统，在多项语言任务上取得 SOTA 结果，并开源发布该系统。OpenAI 表示这一结果验证了监督学习与无监督预训练结合的有效性，希望推动在更大、更多样数据集上的后续研究。
推荐理由：原文说明了方法组合与开放发布，读者可以据此理解无监督预训练思路在多项语言任务上的效果。
OpenAI：官网动态AI 评分5151 OpenAI 发布 Gym Retro 完整版，游戏数量扩至超过 1000 款
OpenAI 发布强化学习游戏研究平台 Gym Retro 的完整版，公开游戏数量从约 70 款 Atari 游戏和 30 款 Sega 游戏扩展到涵盖多种模拟器的超过 1000 款游戏，同时开源了用于向平台添加新游戏的工具。