跳到正文
7月7日周二
  1. 字节 Seed:Research Papers74

    EdgeBench:从真实世界环境中揭示学习缩放定律

    字节跳动Seed团队发布EdgeBench,包含134个真实世界任务,覆盖科学发现、软件工程等6个领域,每任务支持至少12小时连续智能体运行。基于约38,000小时交互数据,发现总体性能与环境交互时间呈精确对数S形缩放定律(R²=0.998),且智能体学习速度约每三个月翻倍。已公开51个任务及完整评估框架。

    推荐理由:这篇论文首次量化了智能体在134个长周期真实任务中从环境学习的性能曲线,发现log-sigmoid缩放定律精确度极高,且学习速度约每三个月翻倍。对于正在设计长期自主agent的团队,这是一份必须看的底层规律报告。

  2. 字节 Seed:Research Feed55

    字节 Seed 发布 EdgeBench:衡量真实世界环境学习,发现新 Scaling Law

    字节 Seed 发布超长程评测集 EdgeBench,含 134 个真实任务(覆盖六大领域),每个任务支持 Agent 持续工作至少 12 小时。基于约 38000 小时交互数据,发现 Agent 环境学习表现遵循高精度 log-sigmoid 曲线(平均 R²=0.998);自 2025 年 9 月至 2026 年 5 月,前沿模型学习速度约每三个月翻一倍。EdgeBench 已开源 51 个任务及完整评测框架。

  3. Anthropic:Transformer Circuits83

    Anthropic Transformer Circuits:可口头表述的表征构成语言模型的全局工作空间

    Anthropic的Transformer Circuits团队通过可解释性研究发现,大型语言模型内部维护着一组特权性的内部表征——可口头表述的表征。这些表征可被模型口头报告、有意识调控,并用于灵活的链式推理,类似于大脑中的全局工作空间。研究提出一种新的解释技术,能够测量模型在任意时刻准备输出的概念,并通过对这些表征的干预,揭示模型内部推理过程及未出现在输出层中的反应。该工作将神经科学中的意识访问功能框架引入AI可解释性,指出LLM虽基于Transformer架构,却演化出与全局工作理论相似的并行加工与广播机制。

  4. Apple Machine Learning Research42

    Fortress:一项关于通过时序数据增强和特征剪枝稳定搜索推荐的案例研究

    Fortress是一个提升搜索推荐模型稳定性与准确性的通用框架。其通过收集历史数据快照、识别预测不稳定样本、剔除导致波动的特征,并仅用稳定特征重新训练模型,来抑制来自用户交互信号(如engagement特征)的波动性,同时保留其预测能力。该方法在大型应用商店的查询到应用相关性模型上验证,离线实验表明预测稳定性(以变异系数衡量)和分类性能(以PR-AUC衡量)均有提升。

  5. Apple Machine Learning Research56

    用可解释性理解标注者安全策略

    标注分歧可源于操作失败、政策模糊或价值多元。Annotator Policy Models(APMs)是一种可解释模型,仅从标注行为学习标注者内在的安全策略,无需额外负担。验证表明模型准确率超过80%,能忠实预测反事实编辑并恢复已知差异。将APMs应用于LLM和人类标注者,可揭示不同标注者对安全指令解释的差异(政策模糊)以及不同人口群体在安全优先级上的系统性差异(价值多元),支持更具针对性、透明和包容的安全策略设计。

    推荐理由:我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。

  6. Apple Machine Learning Research50

    TopoPrimer:预测模型中缺失的拓扑上下文

    TopoPrimer 框架将序列群体的全局拓扑结构作为显式输入加入预测模型。通过持续同调与谱坐标预计算,可部署为全训练模型的 per-token 输入或预训练骨干的轻量适配器。在 Chronos 和 TimesFM 的四个基准上,TopoPrimer 在 ECL 上最高提升 7.3% MSE,零样本与微调效果相近。面对季节性需求峰值,传统模型误差退化达 50%,TopoPrimer 控制在 10% 以内;冷启动场景下 MAE 降低 27%。

  7. Anthropic:Research90

    语言模型中的全局工作空间

    Anthropic在Claude中发现一组名为J-space的内部神经模式,类似神经科学的全局工作空间。每个模式关联特定词汇,但模型不必说出该词即可激活。Claude能报告J-space中的表征,并可应要求调节(如“在脑中思考”时点亮对应模式)。J-space还用于多步推理的中间步骤,且灵活支持多种任务(如从“法国”联想首都、货币等)。去除J-space后Claude仍能正常对话,但丧失高阶认知功能。该发现可用于监测模型私下察觉测试、生成虚假数据或执行隐藏目标。

    推荐理由:Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

7月6日周一
  1. Apple Machine Learning Research50

    路径约束的混合专家模型(Path-constrained Mixture-of-Experts)

    稀疏混合专家(MoE)中,每层独立路由token。论文从“专家路径”(token在各层选中的专家序列)视角发现:尽管N专家L层有N^L条可能路径,实际token仅聚集在少数与语言功能对齐的路径上,大部分路径未被利用。为此提出PathMoE,在连续层块间共享路由参数,强制约束有效路径空间以放大自然聚集。0.9B和16B参数模型实验显示,相比独立路由,PathMoE在困惑度和下游任务上一致改进,且无需辅助损失。专家路径为MoE设计提供了新维度。

  2. Apple Machine Learning Research53

    Apple 提出专用小型 seq2seq 模型用于 ASR 纠错

    Apple 机器学习研究团队采用紧凑的 seq2seq 模型进行 ASR 纠错,训练数据来自真实和合成音频的 ASR 错误。通过级联 TTS 和 ASR 构建合成语料,关键在于匹配真实错误分布的多样性。模型采用 correction-first 解码,生成候选后利用 ASR 声学分数重新排序。与 LLM 相比,该模型参数少 15 倍,在 LibriSpeech test-clean/other 上分别达到 1.5% 和 3.3% 的词错误率(WER),优于 LLM,并能泛化至 CTC、Seq2seq、Transducer 等多种 ASR 架构,在低错误率场景中提供精确纠错。

  3. Apple Machine Learning Research49

    连续扩散口语语言模型的缩放性质研究

    Apple与Google团队研究连续扩散(CD)口语语言模型(SLM)的缩放性质。CD SLM直接处理连续语音,避免离散化瓶颈。引入音素Jensen-Shannon散度(pJSD)评估语言质量,发现验证损失和pJSD均遵循缩放定律,最优token-to-parameter比率随计算量增加而下降。扩展至16B参数并采用数千万小时对话数据训练后,可生成富有情感、韵律、多说话人、多语言的语音,但长文连贯性仍为显著挑战。

  4. 蚂蚁 inclusionAI:GitHub 新仓库57

    蚂蚁集团发布 Alipay-PIBench:面向支付集成的 AI 编程智能体评测基准

    蚂蚁集团推出 Alipay-PIBench,一个用于评估 AI 编程智能体在真实支付集成任务中表现的仓库级基准。该基准涵盖 9 个产品级项目和 18 个任务实例,分为基础(功能支付完成)和高级(风险感知支付加固)两类场景,通过基于评分规则的评估方法衡量功能正确性、可靠性、安全性和业务状态一致性。在启用技能条件下,智能体的平均评分通过率(RPR)介于 68.58% 至 91.37% 之间。

7月3日周五
  1. Apple Machine Learning Research52

    Conformal Thinking:计算预算下推理的风险控制框架

    推理大语言模型支持测试时扩展,准确率随 token 预算增加而提升,但预算设定带来风险-精度权衡。Conformal Thinking 框架将预算设定重定义为风险控制问题:在最小化计算量的同时限制错误率。该框架引入上阈值(模型足够自信时停止推理,承担输出错误的风险)和下阈值(提前终止无法解决的实例,承担过早停止的风险)。给定目标风险与验证集后,使用无分布风险控制来最优指定这些停止机制。跨多种推理任务和模型的实验表明,该方法在遵守用户指定风险目标的同时,通过下阈值与集成停止机制实现了计算效率提升。代码已开源。

  2. Apple Machine Learning Research51

    残差上下文扩散语言模型(Residual Context Diffusion Language Models)

    扩散大语言模型(dLLM)可并行解码多个token,但现有分块式dLLM依赖重新掩码机制,仅保留最置信token而丢弃其余,造成计算浪费。本文提出Residual Context Diffusion(RCD)模块,将丢弃token的表示转化为上下文残差并注入下一次去噪步骤,采用解耦两阶段训练绕过内存瓶颈。在长CoT推理(SDAR)和短CoT指令跟随(LLaDA)模型上验证,标准dLLM仅需约10亿token即可高效转换为RCD。RCD在多项基准上以极小额外计算将前沿dLLM精度提升5–10个点,在最具挑战的AIME任务上几乎翻倍基线准确率,等效精度下减少4–5倍去噪步数。

  3. Apple Machine Learning Research46

    学习扩散语言模型的去掩码策略

    研究人员提出使用强化学习训练扩散语言模型(dLLM)的采样策略。该方法将掩码扩散采样形式化为马尔可夫决策过程,以 dLLM 为环境,采用单层 Transformer 策略网络将 token 置信度映射为去掩码决策。实验表明,在半自回归(块)生成中,该策略匹配了最先进的启发式方法,在全扩散设置中则超越后者。

  4. Apple Machine Learning Research46

    通过可追踪轨迹控制学习结构化推理

    大语言模型可涌现推理行为,但复杂推理轨迹在无约束采样中稀疏,标准强化学习难以保证多样性。Ctrl-R框架通过可追踪轨迹控制主动引导rollout,激励探索多样推理模式,并利用重要性采样实现无偏on-policy优化,引入重要性采样权重的幂缩放因子以选择性学习分布外轨迹。实验表明,Ctrl-R在语言和视觉-语言模型的数学推理任务上均取得一致改进。

  5. Apple Machine Learning Research62

    RL微调VLM的鲁棒性与思维链一致性研究

    强化学习(RL)微调被扩展至视觉语言模型(VLM)。研究发现,简单的文本扰动——误导性标题或错误思维链(CoT)——会显著降低模型鲁棒性和置信度,且开源模型衰退更明显。闭源模型呈现类似失败模式,但鲁棒性和推理一致性更强。进一步分析揭示准确性与忠实性的权衡:微调提升基准准确率,但同时侵蚀CoT的可靠性及对上下文变化的鲁棒性;对抗性增强可改善鲁棒性,却无法阻止忠实性漂移。引入忠实性感知奖励能恢复答案与推理的对齐,但与增强结合时训练易崩溃到捷径策略。这些发现强调需联合关注正确性、鲁棒性与视觉推理的忠实性。

    推荐理由:RL微调让VLM基准分变好看,却可能让它的推理链变得靠不住,这个反直觉的诊断对正在用RL打磨多模态模型的团队是个警醒。

  6. Apple Machine Learning Research51

    苹果提出摊销MIPS方法:用神经网络直接预测最大内积搜索解

    苹果机器学习研究团队提出摊销MIPS方法,训练神经网络直接预测最大内积搜索(MIPS)的解。核心思路是将MIPS值函数建模为键集的凸支撑函数,其梯度指向最优键。据此设计两种互补模型:SupportNet(输入凸神经网络拟合支撑函数,用作聚类路由)和KeyNet(向量值网络直接回归最优键,可替换原始查询输入索引流水线)。在BEIR基准文档嵌入实验中,两种模型在FLOPs、探测次数或时钟时间等计算开销指标下均显著提升IVF匹配率。代码已开源。

  7. Apple Machine Learning Research56

    VideoFlexTok:可变长度粗到细视频分词

    VideoFlexTok提出一种可变长度token序列的视频表示方法,采用粗到细结构——首个token捕捉语义和运动等抽象信息,后续token添加精细细节,生成流解码器支持任意token数量的视频重建。相比传统3D网格分词,该结构允许根据下游需求调整token数,在相同预算下编码更长视频。在类别和文本到视频生成任务中,VideoFlexTok以1.1B参数(5.2B的1/5)达到可比生成质量(gFVD和ViCLIP Score)。训练一个处理10秒81帧视频的文本到视频模型仅需672个token,比同等3D网格分词器少8倍。

    推荐理由:把视频 tokenization 从固定网格改成变长 coarse-to-fine,训练效率提升明显,还能做更长的视频。研究角度挺漂亮,但离产品落地还有距离,做视频生成的可以追一下。

  8. Apple Machine Learning Research72

    多智能体团队阻碍专家发挥

    在自我组织的多智能体LLM系统中,团队无法有效利用专家成员的专业知识。在多个基准测试中,即使明确告知专家身份,团队表现仍落后于最佳成员(专家智能体)的独立能力,性能损失最高达41.1%。失败主因是未能有效利用专家意见,而非识别专家。对话分析显示,团队倾向于“整合性妥协”——平均化专家与非专家观点,随团队规模增大而加剧,且与表现负相关。这种寻求共识的行为同时提升了对抗恶意智能体的鲁棒性,揭示了协同对齐与专业利用之间的根本性权衡。

    推荐理由:这篇研究给多智能体热浇了盆冷水,自组织团队反而拖累专家,瓶颈不在认不认识专家而在会不会用专家,做 Agent 系统的都知道这有多反直觉。如果你是做多智能体的值得看看。

7月2日周四
  1. 英国 AI Security Institute:Blog70

    AISI 研究:智能体评测需计入 test-time compute,固定预算会低估能力

    英国 AI Security Institute 发文指出,智能体能力不是单一分数,而是随 test-time compute 变化的曲线,固定预算评测会系统性低估前沿智能体能力,尤其对新模型。

    推荐理由:AISI 用多预算扫描实验说明固定 token 预算会系统性低估前沿智能体能力,对评测方法和政策判断都有参考价值。

7月1日周三
  1. Anthropic:Transformer Circuits51

    Anthropic 提出回合平均稀疏自编码器 (Turn-Averaged SAE)

    Anthropic 对每个对话回合所有 token 的残差流取平均后训练 SAE,大幅减少需解析的特征数量。实验使用 Qwen-2.5-7B-Instruct 和 LMSYS-Chat-1M 数据集,回合平均特征更关注模型行为的高层特性(如错误答案),每 token SAE 侧重数值推理等细节。Sonnet 4.6 评测显示:回合平均 SAE 在从 10 个回合中唯一识别目标(区分度)为 74%,低于每 token SAE 的 95%;但在全面描述回合(覆盖度)上以 77% 胜出。该方法可外推至训练平均长度 150 倍长的回合。

  2. OpenAI:官网动态70

    OpenAI 发布 GeneBench-Pro:计算生物学研究级基准测试

    OpenAI 发布 GeneBench-Pro,用于评估 AI 智能体在计算生物学中处理模糊性和做出判断性分析的能力。该基准包含 129 个问题,覆盖统计遗传学、群体遗传学等 10 个领域 21 个子领域。每个问题提供真实混乱的数据集和实验背景,要求模型探索数据、选择分析路径并迭代实验。采用合成数据构建,已知完整因果结构。82 个问题已由外部领域专家审核确认其现实性。

    推荐理由:OpenAI 的新基准揭示了一个信号,GPT-5.6 在需要科学判断的模糊任务上进步神速,从不足 5% 到接近 30%,且单题成本仅几美元,这对 AI for Science 的落地想象空间影响不小。

6月30日周二
  1. Thinking Machines Lab:News63

    Thinking Machines Lab 用专家标注微调 Qwen3-235B,在金融判断任务上超越前沿模型

    Thinking Machines Lab 与 Bridgewater AIA Labs 发布研究,用专家投资者标注的数据微调 Qwen3-235B,在六项金融信息筛选任务上平均准确率从最佳前沿模型的 78.2% 提升至 84.7%,推理成本降低 13.8 倍。

    推荐理由:原文给出了完整的训练配方和消融数据,读者可以看到专家标注加微调如何在特定任务上超过前沿模型并大幅降低成本。

  2. PromptArmor:Threat Intelligence68

    PromptArmor 测试 104 万个 Skills,微软 Copilot Cowork 安全扫描混淆后漏检 99.6%

    PromptArmor 从 SkillsMP、Claude Marketplaces、skills.sh、ClawHub、Composio、LobeHub 六个市场收集约 195 万条 Skills。

    推荐理由:作者用约百万条真实市场 Skills 和微软自家 BIPIA 攻击样本实测其扫描器,给出了具体检出率与绕过手法,可帮助读者评估 Skill 安全审查的局限。

6月29日周一
  1. OpenAI:官网动态62

    OpenAI 报告:绘制欧洲 AI 劳动力机遇版图

    OpenAI 发布新报告,分析 AI 对欧盟就业的影响,划定哪些职业面临自动化、增长或工作流程变化。

    推荐理由:与常见的「AI会取代工作」观点不同,OpenAI 用具体数据画出了欧洲就业的迁移路线,政策制定者应该打开看看,虽然报告全文的方法论尚待检验。

  2. Meta AI:Blog70

    Brain2Qwerty v2:Meta 发布无需手术的脑波解码文本新方法

    Meta 发布 Brain2Qwerty v2,一种无需手术植入即可从非侵入性脑记录中实时解码句子的端到端 AI 管线,词准确率达 61%,最佳参与者达 78%,远超其他非侵入方法 8% 的水平。研究基于 9 名志愿者各 10 小时的 MEG 数据训练,Meta 已开源 v1 和 v2 完整训练代码,合作方 BCBL 发布 v1 数据集。

    推荐理由:Meta 的 Brain2Qwerty 展示了不用开颅就能把脑电波转成文字,对渐冻症患者和未来人机交互来说是个重要信号,但离产品化还有距离。

6月26日周五
  1. Anthropic:Research55

    Anthropic Economic Index 报告:使用节奏

    Anthropic 发布 Economic Index 报告,基于隐私保护遥测数据分析了 Claude 的使用节奏。工作日个人对话占比约 35%,周末升至近 50%;高薪职业在工作日外的使用占比更高。日内模式显示:新闻请求集中在早上 7 点,食谱在下午 6 点达到 2.3 倍高频,睡眠建议凌晨 3 点最多。税收相关请求在 4 月 15 日美国报税截止日前激增。调查还发现:使用 Claude 最自动化的用户预计 AI 明年将承担更多任务,但对薪资、工作安全及工作意义的预期最为乐观。

    推荐理由:这是 Anthropic 迄今最详细的 AI 使用经济分析,从使用节律到输出自主性再到用户调查,展示 AI 渗透的真实图景。我最关注调查结果:自动化使用越多的人对职业前景反而更乐观。

  2. Google Research:Blog48

    用线性弹性缓存优化云经济

    Google Research 与 Google Cloud 提出线性弹性缓存,将缓存管理转为线性成本优化问题,动态调整大小以最小化总拥有成本。为每条数据引入“滑雪租赁”决策框架,在租用内存(持续付费)与购买缺失(缓存未命中惩罚)间选择,并用轻量级机器学习实时优化内存占用与缺失率权衡。无服务器云场景下(每 GiB 内存每天 $3),该技术可在不牺牲性能的同时显著降本。论文发表于 CIDR。

  3. Google Research:Blog55

    冻结多token预测加速Pixel上的Gemini Nano模型

    Google Research提出一种新架构,在已冻结的Gemini Nano v3模型上改造Multi-Token Prediction(MTP),以加速Pixel 9和10系列上的设备端推理。该方法基于EAGLE框架和CALM,无需单独训练占用内存的草稿模型,通过“晚期退出”策略实现加速。AI通知摘要和校对功能因此生成文本速度显著提升、能耗降低,开发者无需为每个新任务微调独立模型。

    推荐理由:谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。

6月25日周四
  1. OpenAI:官网动态65

    OpenAI内部报告:智能体Codex如何改变工作

    OpenAI 在2025年8月至2026年6月间观察到,智能体产品 Codex 取代 ChatGPT 成为主要工作工具,各部门输出 token 中 Codex 占比从不足10%升至99.8%。80.6%个体用户曾发起预计等效人类工作时间超30分钟的请求,70.2%超1小时,25.6%超8小时;99百分位用户每日生成超60小时 agent turns。非开发者用户增长迅猛:个体用户增长137倍,组织用户增长189倍。Legal、Finance、Recruiting 部门在2026年4月前后跨过 Codex 使用过半拐点,平均每位律师或招聘人员超85%输出 token 来自 Codex。

    推荐理由:OpenAI 第一次用内部数据量化智能体如何改变工作,非开发者增速 137 倍比工程师还猛,Codex 已经吃掉内部 99.8% 的输出 token——这不是产品更新,但比大多数发布会都更值得做策略的人看一眼。

  2. Google Research:Blog69

    思考即回忆:推理如何解锁LLM中的参数化知识

    Google Research研究发现,推理(chain-of-thought)能帮助大语言模型(LLM)回忆简单事实,即使这些事实无需复杂推导。在Gemini-2.5 Flash和Pro以及Qwen3-32B上,启用推理后模型能够回答原本无法直接回答的简单问题,pass@k显示正确事实存在于输出分布中。该现象由两个机制驱动:一是生成的推理token充当计算缓冲,允许模型进行隐藏计算以提取参数化知识;二是推理过程中产生的相关事实起到启动效应(factual priming),帮助模型激活正确答案。

    推荐理由:发现一个反直觉现象,让模型推理能提升简单事实回忆,不是靠分步解题而是计算缓冲和事实预热,对理解模型知识召回机制很有启发,但中间步骤幻觉也带来风险。

6月24日周三
  1. Apple Machine Learning Research68

    九位评委,两个有效投票:相关错误削弱LLM评审面板

    苹果机器学习研究团队发现,LLM-as-a-judge面板因模型间高度相关而严重受限。对7个模型家族的9个前沿大语言模型在3个自然语言推理数据集上的测试表明,9位评委实际仅提供约2个独立投票的信息量,面板准确率比独立投票理想值低8–22个百分点,最佳单一模型的表现已匹敌或超越整个面板。增加评委数量或改进聚合算法收效甚微,即使允许算法获取正确答案也仅能缩小至多11%的差距。该结论在多种提示变体、温度设置及偏好任务中均得到验证,瓶颈在于评委间的相关性而非聚合算法。

    推荐理由:这篇Apple论文揭示了一个反直觉的事实:在LLM评估面板中,9个法官实际上只提供约2个独立票的信息,因为模型会犯相似错误。这解释了为何简单聚合面板往往不如最佳单模型,做评估的团队必须重视法官相关性。

6月23日周二
  1. Apple Machine Learning Research49

    基于指标依赖的标注饱和:从标签分布中学习

    在ChaosNLI数据集(每项100个标注)上微调NLI模型,发现所需标注人数因评估指标而异:熵相关(识别分歧项)需约20-50个标注者收敛,KL散度(分布匹配)约10个标注者即饱和(达全量效果的87%-95%)。软标签的熵相关r=0.643(p<0.001),优于五种标签平滑强度下的r≈0.45-0.49,因平滑无法区分模糊样本与明确样本。该优势在DeBERTa、RoBERTa、非NLI预训练基线及内容安全跨域评估中均成立。结论:标注预算应依据目标评估指标制定。

  2. Google Developers Blog61

    Google Labs 提出用“洞察策略”评估 AI 编码智能体的主动性

    Google Labs 提出以“洞察策略”评估 AI 编码智能体的主动性,而非仅按任务完成度打分。团队基于 Google 内部代码库 705 个 bug(1178 个 CL),通过时空近邻与语义相似度聚类还原开发者实际的高层级目标。初步实验显示:Jules 在单轮探索下洞察相关性评分平均 4.5/5;探索预算从两轮增至三轮时,Hit@5 准确率从 33% 升至 57%。团队正将评估方法扩展至公开 GitHub 数据,并探索纳入问题追踪器、对话等更丰富的上下文。

    推荐理由:AI 编码代理的评估从任务修复转向目标洞察,Google 这个思路让评估更接近真实开发场景,但实验还是内部数据,等公开 GitHub 版本再看落地效果。

6月19日周五
  1. OpenAI:Alignment 研究博客64

    OpenAI 强化学习实现广泛且持久的有益模型

    OpenAI 通过强化学习在真实对话场景中训练模型,使其展现诚实、认知谦逊、元认知透明、可纠正性、普遍公平性和对人类福祉的关心等有益特质。训练数据涵盖健康、教育、科学、法律、工程等多个领域。训练后模型在数十项独立对齐评测(包括奖励黑客、欺骗、有害建议、规范遵从等)上均表现提升,且这种改善泛化到未参与训练的领域、任务和评分设定。在对抗性提示或微调下,模型仍难以被导向有害行为,表明有益特质强化学习可产生广泛且持久的对齐泛化。

    推荐理由:OpenAI 这个对齐实验给出了一个反直觉发现,只在健康数据上训练有益行为竟然也能改善非健康领域的对齐,而且更难被攻破,虽然离落地还远但方向很关键。