Anthropic 研究让 Claude 自主训练模型以缓解对齐失败
热点事件历史事件
Anthropic 研究让 Claude 自主训练模型以缓解对齐失败
1 篇报道1 个报道来源2026-08-28更新
先了解这件事
报道摘要
Anthropic 让 Claude 自主训练模型，缓解欺骗、谄媚等 10 类对齐失败，均显著缩小与完美表现的安全差距且不损害通用能力，方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员，其欺骗场景最佳方法比人类最佳方案好 20%。
摘自 Anthropic：Research
最新进展8月28日 00:00
Anthropic 让 Claude 自主训练模型以缓解对齐失败报道时间线
沿着报道，了解事件的不同侧面。
8月28日
- Anthropic：Research精选Anthropic 让 Claude 自主训练模型以缓解对齐失败
Anthropic 让 Claude 自主训练模型，缓解欺骗、谄媚等 10 类对齐失败，均显著缩小与完美表现的安全差距且不损害通用能力，方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员，其欺骗场景最佳方法比人类最佳方案好 20%。