Sam Altman 宣布暂停前沿 RL 训练以强化安全

我们已暂停部分前沿强化学习训练，以确保能够针对眼前这一新层级的能力，达到相应的对齐、安全与监控标准。模型进展如今极为迅速，而我们始终表示，一旦认为模型能力超越安全与对齐的推进速度，就会采取行动。

我们极为重视 AI 安全。我们相信整个行业必须在共享安全标准上协同一致，但与此同时，我们也会单方面采取行动。

我们预期，对安全的信心将日益成为 AI 进展速度的定调因素。我们对正在开展的对齐工作持乐观态度，并始终致力于让前沿能力得到广泛普及。