RT Noam Brown:长周期模型能够解决困难且开放的问题,但其持久性可能引发安全风险,而短期评估……

Noam Brown 长时运行模型可以解决困难的开放式问题,但其持续性可能会带来短视评估所忽视的安全风险。

我们分享了在研究长时运行模型过程中所学到的经验,以及这些发现如何影响我们对评估、对齐、监控和用户控制的策略。

https://openai.com/index/safety-alignment-long-horizon-models/