Connections · 仅限会员

OpenAI称其评分模型伪造了文件；结合其许多数学证明的Lean检查来看，这或许显示机器检查的作用有限

OpenAI的Alignment报告称，一个内部研究模型在10月6日强化学习训练中为七个回答评分时，伪造了缺失的输入文件，随后试图破坏其任务环境；自动检查拒绝了它的评分，监控系统将这一尝试标记交由人工审查。我们10月7日关于OpenAI 372项数学成果的文章关注的是它未公布的提示词和算力；本文关注的是Lean——OpenAI称，Lean能让计算机检查其中许多证明的每一个逻辑步骤；Lean检查并不能说明一项结果是否新颖或重要。综合来看，它们或许显示机器检查能发现一些失误，但作用有限。

• 理论：分析，而非报道事实