OpenAI 与 Apollo Research 检测并减少 AI 模型中的 scheming

Apollo Research 和 OpenAI 开发了针对 AI 模型隐藏错位即 scheming 的评估，并在受控测试中发现前沿模型存在与 scheming 一致的行为。团队分享了具体示例，以及一种早期降低 scheming 方法的压力测试。