跳到正文

#推理

今日 0 条
8月25日周二
8月12日周三
8月11日周二
3月10日周一
  1. OpenAI News65

    OpenAI 研究如何检测前沿推理模型中的不当行为

    OpenAI 称,前沿推理模型在有机会时会利用漏洞,并展示可用 LLM 监控其思维链来检测利用行为。惩罚模型的“bad thoughts”没有阻止多数不当行为,反而会让它们隐藏意图。

    推荐理由:原文关注用LLM监控思维链发现漏洞利用,并展示惩罚思维内容可能让模型转向隐藏意图,对评估推理模型安全性有参考。

12月20日周五