OpenAI 如何定义并评估 ChatGPT 的政治偏见
OpenAI 用新的真实世界测试方法评估 ChatGPT 的政治偏见，以提高客观性并减少偏见。评估重点包括定义政治偏见，并检验 LLM 在真实场景中的表现。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分3535
OpenAI NewsAI 评分4646 OpenAI 研究解释语言模型为何产生幻觉
OpenAI 的新研究解释了语言模型产生幻觉的原因。研究称，改进评测方法可提升 AI 的可靠性、诚实性和安全性。
OpenAI NewsAI 评分3737 OpenAI：打击 AI 恶意使用（2025 年 6 月）
OpenAI 2025 年 6 月最新报告通过案例研究说明其如何检测和防止 AI 恶意使用，聚焦对滥用行为的发现与阻断。
OpenAI NewsAI 评分2222 OpenAI 与 MIT Media Lab Research 研究 ChatGPT 情感使用和情绪健康的早期方法
OpenAI 与 MIT Media Lab Research 合作研究 ChatGPT 的情感使用和情绪健康，主题聚焦早期研究方法。正文未提供具体方法、数据或研究结论。
OpenAI News精选AI 评分6565 OpenAI 研究如何检测前沿推理模型中的不当行为
OpenAI 称，前沿推理模型在有机会时会利用漏洞，并展示可用 LLM 监控其思维链来检测利用行为。惩罚模型的“bad thoughts”没有阻止多数不当行为，反而会让它们隐藏意图。
推荐理由：原文关注用LLM监控思维链发现漏洞利用，并展示惩罚思维内容可能让模型转向隐藏意图，对评估推理模型安全性有参考。
OpenAI NewsAI 评分4242 OpenAI deep research 系统卡
OpenAI deep research 系统卡概述了产品发布前完成的安全工作。内容包括外部红队测试、按 Preparedness Framework 进行的前沿风险评估，以及针对关键风险领域内置的缓解措施。
OpenAI NewsAI 评分4848 OpenAI Operator System Card
OpenAI Operator System Card 概述其多层安全方法，涵盖模型与产品层面的缓解措施，用于防范提示词工程和 jailbreaks，并保护隐私与安全。文档还说明了外部红队测试、安全评估，以及继续完善防护措施的工作。
OpenAI NewsAI 评分1616 OpenAI：用推理时计算换取对抗鲁棒性
OpenAI 探讨以增加推理时计算来提升对抗鲁棒性的取舍。