Google DeepMind 和 Isomorphic Labs 公布生物韧性方法
Google DeepMind 和 Isomorphic Labs 公布联合生物韧性方法，目标是防止模型被滥用，并让可信伙伴用 AI 加强疫情预防、检测和响应。
#安全/对齐
#安全/对齐
今日 0 条Google DeepMindAI 评分5454
Google DeepMindAI 评分5454 Google DeepMind 等发起最高 $10M 多智能体 AI 安全研究资助征集
Google DeepMind 与 Schmidt Sciences、Cooperative AI Foundation、ARIA 并在 Google.org 支持下，宣布面向全球研究者发起最高 $10M 的多智能体 AI 安全技术研究资助征集。
OpenAI NewsAI 评分2626 OpenAI 2025 年 10 月报告：打击 AI 恶意使用
OpenAI 发布 2025 年 10 月报告，说明其如何检测并打击 AI 恶意使用。报告涵盖应对滥用、执行政策以及保护用户免受现实伤害的措施。
OpenAI NewsAI 评分4646 OpenAI 封禁利用 AI 支持恶意软件的韩语账号
OpenAI 封禁了使用 AI 支持恶意软件开发、调试、钓鱼和凭据盗取工作流的韩语账号。
OpenAI News精选AI 评分6262 OpenAI 封禁与 Nine-emdash Line 区域影响行动相关的账号
OpenAI 封禁了与其称为 Nine-emdash Line 的一个此前未公开的中国来源行动相关的账号。这些账号使用 AI 创建有关南海、香港和美国政治的区域影响内容。
推荐理由：材料说明了 OpenAI 对区域影响行动相关账号的处置，可作为观察 AI 滥用治理的具体案例。
OpenAI NewsAI 评分5050 OpenAI 封禁涉俄罗斯源头“Stop News”影响力行动账号
OpenAI 封禁了与俄罗斯源头“Stop News”行动相关的账号，这些账号使用 AI 生成重复违规的影响力内容，目标指向非洲和英国。
OpenAI NewsAI 评分4747 OpenAI 封禁利用 AI 支持网络诈骗的账号
OpenAI 封禁了与网络诈骗网络相关的账号，这些账号利用 AI 支持诈骗话术、冒充、翻译和受害者互动。
OpenAI NewsAI 评分2525 OpenAI 如何平衡青少年 AI 使用中的安全、自由与隐私
OpenAI 阐述其在青少年使用 AI 时平衡安全、自由与隐私的思路。内容聚焦青少年安全保护、使用自主性与隐私之间的取舍。
OpenAI NewsAI 评分3737 OpenAI 与 US CAISI、UK AISI 合作构建更安全的 AI 系统
OpenAI 披露了与 US CAISI、UK AISI 的合作进展，目标是加强 AI 安全与安全防护，构建更安全的 AI 系统。
OpenAI NewsAI 评分4242 OpenAI 集体对齐：公众对 Model Spec 的意见
OpenAI 调查了全球超过 1,000 人对 AI 应如何表现的看法，并与其 Model Spec 进行比较。OpenAI 表示，集体对齐正在影响 AI 默认行为，使其更好反映多元人类价值观和视角。
OpenAI NewsAI 评分4444 OpenAI 封禁涉嫌欺骗性就业计划的 IT 工作者相关账号
OpenAI 封禁了一批涉嫌参与欺骗性就业活动的账号，这些账号使用 AI 为可能欺诈的远程职位申请制作材料。
OpenAI NewsAI 评分4949 OpenAI 封禁使用 AI 生成菲律宾政治评论的账号
OpenAI 封禁了使用 AI 在多个社交平台生成菲律宾政治和公职人员相关评论的账号。
OpenAI NewsAI 评分4545 OpenAI 封禁“Wrong Number” AI 辅助任务诈骗账号
OpenAI 封禁了一批疑似来自柬埔寨的账号，这些账号使用 AI 支持面向英国用户的诈骗工作流。
OpenAI NewsAI 评分4848 OpenAI Operation “ScopeCreep”：封禁使用 AI 开发恶意软件的俄语账户
OpenAI 封禁了一批俄语账户，称其使用 AI 构建恶意软件、改进 loaders，并排查网络工具问题。
OpenAI NewsAI 评分4646 OpenAI 封禁 Operation “Helgoland Bite” 德语影响力活动相关账号
OpenAI 封禁了一批疑似来自俄罗斯的账号，这些账号使用 AI 生成有关乌克兰、NATO 和国内议题的德语政治内容。该活动被归为 Operation “Helgoland Bite” 德语影响力活动。
OpenAI NewsAI 评分4848 OpenAI 封禁 Operation “Sneer Review” 中国来源影响力活动账号
OpenAI 封禁了一批使用 AI 生成帖文的账号，这些内容批评一名台湾社交媒体影响者，并涉及相关美国议题。OpenAI 将该行动称为 Operation “Sneer Review”，归为中国来源影响力活动。
OpenAI NewsAI 评分4747 OpenAI 更新 Preparedness Framework，用于防范前沿 AI 严重危害
OpenAI 分享了更新后的 Preparedness Framework，用于衡量并防范前沿 AI 能力可能造成的严重危害。该框架聚焦风险评估与保护措施。
OpenAI NewsAI 评分2121 OpenAI：通往 AGI 之路上的安全
OpenAI 表示将在通往 AGI 的过程中主动调整安全策略，把全面的安全措施直接构建进基础设施和模型。
OpenAI NewsAI 评分4242 OpenAI 封禁利用 AI 翻译实施虚假评论兼职诈骗的账号
OpenAI 封禁了一批疑似来自 Cambodia 的账号，这些账号使用 AI 翻译消息，实施虚假评论兼职诈骗。诈骗要求受害者支付费用。
OpenAI NewsAI 评分4848 OpenAI 封禁利用 AI 生成影响力内容的伊朗关联账号
OpenAI 封禁了与伊朗有关的账号，这些账号使用 AI 生成与 IUVM 和 STORM-2035 影响力活动相关的文章和社交帖文。
OpenAI NewsAI 评分5050 OpenAI 封禁 Operation “Peer Review” 疑似中国来源账号：涉 AI 辅助监控规划
OpenAI 封禁了疑似中国来源账号，这些账号使用 AI 起草监控工具推介、分析文档并调试代码。该活动被描述为 AI 辅助的监控规划。
OpenAI NewsAI 评分4242 OpenAI 封禁涉嫌用于 AI 辅助招聘欺诈的账号
OpenAI 封禁了一批可能用于推动欺诈性就业计划的账号，其特征与公开报道的朝鲜相关 IT 工人活动相似。
OpenAI NewsAI 评分1616 OpenAI 推进人与 AI 结合的红队测试
OpenAI 推进将人类参与和 AI 结合用于红队测试，原文未提供具体模型、产品功能、评测数字或可用性细节。