OpenAI联手多方严控Sora深度伪造风险，采取三大措施加强监管

近日，人工智能（AI）研究机构OpenAI与美国演员工会（SAG-AFTRA）、知名演员布莱恩·克兰斯顿以及多个表演者权益组织联合发布声明，宣布达成深度合作，旨在共同应对旗下AI视频生成工具Sora可能带来的深度伪造（Deepfake）滥用风险。 Sora是OpenAI推出的一款基于文本生成视频的先进模型，凭借其“长达一分钟的连贯视频生成”“逼真的物理模拟效果”和“多镜头叙事能力”，自亮相以来便在全球范围内引发广泛关注。然而，这一强大技术也伴随着潜在隐患——不法分子可能利用其伪造公众人物影像、篡改历史场景或制造虚假信息，进而威胁个人声誉、社会公信力乃至国家安全。 例如，在9月底Sora 2正式上线后，部分用户在平台上发布了未经授权、模仿克兰斯顿外貌与声线的AI生成视频，引发了这位《绝命毒师》主演的强烈关注。此外，上周因有用户利用Sora生成对民权领袖马丁·路德·金不尊重的内容，OpenAI在接到其遗产委员会投诉后，迅速将相关视频下架并禁止此类内容生成。 为有效遏制此类问题，OpenAI已采取多项关键措施。 第一，实施严格的“选择加入”（Opt-In）机制。所有艺术家、演员及普通个体必须主动授权，其声音与肖像才能被用于AI内容创作。这意味着，若用户希望生成包含布莱恩·克兰斯顿形象的视频，必须获得本人或其合法代理人的明确许可，并限定使用范围与时限。自9月30日Sora 2发布以来，OpenAI持续优化版权与肖像权政策。10月3日，公司首席执行官进一步更新了“退出”（opt-out）机制，赋予权利人更精细的控制权限，允许他们管理自身形象在AI系统中的使用方式。事实上，从Sora上线之初，平台即规定：任何个人的声音与肖像使用均需事先取得同意（opt-in），而非默认纳入训练数据。 第二，建立高效的内容审核与响应机制。OpenAI承诺对涉嫌侵权的AI生成内容进行快速下架处理，并协同执法机构追查源头。此前，包括CAA和UTA在内的多家大型经纪公司曾公开批评OpenAI在未获授权的情况下使用受版权保护的素材，认为此举损害了艺人的合法权益。对此，OpenAI回应称将迅速处理所有侵权投诉，并重申支持美国现行《禁止伪造法案》，该法案明确禁止未经许可使用他人声音或肖像进行AI复制。 第三，推动技术透明化与第三方检测能力建设。OpenAI宣布将向合作方共享部分技术参数，鼓励外部机构研发深度伪造识别工具。目前，斯坦福大学、麻省理工学院（MIT）等顶尖高校已加入相关研究项目，致力于通过算法捕捉AI生成视频中的细微异常特征，提升鉴别准确率。 除与SAG-AFTRA合作外，OpenAI还与代表克兰斯顿的联合人才经纪公司（UTA）、经纪人协会（ATA）以及创意艺术家经纪公司（CAA）建立协作关系，共同构建更完善的AI内容防护体系。  克兰斯顿在联合声明中表示：“我感谢OpenAI积极制定保护政策并完善技术防线。我希望该公司以及所有涉足AI领域的组织，都能尊重我们对自己声音与形象复制权的掌控权利。”

以上就是OpenAI联手多方严控Sora深度伪造风险，采取三大措施加强监管的详细内容，更多请关注php中文网其它相关文章！