OpenAI承诺多举措加强Sora监管 严控深度伪造风险 !

近日，OpenAI与美国演员工会（SAG-AFTRA）等机构联合发布声明，宣布建立深度协作机制，重点防范其AI视频生成工具Sora可能带来的深度伪造滥用风险。  Sora是OpenAI推出的文本生成视频模型，自亮相以来便引发全球广泛关注。该模型具备“生成长达一分钟的高质量视频”“模拟真实物理规律”以及“实现多镜头连贯叙事”等多项先进能力。然而，这一强大的生成技术也潜藏巨大风险——不法分子可能利用其伪造名人影像、篡改历史画面或制造虚假新闻，严重威胁个人名誉、社会公信力乃至国家安全。 此前，在9月底Sora 2上线后，部分用户在平台上生成了未经授权、模仿演员布莱恩·克兰斯顿声音与外貌的AI视频，引发本人公开表达担忧。更有甚者，曾有用户利用Sora生成对民权领袖马丁·路德·金不敬的内容。对此，OpenAI应马丁·路德·金遗产委员会要求，已将相关视频从平台下架并封禁。 为应对此类问题，OpenAI承诺将在后续版本中推行严格的“选择加入”（Opt-In）机制。这意味着所有艺术家、表演者及普通个体必须明确授权，其声音和肖像才可用于AI内容生成。例如，若需生成布莱恩·克兰斯顿的虚拟形象，必须获得他本人或其合法代理人的许可，并明确规定使用场景与时限。 同时，OpenAI还将设立快速响应通道，针对涉嫌侵权的内容进行及时删除，并配合执法机构追溯生成源头。  除内部管控外，OpenAI还宣布将向合作方开放部分技术接口，鼓励第三方开发深度伪造检测工具。目前，斯坦福大学、麻省理工学院（MIT）等顶尖高校已参与研究项目，致力于通过算法识别AI生成视频中的细微异常特征。 自9月30日Sora 2发布以来，OpenAI持续优化其版权与肖像权政策。10月3日，公司首席执行官更新了Sora的“退出（opt-out）”规则，赋予权利人更精细的角色控制权限。 早在Sora发布初期，平台即规定：使用个人声音或肖像须事先取得授权（opt-in）。此后，OpenAI进一步承诺将迅速处理任何相关投诉。公司同时重申支持美国《禁止伪造法案》（NO FAKES Act），该法案旨在立法禁止未经授权使用AI复制他人声音或形象的行为。 此外，OpenAI宣布与代表布莱恩·克兰斯顿的联合人才经纪公司（UTA）、经纪人协会（ATA），以及创意艺术家经纪公司（CAA）达成合作，共同构建更完善的防护体系，防止未经授权的AI内容传播。  值得一提的是，CAA与UTA此前曾公开批评OpenAI在训练Sora过程中使用受版权保护素材的做法，指出此举对其客户及其知识产权构成潜在威胁。此次合作被视为双方从对立走向协同的重要一步。

以上就是OpenAI承诺多举措加强Sora监管 严控深度伪造风险 !的详细内容，更多请关注php中文网其它相关文章！