虚假AI视频大量传播，非营利机构呼吁OpenAI收回Sora2

11月12日消息，OpenAI旗下的Sora 2人工智能视频生成平台引发了争议，越来越多的倡导组织、学者和专家纷纷发出警示：该平台允许用户仅通过一段文本提示词就能生成任意AI视频，这已造成非自愿图像的泛滥，以及高度逼真的深度伪造（deepfake）内容的激增。

尽管OpenAI已针对涉及公众人物的AI生成内容加大管控力度，像禁止生成迈克尔・杰克逊、马丁・路德・金博士以及弗雷德・罗杰斯先生（即“罗杰斯先生”）做出离奇举动的视频，不过这类管控措施通常是在相关名人的遗产管理方和演员工会提出强烈抗议之后，才不得不推出的。

非营利组织“公共公民”（Public Citizen）于本周二向OpenAI及其首席执行官山姆・奥尔特曼（Sam Altman）发出信函，呼吁对方立刻将Sora 2从公开市场下架。信中提到，Sora 2为抢在竞争对手前发布而仓促上线，这体现了“OpenAI长期存在的危险行事风格：急于推出要么本身存在安全隐患、要么缺乏必要防护机制的产品”。信函还着重指出，Sora 2表现出对产品安全的“漠视态度”，同时侵犯了公众的肖像权，并对民主制度的稳定构成威胁。该组织也已将此信函抄送美国国会。

“我们最担心的是它对民主制度可能造成的潜在威胁。”致力于科技政策研究的“公共公民”组织倡导者J.B.布兰奇（J.B. Branch）在接受采访时指出，“我觉得我们正在进入这样一个时代——人们再也没办法真正相信自己看到的影像了。在政治圈里，一种策略已经开始浮现：那些最先被发布出来的图像或者视频，常常会成为公众最后记在心里的内容。”

作为上述信函的执笔人，布兰奇还指出，此类技术更广泛地侵蚀着个人隐私权，且对网络上的弱势群体造成尤为严重的不成比例影响。

尽管 OpenAI 已禁止生成裸露内容，但布兰奇指出，“女性正以其他形式遭受线上骚扰”。

据了解，一个多月前，OpenAI 在 iPhone 上推出了其新的 Sora 应用。上周，该应用在美国、加拿大以及包括日本和韩国在内的几个亚洲国家的安卓手机上上线。

目前为止，抵制声浪最为强烈的群体主要是好莱坞以及其他娱乐产业相关方，日本漫画（Manga）行业也在其中。Sora上线没几天，OpenAI就公布了首批重要调整，提到“过度审核（overmoderation）确实让用户非常沮丧”，不过同时也强调，在“全球社会还在适应这项新技术的阶段”，保持谨慎保守的态度是极其关键的。

之后，OpenAI在10月16日对外宣布和马丁・路德・金博士家族达成了相关协议，协议中明确禁止生成对这位民权领袖形象的“不敬描绘”，与此同时还在加快完善技术防护方面的措施；到了10月20日，OpenAI又与《绝命毒师》的主演布莱恩・克兰斯顿（Bryan Cranston）、美国演员工会—美国电视与广播艺术家联合会（SAG-AFTRA）以及多家经纪公司达成了类似的协议。

“要是你名气够大，那倒还好办。”布兰奇评价道，“可这恰好暴露了OpenAI一以贯之的做事风格：他们只乐意对极少数群体的强烈不满做出回应；总喜欢先推出产品，之后再道歉。但实际上，很多问题原本可以在产品发布之前，通过设计环节的谨慎考量来避免。”

布兰奇表示：“毫无顾忌地猛踩油门，完全不顾及可能引发的危害。这些后果里有不少其实是能够预见的。可他们偏偏选择推出产品，任人们下载、对其沉迷，也不肯去做该做的事——提前对这些产品开展压力测试，并且留意普通用户的难处。”

上周，OpenAI 针对日本动漫与游戏产业的抗议进行了回应。日本代表性行业协会曾致信 OpenAI，该协会成员涵盖宫崎骏创办的吉卜力工作室（Studio Ghibli），以及万代南梦宫（Bandai Namco）、史克威尔艾尼克斯（Square Enix）等知名游戏开发企业。OpenAI 在声明里提到：“不少动漫爱好者希望能和喜爱的角色互动”，不过公司也已建立防护机制，避免在未得到版权方许可时生成知名角色的形象。

“我们正与各大工作室及版权方直接沟通，认真听取反馈，并持续观察用户（包括高度重视文化与创意产业的日本市场）如何使用 Sora 2。”OpenAI 在针对该行业协会信函的声明中如是表示。