应马丁・路德・金遗产管理方要求，OpenAI于今日上午正式宣布，暂停用户通过其AI视频生成模型Sora创建已故民权领袖马丁・路德・金形象内容的功能。该公司表示，此举是对部分用户利用该技术生成不敬视频的回应。
OpenAI在其官方X账号发文强调：“尽管对历史人物的描绘涉及言论自由范畴，但公众人物及其家属应当拥有对其肖像的最终控制权。授权代表或遗产管理人有权要求Sora停止将其肖像用于‘客串’场景。”
Sora自推出以来，因其能够生成包括历史人物、朋友及授权用户在内的高度逼真视频，迅速引发社会对AI技术风险与伦理边界的热议。据TechCrunch报道，马丁・路德・金的女儿伯尼斯・金上周曾公开呼吁用户停止制作其父亲的AI视频，演员罗宾・威廉姆斯的女儿也发表过类似声明。
在实际应用中，部分用户曾生成马丁・路德・金发出猴子叫声、与马尔科姆・X摔跤等具有冒犯性的内容。平台上亦流传着对鲍勃・罗斯、惠特妮・休斯顿乃至约翰・F・肯尼迪等名人的不当演绎。
此外，Sora的推出也加剧了关于社交平台应如何监管涉及版权作品的AI内容的讨论。目前平台上已出现大量基于《海绵宝宝》《南方公园》《宝可梦》等知名IP生成的视频。
作为应对，OpenAI自Sora上线后持续加强内容管控，并于今年10月初表示将赋予版权方更精细的控制权限，由其自主决定涉及其作品的AI视频生成范围。
AI伦理案例：OpenAI暂停Sora生成马丁·路德·金形象
