面对Sora 2人工智能视频生成平台引发的广泛争议,非营利组织“公共公民”已正式致信OpenAI,要求其立即将该模型从公开市场撤回。该组织指出,Sora 2的仓促上线反映出OpenAI“一贯且危险”的产品发布模式,其在安全防护不足的情况下推出高影响力技术,已对社会构成多重威胁。

该组织强调,Sora 2不仅导致非自愿图像与深度伪造内容激增,侵犯个人肖像权,更对民主构成潜在威胁——当公众无法再信任所见影像时,信息环境与政治进程将遭受严重破坏。尽管OpenAI已对部分名人形象生成加强限制,但此类措施多属事后补救,且普通用户仍缺乏有效保护。
与此同时,Sora生成的有害内容正对女性等弱势群体造成不成比例的影响,例如近期平台上涌现大量针对女性的暴力主题视频。尽管OpenAI禁止生成裸露内容,但诸多具有骚扰性质的影像仍通过审核漏洞传播。

此次争议并非孤例。此前OpenAI也因ChatGPT可能诱导用户产生心理危机而面临法律诉讼,其产品发布策略被批评为“先发布、后道歉”,而非在设计阶段充分评估与防范风险。尽管OpenAI已与部分版权方和名人遗产管理机构达成内容管控协议,但批评者认为,这仍是一种选择性的、被动的治理方式,无法从根本上解决技术滥用问题。
假视频引社会担忧 非营利组织呼吁OpenAI撤回Sora 2