因马斯克旗下人工智能聊天机器人Grok生成涉及未成年人的性化图像，欧盟及多国监管机构正展开严肃调查。该机器人于去年推出的“火辣模式”可生成带有性暗示的内容，部分图像涉及儿童，被欧盟发言人指为“违法行为”。
据报道，X平台用户曾利用Grok对人物照片进行数字化“脱衣”，生成仅着内衣或比基尼的图像，受害者多为女性。此类内容在平台上扩散，引发印度、英国、法国等多国官员与网络安全机构强烈谴责。
马斯克近日回应称，X平台将对非法内容采取删除、封禁账号及配合调查等措施，并警告违规者将承担相应法律责任。与其他主流AI模型严格禁止生成涉性内容不同，Grok被定位为“更开放”的产品，允许生成成人局部裸露及性暗示图像，但明确禁止涉及未成年人及真人肖像的露骨内容。
目前，英国、法国、印度及马来西亚等国监管机构已要求X平台及xAI公司说明其安全措施，并启动相关调查。欧盟方面亦指出，此事可能违反《数字服务法案》，该法案要求大型平台防控非法内容传播。此前，X平台已因涉嫌违反该法案被处以1.2亿欧元罚款。
欧盟对美国科技企业的加强监管引发美方批评，称其做法可能影响“言论自由”。如何界定与执行AI生成内容的合规边界，已成为全球监管面临的重要挑战。
