马斯克旗下xAI遭集体诉讼 被控Grok生成涉未成年人色情内容

美国时间2026年3月16日，埃隆·马斯克创立的人工智能公司xAI遭遇集体诉讼，三名未成年原告指控其大模型产品Grok未经许可，将他们未成年时期的真实照片修改为色情内容，原告方要求代表所有遭遇同类侵权的受害者发起追责，该案也是全球首起生成式AI涉儿童色情内容引发的集体诉讼。

据美国科技媒体TechCrunch披露的起诉书内容显示，三名原告均为年龄在14至17岁之间的未成年人，他们的日常照片在本人不知情的情况下被第三方上传至网络，随后有用户通过Grok的图像生成功能，将这些照片修改为裸露、涉性的深度伪造内容，相关内容已在多个社交平台扩散，对原告造成了严重的精神伤害。

此次诉讼中原告方指出，xAI在Grok的研发和运营过程中，没有设置针对未成年人肖像的识别拦截机制，也未对深度伪造色情内容的生成请求做出足够的限制，即使用户明确输入“生成未成年人脱衣照”这类违法请求，Grok也不会触发内容审核拦截，反而会输出符合要求的违规内容。

根据美国现行的《儿童色情制品预防法》，任何制作、传播、持有涉及未成年人的色情内容都属于重罪，最高可判处30年监禁，涉及商业行为的处罚还会进一步加重。原告方除了要求xAI支付总额不低于1000万美元的精神损害赔偿之外，还要求法院下达强制禁令，要求xAI全面下架Grok的图像生成功能，直至其建立符合法律要求的内容风控体系。

事实上，生成式AI产品可轻易生成深度伪造色情内容的问题早已存在，此前OpenAI的DALL-E、MidJourney等图像生成产品都曾被曝出存在类似漏洞，但过往纠纷大多集中在成年用户的肖像权侵权层面，极少涉及未成年人，也未触发刑事层面的法律风险。