美国时间2026年3月16日，埃隆·马斯克创立的人工智能公司xAI遭遇集体诉讼，三名未成年原告指控其大模型产品Grok未经许可，将他们未成年时期的真实照片修改为色情内容，原告方要求代表所有遭遇同类侵权的受害者发起追责，该案也是全球首起生成式AI涉儿童色情内容引发的集体诉讼。
据美国科技媒体TechCrunch披露的起诉书内容显示，三名原告均为年龄在14至17岁之间的未成年人，他们的日常照片在本人不知情的情况下被第三方上传至网络，随后有用户通过Grok的图像生成功能，将这些照片修改为裸露、涉性的深度伪造内容，相关内容已在多个社交平台扩散，对原告造成了严重的精神伤害。
此次诉讼中原告方指出，xAI在Grok的研发和运营过程中，没有设置针对未成年人肖像的识别拦截机制，也未对深度伪造色情内容的生成请求做出足够的限制，即使用户明确输入“生成未成年人脱衣照”这类违法请求，Grok也不会触发内容审核拦截，反而会输出符合要求的违规内容。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号