2026年6月，英国工党议员杰丝·阿萨托正式向英国高等法院提起诉讼，控告埃隆·马斯克旗下人工智能公司xAI。阿萨托指控xAI旗下Grok AI平台刻意放任色情深度伪造内容生成，其本人已遭遇针对自身的相关伪造内容传播，此类问题已累计侵害数千名女性及未成年人权益。此前xAI曾于2026年1月宣布限制相关生成功能但漏洞未修复，美国巴尔的摩市此前也已因同类问题起诉xAI。
此次诉讼的直接导火索，是阿萨托此前公开批评Grok AI存在内容审核漏洞后，各大海外社交平台短时间内涌现出大量针对她的AI伪造色情内容：除了拼接合成的比基尼假照片，甚至出现了虚构其遭受人身侵害的AI生成视频，相关内容72小时内传播量就突破了200万次，对其个人声誉造成了不可逆的损害。
早在2026年1月中旬，xAI就曾公开宣布已对Grok的图片编辑功能升级限制，在所有适用地区禁止生成暴露服饰、涉及低俗暗示的图像内容。但仅仅一个月后的媒体核查就显示，该限制几乎没有实际约束力：用户只需将“裸露”“色情”等触发审核的关键词替换为“泳池造型”“轻薄穿搭”等模糊表述，就能轻松绕过防线生成违规内容，针对特定公众人物的肖像生成更是没有任何身份核验机制。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号