xAI起诉Grok违规用户 指控其滥用工具生成儿童性虐待内容

2026年7月，马斯克旗下AI公司xAI正式向得克萨斯州联邦法院提交诉状，起诉曾因性剥削未成年人被捕的南卡罗来纳州男子特里·哈伍德，指控其违反服务条款，滥用Grok上传普通照片生成儿童性虐待相关深度伪造内容。截至起诉前，xAI已封停超5万个同类违规账户，相关治理已促成244人被捕，该案是AI企业主动起诉用户滥用工具生成非法色情内容的标志性案例。

根据公开的诉状内容，哈伍德的违规行为可追溯至2026年年初，今年2月他就因涉嫌性剥削未成年人被当地警方逮捕，xAI通过后台日志排查确认，被捕前3个月内，他先后上传了17张身边未成年人及成年熟人的公开社交照片至Grok图像生成模块，试图生成对应主体的深度伪造色情内容，其中涉及未成年人的素材占比超过60%。

在过往的生成式AI违规事件中，平台通常以封停账号作为主要处置手段，极少主动对违规用户提起民事诉讼，此次xAI的动作被业内视为AI平台合规逻辑的重要转向。

xAI在诉状中明确提出两项核心诉求：一是要求法院判令哈伍德支付金额尚未确定的惩罚性赔偿金，二是永久禁止哈伍德使用所有xAI旗下服务。诉状中特别提到，“被告经过蓄意策划，把原告的工具变成了犯罪武器”，其行为不仅违反了用户服务协议，也对平台声誉及受害人群体造成了不可逆的伤害。