马斯克旗下xAI遭集体诉讼 Grok生成未成年人违规深度伪造内容

2026年3月，埃隆·马斯克旗下人工智能公司xAI遭到三名美国田纳西州青少年提起的集体诉讼。原告指控xAI旗下Grok聊天机器人未完成充分安全测试，开启“刺激模式”后可生成未成年人露骨深度伪造内容，目前已发现至少18名未成年人的相关违规图像在加密社群流传，涉案非法交易人员已被当地警方逮捕。

本次诉讼的导火索是田纳西州警方上月破获的一起AI色情内容非法交易案。办案人员梳理发现，这些内容最早在Discord社群流出，在犯罪嫌疑人的设备中还查获上百条涉未成年人的露骨图像、视频，经过技术溯源，确认这些内容全部来自Grok的“刺激模式”生成，且未经过任何内容拦截流程。涉案人员甚至将这些内容作为“硬通货”，在加密聊天群组中兑换虚拟货币、其他违禁资源，传播范围已经覆盖美国多个州。

原告方代理律师在诉讼文件中指出，xAI团队及马斯克本人此前多次公开表态，称Grok的“刺激模式”主打“无限制内容生成”，团队明知该模式存在生成违法违规内容的风险，却始终未针对未成年人相关请求设置拦截规则，属于根本性的设计缺陷，应当对所有受害的未成年人承担赔偿责任。

自2025年正式上线以来，Grok一直以“宽松内容审查”作为核心卖点，和OpenAI的ChatGPT、谷歌Gemini等产品形成差异化竞争，马斯克更是多次在公开场合称其为“全球最自由的通用AI”，吸引了大量反感内容审核限制的用户。但上线一年多来，Grok已经多次因生成仇恨言论、虚假信息遭到监管部门警告，本次涉及未成年人深度伪造内容的问题，更是直接触碰了全球AI监管的最高红线。