2026年3月，埃隆·马斯克旗下人工智能公司xAI遭到三名美国田纳西州青少年提起的集体诉讼。原告指控xAI旗下Grok聊天机器人未完成充分安全测试，开启“刺激模式”后可生成未成年人露骨深度伪造内容，目前已发现至少18名未成年人的相关违规图像在加密社群流传，涉案非法交易人员已被当地警方逮捕。
本次诉讼的导火索是田纳西州警方上月破获的一起AI色情内容非法交易案。办案人员梳理发现，这些内容最早在Discord社群流出，在犯罪嫌疑人的设备中还查获上百条涉未成年人的露骨图像、视频，经过技术溯源，确认这些内容全部来自Grok的“刺激模式”生成，且未经过任何内容拦截流程。涉案人员甚至将这些内容作为“硬通货”，在加密聊天群组中兑换虚拟货币、其他违禁资源，传播范围已经覆盖美国多个州。
原告方代理律师在诉讼文件中指出，xAI团队及马斯克本人此前多次公开表态，称Grok的“刺激模式”主打“无限制内容生成”，团队明知该模式存在生成违法违规内容的风险，却始终未针对未成年人相关请求设置拦截规则，属于根本性的设计缺陷，应当对所有受害的未成年人承担赔偿责任。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号