近日一名美国女子公开指控其继父使用X平台开发的生成式AI工具Grok，将自己的童年日常照片转换为色情内容，该事件曝光后迅速引发科技圈对AI生成式内容伦理边界、儿童性剥削内容防控漏洞的广泛讨论，已有多家国际儿童权益组织公开呼吁生成式AI厂商强制上线全链路涉童内容主动筛查机制。
据了解，该女子是在协助家人整理继父遗留的电子设备时，意外发现这批经过AI修改的不雅内容。除了自己的童年生活照被篡改外，还有多名亲友家未成年子女发布在公开社交平台的日常照片，也被用于生成同类涉黄内容，目前当事人已经向当地警方提交报案材料，案件正在进一步调查中。
生成式AI工具的普及，大幅降低了非法内容的制作门槛。据国际儿童保护协会2026年中期报告显示，今年上半年全球监测到的AI生成儿童性剥削内容数量，较2023年同期上涨了237%，其中超过6成的非法内容是通过公开可访问的通用生成式AI工具制作的。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号