AI非伦理图像生成乱象蔓延 4chan地下黑产规模持续膨胀

近期网络安全研究团队披露，海外匿名社区4chan内依托AI生成技术开展非伦理图像定制的从业者（圈内被称为“AI巫师”），近半年数量上涨370%。这类从业者依托基于开源Stable Diffusion微调的专属模型，仅需数分钟就能将普通日常照片转换为高度逼真的非授权裸照，单张定制报价从5美元到上百美元不等，现有主流平台的AI内容反滥用机制几乎完全失效。

很多混迹4chan的普通用户甚至没有主动搜索相关内容，就会刷到用暗语发布的定制服务引流帖，从业者不会留下常规社交账号联系方式，全部引导用户通过加密货币完成付款，不少受害者直到收到恶意传播的AI生成照片，才意识到自己发在社交平台的公开自拍早已被人批量爬取用于定制服务。

在AI图像生成技术普及之前，这类定制非伦理图像的服务属于小众地下产业，从业者需要有至少3年以上的专业PS修图经验，单张作品耗时数小时，报价普遍超过100美元，受众范围极小。

而随着开源图像生成生态的快速迭代，如今从业者只需要花费不到30美元就能在匿名交易平台买到预训练完成的恶意微调模型，不需要任何专业技术能力，上传照片后几秒钟就能生成逼真度极高的内容，技术门槛几乎完全消失。第三方监测数据显示，2024年第二季度4chan相关板块的非伦理图像定制订单总量已经突破27万单，同比2023年上涨超400%，产业下游甚至已经发展出了多层级的代理分销体系。

目前绝大多数主流商用大模型都设置了完善的安全对齐护栏，从提示词层面对非伦理生成需求做拦截，但恶意从业者使用的衍生微调模型完全脱离了厂商的管控范围。