中央网信办近日公布“清朗·整治AI应用乱象”专项行动第二阶段成果，重点治理AI换脸、魔改名著、虚假信息生成、侵害未成年人权益等违规场景，累计清理违法违规信息超561万条，查处违规账号4.9万余个，处置违规网站及APP2400余个。字节跳动豆包、百度文心一言、阿里云千问、字节跳动元宝等头部大模型均已完成审核策略升级，严格限制违规内容输出。
不少网友近期发现，此前输入关键词就能生成的AI换脸视频、魔改四大名著的衍生内容，现在在主流生成式AI平台已经无法生成，页面会弹出“涉及违规内容，无法为您提供服务”的提示——这正是本次AI乱象专项整治落地的直观体现。
本次专项整治覆盖了AI生成虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益四大核心违规场景，各地网信部门结合属地产业特点推出了差异化的治理方案。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号