2026年7月流出的行业内部消息显示，Meta此前开展代号为“Cannes”的竞品AI测试项目，通过外包公司Covalen雇佣数百名工作人员，伪装成18岁以下未成年人，对ChatGPT、Gemini、Character.AI等主流聊天机器人开展极限压力测试，内容包含自杀、自残等高风险敏感话题，项目至少持续至2026年4月，该测试方式已引发行业对AI安全测试伦理的广泛讨论。据流出的Meta内部项目文档及多位知情人士表述，整个Cannes项目的测试流程经过了极为精细的设计：外包人员需要使用随用随弃的临时邮箱、统一设置的密码注册标注为18岁以下的用户账号，在与竞品AI的对话过程中，除了高频发送涉及自杀、自残、进食障碍等心理敏感类提示词外，还会主动上传刀具、药片、绞索等相关图片，最大限度触发AI模型的反馈机制，以此精准探测竞品安全防御系统的阈值漏洞。当前全球消费级AI聊天机器人市场已经进入存量竞争阶段，面向未成年人的内容防护能力，不仅是各国监管的硬性要求，也成为用户选择产品的核心参考指标。欧盟AI法案、美国《儿童在线隐私保护法》更新案均明确要求，AI产品针对未成年人输出的内容必须经过多轮审核，...
滇公网安备 53252802528133号