ChatGPT合规风险发酵 OpenAI因用户权益问题遭监管调查

全球头部AI企业OpenAI近期因ChatGPT的合规问题遭到监管部门正式调查，本次调查重点聚焦ChatGPT的个人信息收集使用规范性、有害内容拦截有效性、幻觉问题提示充分性三大核心方向。此前OpenAI已多次在欧盟、美国等地收到监管警示，本次调查结果或将对全球生成式AI的监管框架制定产生直接影响。

据了解，本次调查由美国联邦贸易委员会（FTC）启动，导火索是2024年以来累计超过2000起针对ChatGPT的用户投诉，内容涵盖未成年人接触有害生成内容、个人信息被擅自用于模型训练、生成虚假内容造成用户财产损失等多个类别。

FTC已经向OpenAI发送了长达22页的问询函，要求其在30天内提交ChatGPT的训练数据来源、内容审核机制的具体规则、幻觉问题的风险提示措施等内部材料，同时还要求OpenAI说明其在宣传ChatGPT的生产力功能时，是否刻意隐瞒了其可能生成错误内容的风险。

**有业内人士透露，若OpenAI无法提交符合要求的证明材料，最快可能在6个月内收到监管罚单，罚款金额最高可达其全球年营收的10%**，同时还可能被要求限制ChatGPT部分高风险功能的对外开放。截至目前，OpenAI方面已经对外表示会全力配合监管调查，同时会持续优化ChatGPT的安全防护机制。

实际上不止OpenAI，今年以来全球多个头部大模型产品都面临监管压力：Google Gemini因为生成歧视性内容被欧盟监管部门罚款2700万欧元，国内多款大模型产品也因为内容审核不到位收到过监管整改通知。随着欧盟AI法案正式生效、美国AI行政命令逐步落地，生成式AI的监管已经从原则性要求转向具体的落地执行，**合规能力已经成为大模型企业的核心竞争力之一**。