全球头部AI企业OpenAI近期因ChatGPT的合规问题遭到监管部门正式调查，本次调查重点聚焦ChatGPT的个人信息收集使用规范性、有害内容拦截有效性、幻觉问题提示充分性三大核心方向。此前OpenAI已多次在欧盟、美国等地收到监管警示，本次调查结果或将对全球生成式AI的监管框架制定产生直接影响。
据了解，本次调查由美国联邦贸易委员会（FTC）启动，导火索是2024年以来累计超过2000起针对ChatGPT的用户投诉，内容涵盖未成年人接触有害生成内容、个人信息被擅自用于模型训练、生成虚假内容造成用户财产损失等多个类别。
FTC已经向OpenAI发送了长达22页的问询函，要求其在30天内提交ChatGPT的训练数据来源、内容审核机制的具体规则、幻觉问题的风险提示措施等内部材料，同时还要求OpenAI说明其在宣传ChatGPT的生产力功能时，是否刻意隐瞒了其可能生成错误内容的风险。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号