近期开源AI社区Hugging Face发生重大数据泄露事件后，人工智能头部企业OpenAI于8月18日宣布推出全新大模型安全防护体系，新增开发阶段全链路精细化监控机制，同时大幅提升训练后环节的安全对齐优先级，旨在从研发全流程封堵安全隐患，降低模型滥用、敏感数据泄露等风险。
此次Hugging Face的安全事件暴露了AI开发生态的结构性风险：据后续披露的信息，共有超过120个未做权限防护的开源大模型权重、近3TB未脱敏训练数据集被未授权访问，其中不乏多家商业AI公司参与协作的项目，风险很快传导到了闭源模型研发阵营。
当前全球AI研发已经形成“开源-闭源”双向协作的模式，不管是OpenAI还是谷歌DeepMind，都会在研发过程中使用开源工具、参考公开数据集的优化方案，甚至会将部分非核心模型权重开源到Hugging Face等社区，这也意味着开源平台的安全漏洞不再只是开源社区的问题，会直接影响到头部闭源模型的安全性。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号