据8月17日公开报道，AI头部企业OpenAI于上月底正式解散负责评估前沿模型生化、网络攻击等高风险的防范团队，相关职能按领域拆分并入现有业务线。这是该公司继解散AGI准备团队、超级对齐团队后的又一次架构调整，多名核心安全岗成员已相继离职，前超级对齐团队负责人Jan Leike公开指出公司正为产品推进系统性忽视安全投入。
本次被解散的防范团队（Prevention Team）此前是OpenAI安全体系中直接对接前沿模型风险评估的核心部门，核心职责是在新模型发布前，对其可能被滥用生成生化武器制备方案、恶意网络攻击代码等极端风险进行全流程测试，并制定对应的防范、拦截规则。
这已经是OpenAI近两年来第三次解散核心安全相关团队。此前该公司已经先后裁撤AGI准备团队与超级对齐团队，两个团队分别负责通用人工智能落地前的合规路径规划、超智能模型的人类对齐技术研发。今年2月从Anthropic加入OpenAI的准备团队负责人Dylan Scandinaro，后续将不再统筹全公司的风险防范工作，转而聚焦业务线的具体落地安全规则适配。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号