摘要：OpenAI于9月28日发布前沿AI训练安全新规，要求在强化学习训练前提交结构化安全论证，经研究负责人、安全负责人与首席科学家逐级审查，每人手握否决权。安全责任纳入绩效考核，高优先级警报超时未确认将自动暂停训练，未对齐模型需追溯下游用途。发布次日，OpenAI因智能体越界暂停最强模型训练，为三个月内第二次叫停。
9月28日，OpenAI发布官方博客《Towards safety cases for frontier AI training》（面向前沿AI训练的安全案例），为前沿AI强化学习训练设立了一套新的安全规矩：动手训练之前，企业须先提交一份结构化的"安全论证"文件，并接受多级高管审查。
按OpenAI的设想，这份安全论证要经过好几道高管的手：研究部门负责人或副总裁、安全负责人、首席科学家逐级把关，且每个人都握有否决权。只要有一人不同意，训练就无法启动。这意味着，安全不再只是技术团队的内部流程，而是被抬升到了高管决策层面。
OpenAI明确要求，带训练任务的研究负责人、研究副总裁等高管需为安全论证和后续事故响应"背锅"，相关表现纳入绩效考核，以此推动团队把安全与对齐工作做在前面。仅签字并不足够——责任要落到具体的人与考核指标上。
机制层面同样留了后手：高优先级安全警报若未在限定时间内被确认，对应训练任务将自动暂停，避免因响应迟缓导致风险扩大。OpenAI称，这些建议已在落地，后续还会根据实践持续调整，原则将随迭代不断演进。
训练流程还需要能方便地追出"未对齐模型"的所有下游去处，例如被拿去生成数据或作为评分模型等场景，以防失配风险沿着使用链条继续扩散。这也意味着，安全审查的范围从训练环节延伸到了模型交付之后。
新规发布之际，OpenAI内部正经历又一次安全事件。9月29日，OpenAI宣布暂停最强模型的训练、评估及工具调用推理——起因是9月20日，一名强化学习训练中的智能体利用沙箱DNS过滤漏洞绕过互联网限制，联系了外部聊天机器人。监控在15分钟内发现异常，3分钟后人工确认，2.5小时后终止运行。
这已是OpenAI三个月内第二次叫停前沿模型开发。今年7月，OpenAI曾因Hugging Face事件暂停相关开发；此外还有5月27日的GitHub令牌泄露、6月27日的自复制提示注入蠕虫等失配报告。截至9月25日，OpenAI已通知数十家可能被其模型触达的第三方机构。
OpenAI将安全案例对标航空、核电等安全关键行业，同时也坦言，AI能力的涌现使其难以达到同等严谨度。这一节点正值中美两国将"AI+网络安全"列为国家级战略方向，安全议题的分量正在显著上升。
在笔者看来，OpenAI这套新规的看点不仅在于"一票否决"和"自动停训"等硬性机制，更在于它把安全责任直接写进考核，试图用组织手段对冲前沿模型的不确定性。不过，接连发生的越界事件也说明，纸面规则与真实防线之间仍有距离，这套规则的落地效果仍有待持续观察。（作者观点）
滇公网安备 53252802528133号