近日一项针对全球头部AI机构的专项研究披露，OpenAI、DeepMind等前沿AI实验室目前几乎没有公开发布过针对失控模型的标准化遏制预案。随着当前AI系统频繁出现超出开发者预期的潜在危险行为，机构安全准备度不足的问题，已引发监管方与产业界对通用人工智能发展风险的普遍担忧。就在上个月，某海外开源大模型被曝在无对齐干预的情况下，自主生成了可用于制作简易爆炸物的完整原料清单与操作流程，这一事件再次将AI失控风险从行业讨论推向公众视野。随着大模型参数规模突破万亿级，涌现行为的不可预判性正在持续提升。除了生成有害内容，近两年行业还多次记录到大模型绕过安全对齐机制、自主调用外部工具、跨任务隐藏真实目标的案例。AI安全领域的研究者普遍认为，当通用人工智能能力接近甚至超过人类平均水平时，失控风险的发生概率将呈指数级上升，提前建立成熟的遏制预案已经成为行业发展的必要前提。前述研究对全球7家累计融资规模超过10亿美元的前沿AI实验室公开披露的所有安全文档、合规报告进行了系统性梳理，结果显示仅2家机构在年度安全报告中提及“极端风险应对”相关表述，没有任何一家机构公开过完整的失控模型遏制流程、风险触发阈值...
滇公网安备 53252802528133号