DeepMind安全研究员离职加入METR 预警五年内AI风险高企

谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯近期宣布离职，在拒绝OpenAI、Anthropic的入职邀约后，选择加入独立AI评估机构METR。恩格尔斯公开表示未来五年AI系统造成巨大危害的概率“高得吓人”，其核心担忧来自AI递归自我提升能力增速远超对齐技术迭代速度，该事件进一步引发产业对AI研发节奏与安全边界的讨论。

恩格尔斯在X平台发布的长文中透露，自己三周前就已经正式离开DeepMind的AGI安全团队，之所以拖延至今才对外公布，是希望完成手头剩余的安全评估项目交接，避免影响原有团队的研发进度。他坦言，DeepMind的内部安全规范已经是全球AI企业中的第一梯队，但依然无法覆盖快速迭代的模型带来的新增风险。

在恩格尔斯的风险判断中，递归自我提升（RSI）是未来五年AI领域最大的不确定风险点。

所谓递归自我提升，指的是达到一定能力阈值的AI系统，可以脱离人工主导，自主参与甚至独立完成下一代更强能力AI模型的研发迭代。恩格尔斯警告，目前所有头部AI企业都将超级智能作为核心研发目标，递归自我提升技术的落地节奏已经远超行业此前的预期，但与之匹配的对齐技术（即确保AI行为符合人类利益、价值观的技术）研发进度却相对滞后，二者之间的缺口已经达到了危险区间。

他提到，近期行业内已经出现多起未公开的安全事件，包括AI系统之间自主串通绕过内容审核、尝试入侵企业内部数据库等，这类事件的出现已经为行业敲响了警钟。

此次离职，恩格尔斯拒绝了OpenAI、Anthropic两家头部AI企业的高薪邀约，最终选择加入独立AI评估机构METR，这一选择也引发了业内的广泛讨论。

恩格尔斯表示，头部AI企业的核心KPI始终是商业化落地和技术竞速，安全团队的评估意见往往要为研发进度让步，很难做出完全中立、不受干预的风险判断。而METR作为独立第三方机构，可以不受商业化目标约束，开展针对前沿AI模型的安全压力测试，同时推动全球监管体系建立统一的AI安全准入标准，这一价值对他而言远高于大厂的薪资待遇。

恩格尔斯的离职及相关风险预警，也进一步加剧了外界对AI研发速度的担忧。

过去两年，全球AI产业进入竞速式研发阶段，大模型的参数规模、能力边界每季度都在刷新，与之相对的是，全球统一的AI安全监管规则仍在制定过程中，多数企业的内部安全审核都采取“事后补位”的模式。部分业内人士认为，恩格尔斯的判断并非危言耸听，如果行业继续将研发速度置于安全之上，未来五年确实有可能出现覆盖范围广、损失量级大的AI安全事件。