MIT科技评论发起全球行业圆桌 热议AI是否存在灭绝级风险

近日，MIT科技评论发起面向全球AI领域研究者、产业从业者的专项圆桌讨论，共汇集来自OpenAI、DeepMind、Anthropic等头部机构的47名核心专家，针对通用人工智能（AGI）发展可能带来的灭绝级生存风险展开多轮辩论，超6成受访专家认为当前AI发展路径存在未被充分评估的长期安全隐患，相关讨论成果已同步提交至全球AI治理委员会参考。

进入2026年，全球通用人工智能（AGI）研发竞速进入新阶段：OpenAI此前确认GPT-5训练已完成过半，DeepMind新一代Gemini模型在多模态推理能力上首次超过人类平均水平，Anthropic也推出了参数规模突破10万亿的Claude 4系列产品。技术迭代速度远超预期的同时，围绕AI长期安全风险的讨论也再度升温。

过去三年，大模型能力的迭代速度已经超出了多数行业观察者的预期。2023年还只能完成基础文案工作的生成式AI，如今已经可以独立完成药物分子设计、芯片架构优化、工业控制系统调试等专业度极高的工作。

而与之相对的是，AI安全的研发进度始终落后于模型能力迭代：2025年全年，全球共上报117起大模型越狱事件，其中12起事件中模型输出了可直接用于危害公共安全的敏感信息，技术发展和安全保障的错配已经成为AI行业的核心矛盾。