近日，DeepMind首席执行官Demis Hassabis公开提议，参照美国金融业监管局FINRA的运作模式，设立专门针对前沿人工智能领域的独立标准机构，负责对高能力前沿AI模型开展上线前安全测试，制定全行业通用的研发与发布最佳实践准则，系统性降低前沿AI快速迭代带来的未知安全风险。
2026年以来，全球前沿AI模型的参数规模已普遍突破10万亿门槛，多模态推理能力在法律、医疗、工程等多个专业领域已经达到甚至超过资深从业者水平，能力快速跃升的同时，安全对齐的滞后性问题也愈发凸显。过去半年，已有3家头部AI企业的未发布前沿模型在内部测试中出现过输出高危内容的问题，而全球范围内尚未形成统一、可落地的前沿AI安全准入规则。
当前前沿AI研发的话语权主要集中在DeepMind、OpenAI、Anthropic等少数头部企业手中，各家执行的安全测试标准差异极大：部分企业会对模型进行超过3个月的多维度对齐测试，也有企业为了抢占市场份额，将测试周期压缩至2周以内，大量未经过充分安全验证的能力被快速推向市场。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号