2026年5月，英国、美国、澳大利亚相继推出大模型监管新政，要求前沿大模型公开发布前必须通过政府主导的安全漏洞与风险边界测试，其中英国AI安全研究院（AISI）提出的红队测试与风险评估流程已成为全球政策参考样板，标志着全球AI监管正式从原则性宣言转向实质性落地。
日前英国政府宣布与澳大利亚AI安全研究院达成专项合作，双方将共同跟踪前沿大模型在网络攻防领域的潜在风险，共享测试数据与评估结论，这也是发布前安全评估机制首次在国家层面实现跨境协同。
此前全球AI监管大多停留在原则倡导层面，主要依赖企业自愿签署安全承诺，监管方无法介入大模型研发的核心环节，难以排查潜藏的安全风险。而新推行的发布前评估机制，相当于为大模型设置了上线前的“强制安检”，政府监管端口直接前移到产品发布之前，彻底扭转了此前被动监管的局面。
在多国落地的监管方案中，英国AI安全研究院（AISI）打造的红队测试与风险边界评估流程，是当前被参考最多的政策模板。这套流程通过模拟各类极端攻击场景，测试大模型可能出现的内容生成风险、能力溢出风险，覆盖网络攻击、生物安全、虚假信息生成等多个高风险领域。目前美欧等多个经济体都在对接这套评估标准的核心框架，降低后续跨境协同的规则门槛。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号