Anthropic反对开源权重AI禁令 呼吁分级监管及芯片针对性管控

AI大模型企业Anthropic近期就开源权重AI监管争议正式公开发声，此前公司因缺席20多家科技企业联合发布的反对开源AI限制的行业联名信引发外界批评。CEO达里奥·阿莫迪明确反对全面禁止开源权重AI的监管提案，提出分级监管思路，同时呼吁强化高端AI芯片的针对性出口管制措施。

近两个月来，美欧监管层围绕开源大模型的权重开放问题展开了密集讨论，多个议员提案提出要对参数超过1000亿的开源AI模型实施发布前审批，引发科技行业集体反弹。今年7月，包括Meta、Mistral、Hugging Face在内的24家科技企业联合发布联名信，明确反对任何针对开源AI的歧视性监管政策，但当时以Claude系列大模型闻名的Anthropic并未参与署名，随即引发外界对其监管立场的诸多猜测。

针对外界的猜测，Anthropic CEO达里奥·阿莫迪近期在公开活动中首次完整阐述了公司的监管立场。他明确表示，Anthropic绝不支持对所有开源权重AI实施全面禁令的方案，在他看来，这种“一刀切”的监管思路一方面会大幅抬高中小开发者、科研机构的AI技术准入门槛，扼杀大量低风险的创新应用，另一方面也无法真正防范高风险AI的滥用——真正可能造成重大安全威胁的，是能力远超当前GPT-4级别的前沿大模型，这类模型目前几乎都由头部企业闭源开发。

阿莫迪提出的核心思路是分级监管：对于能力相当于或低于GPT-3.5、GPT-4级别的AI模型，无论是否开源，都可适用相对宽松的监管规则，仅要求企业做好风险报备即可；对于能力明显超出当前最先进水平的“超前沿”AI系统，无论开源自用还是闭源商用，都必须在发布前通过独立第三方的多轮安全测试，确认不存在生成大规模杀伤性武器指令、自动化网络攻击工具等高风险能力后，才能对外提供服务。