五角大楼期限将至,Anthropic CEO 坚决拒绝对军方开放AI系统

1 小时前 AI快讯 0

当地时间2月26日周四,AI初创公司Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)公开表态,称“无法凭良知应允”五角大楼提出的无限制访问其AI系统的要求。目前五角大楼设定的响应期限已进入倒计时,这一强硬立场或将重新定义AI厂商与国防部门的合作边界。

当五角大楼的合作截止日期进入最后倒计时,Anthropic的核心团队并未选择妥协。在周四的一场闭门行业峰会上,达里奥·阿莫代伊直接向在场的媒体和投资人公开了对军方诉求的最终回应——对于无限制开放AI系统的要求,他不会违背自己的伦理准则做出让步。

作为以“AI安全对齐”为核心发展理念的公司,Anthropic自成立之初就将避免AI滥用、坚守伦理底线作为品牌的核心支柱。其旗舰大语言模型Claude系列,正是基于严格的安全训练机制开发,旨在降低AI生成有害内容、被不当利用的风险。

阿莫代伊在声明中强调,五角大楼提出的“无限制访问”要求,意味着军方可以绕开Anthropic的安全管控直接操控AI系统,这不仅违背了公司对用户和公众的承诺,也可能引发AI被用于非人道军事应用的风险,因此他“无法凭良知接受”。

近年来,美国国防部门正加速推进AI技术在情报分析、决策辅助等领域的应用,因此频繁向OpenAI、Anthropic等头部AI厂商抛出合作橄榄枝。但这类合作始终伴随着伦理争议:一方面,国防订单意味着巨额营收和技术资源支持;另一方面,开放核心AI系统的控制权,可能让公司陷入“技术助纣为虐”的舆论漩涡。

此前OpenAI也曾因与军方的合作项目遭到内部员工抗议,最终不得不调整合作条款。Anthropic此次的强硬拒绝,无疑将这一行业困局推向了台前——当商业利益与伦理准则发生冲突时,AI厂商该如何平衡取舍?

随着五角大楼的期限日益临近,Anthropic的立场可能引发两种截然不同的结果:要么军方妥协,调整合作条款,加入AI安全管控的约束条件;要么双方合作彻底破裂,Anthropic失去一笔潜在的大额订单,同时收获全球AI伦理支持者的认可。

无论最终结果如何,这场对峙都将成为AI行业的一个标志性事件:它向外界传递了一个信号——AI厂商的伦理底线,或许将成为未来与政府、国防部门合作的核心谈判筹码,而不仅仅是技术能力和商业报价。

所属分类
×

微信二维码

请选择您要添加的方式

AI小创