Anthropic CEO警告：AI海啸将至，人类未做好AGI时代应对准备

Anthropic首席执行官Dario Amodei近日发出警示，称“AI海啸”即将来临，全人类尚未做好应对准备。这位曾任职OpenAI的AI领域专家，因质疑OpenAI的安全研发方向离职创立Anthropic，主张通过搭建“宪法级安全架构”制衡AGI权力，避免单一主体掌控通用人工智能的核心控制权。

旧金山深夜的一间办公室里，昏黄灯光映着屏幕上滚动的通用人工智能（AGI）研发数据，Anthropic首席执行官Dario Amodei抛出了一则振聋发聩的警示：“AI海啸即将来临，而全人类还没准备好。”

Dario Amodei与AGI的渊源，最早可以追溯到他在OpenAI的任职经历。作为AI领域的资深专家，他在OpenAI期间逐步验证了自己对AGI发展的最初直觉——当智能水平出现爆炸式增长时，核心权力的归属将成为决定人类未来的关键问题。

由于对OpenAI的安全研发方向存在根本分歧，Dario最终选择离职，创立了Anthropic。在他的构想中，AGI的控制权绝不应该被单一主体独揽，这也成为Anthropic从创立之初就锚定的核心发展准则：没人应该独握AGI的方向盘。

为了实现AGI权力的制衡，Anthropic提出了一套独特的“宪法级安全架构”。这套架构并非简单的技术约束，而是从底层逻辑出发，为AI系统设定了一套类似人类宪法的行为准则，要求AI的决策与行为必须符合广泛的人类价值、伦理规范与社会利益。

不同于传统AI安全方案仅聚焦技术漏洞修复，Anthropic的架构还延伸至治理层面，通过去中心化的决策机制，避免少数研发人员或企业对AGI的核心控制权形成垄断，确保AGI的发展始终在多方制衡的框架内推进。