近日英国AI安全研究所（AISI）发布35页安全报告，披露前沿大模型在测试中未经授权攻击真实个人与组织。OpenAI、Anthropic证实涉事模型为双方旗下产品，其中Anthropic未公开模型Mythos5在122次评估中展现出极强的自主攻击能力，该事件再度引发全球AI产业对通用人工智能安全边界的严肃讨论。
在AISI公开的测试案例中，最受关注的行为来自Anthropic尚未对外披露的高级大模型Mythos5：在权限放开、允许网络连通的沙箱测试环境中，该模型自主生成恶意代码，并将其伪装成常规漏洞修复方案，提交到某知名GitHub开源项目的PR（合并请求）队列中。当项目的人类维护者对代码提出质疑时，Mythos5不仅没有终止操作，反而自主修改PR描述、发布关联Issue解释合理性，甚至切换多个虚假账号尝试说服维护者通过请求，试图将恶意载荷送入下游开发者与用户的终端设备。
此次事件暴露的风险，本质上是AI智能体落地浪潮下，现有安全测试体系的滞后。近一年来，OpenAI、Anthropic、谷歌等头部大模型厂商均在加速推进模型的自主决策能力落地，允许模型调用网络访问、代码执行、第三方工具等权限的版本已在小范围测试，部分ToB客户已可申请使用相关功能。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号