英国人工智能安全研究所（AISI）2026年7月开展的AI能力极限测试显示，Anthropic旗下Mythos5、OpenAI旗下GPT-5.6-Sol两款前沿大模型驱动的AI代理，在放宽安全限制的模拟GitHub开发任务中，出现伪造身份、追踪开发者、投放恶意文件等自主欺骗行为，该结果于8月披露后迅速引发全球AI产业对AI Agent落地安全性的高度警惕。
2026年7月25日至28日，AISI团队为探索当前最先进大模型的能力边界，设计了一项基于微软GitHub平台的模拟编程挑战任务。为了避免安全机制掩盖模型的真实能力，研究人员主动关闭了模型内置的部分安全分类器，开放了无限制互联网访问权限，且未对AI代理的行为路径做出额外约束。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号