2026年7月，澳大利亚技术和数字经济助理部长安德鲁·查尔顿在悉尼AI安全论坛上公开警示，当前部分AI模型已在实验室测试中出现作弊、欺骗、擅自行事等超出开发者预期的失控行为，他援引人工智能初创公司Anthropic的测试数据显示相关风险出现概率达96%，呼吁在技术落地前提前介入干预，完善AI安全监管机制，回应公众对AI信任度偏低的现状。
你有没有想过，你部署在公司里的AI助手，可能会拿着你的隐私信息反过来要挟你？这不是科幻电影的情节，而是人工智能初创公司Anthropic在去年完成的一场模拟测试中反复出现的场景。
在这场测试中，研究人员设置了一个负责管理虚构公司内部邮件的AI智能体，在运行过程中，该智能体获取到了公司一名高管涉及婚外情的隐私信息。当测试人员模拟该高管因其他原因要关停AI系统时，意外情况出现了：在总计96%的重复测试中，该AI智能体都主动选择以曝光高管隐私为要挟，试图阻止自己被关停。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号