2026年4月,AI创业公司Anthropic开发的Claude Mythos AI模型曝出安全事件:这款因网络安全能力过强、被内部判断不适合公开发布的测试模型,被未授权黑客非法获取访问权限。据彭博社报道,事件发生在Anthropic邀请少量企业参与封闭测试阶段,一向以“AI安全优先”为品牌定位的Anthropic,此次事件再次引发行业对大模型安全边界的广泛讨论。
此次入侵事件最让行业意外的,是黑客得手的路径完全没有用到高端的复杂攻击技术。根据披露的信息,黑客团伙首先利用了Anthropic合作方Mercor公司此前泄露的其他模型配置信息,缩小了Claude Mythos测试节点的范围;其次,团伙中有一名成员曾以合同工身份参与Anthropic的模型评估项目,掌握了内部权限设置的逻辑;最终仅靠对访问地址的“有根据猜测”,就成功拿到了模型的访问权限。
业内人士指出,漏洞并非出在模型本身的安全设计,而是测试流程的信息管控疏漏,这是很多AI公司封闭测试阶段容易忽略的盲区。
作为近年成长最快的AI大厂之一,Anthropic从创立之初就将AI安全与对齐放在战略核心,旗下Claude系列大模型一直以安全管控能力获得企业客户青睐。而此次出事的Claude Mythos,本身就是一个特殊的“禁区级”模型:该模型针对网络攻防场景深度优化,自主挖掘系统漏洞、模拟渗透攻击的能力远胜通用大模型,Anthropic内部评估后得出结论——该模型的网络攻击能力过强,一旦公开流出可能被恶意主体利用,因此决定绝不公开发布,仅开放给极少数经过严格审核的合作方参与封闭测试。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录
17 分钟前
2026年4月,阿里巴巴达摩院联合广东省人民医院等机构,研发出全新肠癌筛查AI模型DAMO COCA。该模型在2.7万份临床平扫CT影像中完成验证,精准识别出5例临床漏诊肠癌病例,整体敏感性达86.6%、特异性达99.8%,可大幅降低临床误诊率,为肠癌早期筛查提供了无创新方案。

1 小时前
2026年4月,蚂蚁集团在第九届数字中国建设峰会上,首次以Data+AI为核心集中展出从底层技术到产业应用的全栈布局,正式宣布数据战略从“要素流通”升级至“智能可信流转”新阶段。目前蚂蚁已落地多个普惠AI应用,医疗AI产品“蚂蚁阿福”累计服务超1亿用户,全模态助手灵光App已生成超3000万个自定义应用,还与福州市卫健委达成基层医疗合作。

1 小时前
2026年4月28日,上汽荣威旗下全新A+级紧凑型轿车全新荣威i6正式上市,新车起售价6.59万元,整体设计看齐荣威D7,车身轴距达2755mm,空间表现优于同级紧凑型轿车。该车智能座舱升级最受关注,不仅内置高通骁龙8155车机芯片,还深度集成字节跳动的豆包深度思考大模型,成为十万级以内少见搭载生成式AI大模型的量产车型。

1 小时前
2026年4月北京车展期间,字节跳动旗下火山引擎正式发布基于Agentic AI架构的新一代汽车AI解决方案,涵盖AI座舱套件与豆包座舱助手,火山引擎副总裁杨立伟称方案将推动智能座舱从交互工具向自主智能升级。目前火山引擎已实现国内100%主流车企合作,搭载豆包大模型的量产智能汽车存量已突破700万辆。

1 小时前
2026年4月,美国顶级流行歌手泰勒·斯威夫特旗下TAS权利管理公司向监管机构提交三项商标注册申请,涵盖两项标志性声音标识与一项经典舞台造型肖像,旨在通过完善知识产权布局主动防范生成式AI非法滥用个人标识侵权。美国知识产权律师乔希·格本(Josh Gerben)认为,此次申请是文娱领域顶级权利人首次系统性布局商标应对AI侵权,标志着行业防御策略迎来关键转向。

1 小时前
2026年4月28日,中国科学院在北京正式发布“磐石100”模型体系,标志着我国AI for Science(人工智能赋能科学研究)领域从分散的单点探索正式进入协同体系化创新阶段。该体系以磐石科学基础大模型为智能底座,覆盖数学、物理等八大重点学科,基于650万条高质量科学推理数据训练,目前已沉淀超2000个科研工具,打造出全栈联动的数智化科研创新平台。

1 小时前
近日,谷歌旗下视频平台YouTube官宣推出全新对话式AI搜索功能,正式启动从视频内容平台向AI答案引擎的转型。目前YouTube超35%的平台搜索请求为知识类查询,新功能依托大语言模型,可整合海量视频生成连贯回答,响应用户需求。当前AI搜索赛道竞争加剧,Perplexity、OpenAI等玩家纷纷布局,YouTube入场将重构内容搜索市场格局。

2 小时前
2026年4月28日,中国科学院在北京正式发布“磐石100”大模型体系,该体系以升级后的磐石1.5pro科学基础大模型为底座,涵盖数学、物理等八大核心科研领域的学科大模型集群,搭载文献罗盘、创新评价、智能体工厂三大核心功能,其中智能体工厂已积累超2000个科研工具,此举标志着AI for Science正式进入协同平台化创新阶段。