全球网络安全厂商CrowdStrike近日发布最新安全研究成果，首次识别出5类此前未被行业广泛关注的新型AI提示注入攻击方式。此类攻击可绕过现有大语言模型安全防护机制，窃取企业敏感数据、诱导生成恶意代码，目前已有近12%的部署生成式AI的企业遭遇过相关攻击，安全团队亟需更新防护体系应对新风险。
随着生成式AI技术落地速度加快，大语言模型已经成为企业办公、客户服务、代码研发等场景的常用工具，据行业统计，2024年全球中大型企业的生成式AI部署率已经突破62%，较2023年增长近一倍。但大部分企业的安全防护体系仍然围绕传统网络攻击搭建，对于AI原生的攻击类型缺乏识别和拦截能力，提示注入作为针对大模型的主流攻击手段，已经成为企业数据泄露的高发诱因。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号