星界、星驭、星鉴:长三角AI安全实验室发布三大解决方案

2026年9月19日,第一届中国网络空间安全大会(CCSC2026)人工智能安全与应用治理论坛在合肥举行。长三角安全人工智能安徽省实验室发布星界、星驭、星鉴三大AI安全解决方案,分别覆盖大模型内容安全、智能体应用安全与AIGC内容可信传播治理。中国工程院院士吴世忠、科大讯飞联合创始人胡国平、实验室首席科学家俞能海与主任刘俊华共同发布。

大模型、智能体与AIGC:三类风险被逐一拆解

在CCSC2026人工智能安全与应用治理论坛上,长三角安全人工智能安徽省实验室集中发布三套方案,指向AI落地过程中三条不同的风险链路。

「星界」面向大模型全生命周期,覆盖数据构建、模型训练、应用上线及持续运营各个环节。其防护手段包括训练数据清洗、安全价值对齐、模型安全增强、内容安全护栏与风险监测,用于识别和处置提示词攻击、违法违规内容等风险。该方案支持开源及闭源模型,并兼容云端与私有化部署两种交付方式。

「星驭」聚焦智能体应用安全,以身份与权限管理为底座,上线前进行Skill安全检测与自动化红队测试,运行阶段覆盖「输入—规划—执行」全流程,对提示词注入、工具滥用、越权操作、敏感信息泄露及任务失控等风险进行监测,并通过日志回放与全链路审计实现事后溯源。

「星鉴」面向AIGC内容可信传播治理,覆盖文本、图像、音频、视频四类模态,综合运用内容标识、数字水印、AI生成检测及有害内容识别等手段,为生成式内容的流转提供可追溯的治理路径。

四位发布人,一个实验室的集体亮相

这次发布的阵容颇具分量。中国工程院院士吴世忠、科大讯飞联合创始人胡国平、实验室首席科学家俞能海、实验室主任刘俊华共同出现在发布环节。刘俊华还在论坛上作了题为《AI安全治理技术进展与应用实践》的主题演讲,介绍实验室在AI安全治理领域的最新进展与应用实践。

长三角安全人工智能安徽省实验室由安徽省人民政府批准设立,依托科大讯飞全资子公司安徽星盾智能科技有限公司建设,定位为高能级科创平台。据公开报道,该实验室已获得多项AI安全领域的权威奖项、认证及评测竞赛冠军。

大会纵深:AI安全议题持续拓展边界

此次发布发生在第一届中国网络空间安全大会(CCSC2026)举办期间。大会主题为「智启新程 安领未来」,于9月18日至20日在合肥举行,共设40余场专题论坛,议题覆盖具身智能安全、智能体安全、密码与量子、卫星互联网等方向。9月20日,大会闭幕。

分析认为,星界、星驭、星鉴三套方案分别指向模型层、应用层与内容层,覆盖了AI从训练到部署再到传播的主要风险节点,体现出实验室将安全能力体系化的布局思路。这套体系在真实产业环境中的运转效果,仍有待后续实际部署进一步检验。

参考资料

  1. CCSC2026人工智能安全与应用治理论坛举办 三大AI安全解决方案正式发布_央广网 - 央广网
  2. 2026中国网络空间安全大会在肥启幕_合肥市人民政府 - 合肥市人民政府
  3. CCSC2026人工智能安全与应用治理论坛举办 三大AI安全解决方案正式发布_内容_模型_技术 - 搜狐
  4. 星界、星驭、星鉴三大AI安全解决方案发布 长三角安全人工智能安徽省实验室护航AI产业发展_中安在线 - 中安在线安徽新闻频道
本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。