随着生成式AI进入金融、医疗、工业控制等高风险决策场景，过往仅用于预测的黑盒AI因决策逻辑不透明，正在引发更多合规与安全风险。业内逐步将可解释性更强的玻璃盒AI作为核心解决方案，后者能够清晰披露AI输出结果的推导路径、数据源权重，可满足各行业对AI决策可溯源、可审计的核心需求，目前已在欧美金融风控领域率先落地试点。
据2024年一季度全球AI合规监测报告显示，目前已有超过62%的金融监管机构明确要求，用于信贷审批、风险定价的AI模型必须披露完整决策逻辑，而当前主流商用大语言模型中9成以上仍属于黑盒范畴，无法满足监管要求，这一供需错配正在推动可解释AI赛道的研发与落地快速升温。
早年AI技术的应用场景多集中在内容推荐、流量预测等低风险领域，即使黑盒模型的决策逻辑无法对外解释，产生的负面影响也仅局限在用户体验层面，并不会带来实质风险。但随着生成式AI能力边界不断扩张，越来越多的企业开始将AI用于高风险决策环节，小到招聘简历筛选，大到自动驾驶的避让决策、医疗场景的手术方案推荐，一旦AI决策出现偏差，就可能引发歧视、安全事故等严重后果。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号