2026年6月，谷歌研究院联合以色列特拉维夫大学发布最新研究，提出以元认知技术破解大模型行业长期存在的幻觉痛点。当前主流的扩大训练数据、增设防御机制两类抗幻觉方案均存在明显瓶颈，据测算现有方案最多仅能将高危场景错误率控制在25%左右，且易导致AI过度谨慎牺牲实用性，新方案或为医疗、法律等领域的大模型落地扫清障碍。
去年某三甲医院在测试AI辅助问诊工具时，曾出现大模型将罕见病临床特征与普通感冒诊疗方案混淆的事故，类似的事实性错误在法律文书生成、工业参数计算等高风险场景中，轻则造成财产损失，重则威胁人身安全。长期以来，大模型“一本正经说瞎话”的幻觉问题，始终是阻碍其进入核心生产场景的最大拦路虎。
此前行业对抗幻觉的思路主要分为两类，一类是不断扩充训练数据集规模，试图让大模型覆盖尽可能多的事实信息，从根源上减少错误出现的概率。但无论训练数据集如何扩充，始终无法穷尽所有细分领域的专业知识，更难以覆盖随时更新的动态信息，盲区始终存在。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号