企业级软件厂商甲骨文近期推出全新语义搜索产品Trusted Answer Search,该方案无需依托大语言模型(LLM)即可实现语义级检索能力,相较生成式AI检索方案可节省30%至40%的推理算力成本,同时具备全链路可审计、结果可控无幻觉等优势,仅需企业投入更高的前期数据治理与标注成本。
随着生成式AI的普及,越来越多企业尝试将大语言模型应用于内部知识库检索、客户服务问答等场景,但随之而来的幻觉风险、高算力成本、合规审计难等问题,也让不少强监管领域的企业望而却步。甲骨文此次推出的无LLM语义搜索方案,正是瞄准这一细分市场的空白需求。
过往基于大语言模型的语义检索方案,优势在于能够对多来源信息进行整合重组,输出自然流畅的生成式回答,但短板也十分突出:一方面,大模型推理算力成本居高不下,对于日均检索量超过10万次的中大型企业而言,仅每月的大模型调用或部署成本就可达数十万甚至上百万元;另一方面,生成式回答存在幻觉风险,且输出内容无法全链路溯源,完全无法满足金融、医疗、政务等领域的合规审计要求。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录