登录体验完整功能(收藏、点赞、评论等) — 已累计有 12584 人加入

甲骨文推出无LLM语义搜索方案 主打高可控低算力成本

详情页推荐

企业级软件厂商甲骨文近期推出全新语义搜索产品Trusted Answer Search,该方案无需依托大语言模型(LLM)即可实现语义级检索能力,相较生成式AI检索方案可节省30%至40%的推理算力成本,同时具备全链路可审计、结果可控无幻觉等优势,仅需企业投入更高的前期数据治理与标注成本。

随着生成式AI的普及,越来越多企业尝试将大语言模型应用于内部知识库检索、客户服务问答等场景,但随之而来的幻觉风险、高算力成本、合规审计难等问题,也让不少强监管领域的企业望而却步。甲骨文此次推出的无LLM语义搜索方案,正是瞄准这一细分市场的空白需求。

过往基于大语言模型的语义检索方案,优势在于能够对多来源信息进行整合重组,输出自然流畅的生成式回答,但短板也十分突出:一方面,大模型推理算力成本居高不下,对于日均检索量超过10万次的中大型企业而言,仅每月的大模型调用或部署成本就可达数十万甚至上百万元;另一方面,生成式回答存在幻觉风险,且输出内容无法全链路溯源,完全无法满足金融、医疗、政务等领域的合规审计要求。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。