登录体验完整功能(收藏、点赞、评论等) —

让AI触手可及,让应用激发潜能

甲骨文推出无LLM语义搜索方案 主打高可控低算力成本

企业级软件厂商甲骨文近期推出全新语义搜索产品Trusted Answer Search,该方案无需依托大语言模型(LLM)即可实现语义级检索能力,相较生成式AI检索方案可节省30%至40%的推理算力成本,同时具备全链路可审计、结果可控无幻觉等优势,仅需企业投入更高的前期数据治理与标注成本。

随着生成式AI的普及,越来越多企业尝试将大语言模型应用于内部知识库检索、客户服务问答等场景,但随之而来的幻觉风险、高算力成本、合规审计难等问题,也让不少强监管领域的企业望而却步。甲骨文此次推出的无LLM语义搜索方案,正是瞄准这一细分市场的空白需求。

过往基于大语言模型的语义检索方案,优势在于能够对多来源信息进行整合重组,输出自然流畅的生成式回答,但短板也十分突出:一方面,大模型推理算力成本居高不下,对于日均检索量超过10万次的中大型企业而言,仅每月的大模型调用或部署成本就可达数十万甚至上百万元;另一方面,生成式回答存在幻觉风险,且输出内容无法全链路溯源,完全无法满足金融、医疗、政务等领域的合规审计要求。

甲骨文此次发布的Trusted Answer Search,核心技术路径是基于预训练语义向量库+企业专属知识图谱,全程不调用生成式大语言模型进行内容生产,所有检索结果均直接匹配企业入库的权威数据源,仅对匹配到的原始内容做高亮、关联推荐等处理。

该方案的核心优势十分明确:首先是算力成本大幅降低,相比同量级的生成式检索方案,算力开销可降低30%-40%;其次是完全消除幻觉风险,所有结果均有明确来源,且操作全链路留痕,可满足强监管场景的审计要求;此外也无需担心内部敏感数据随大模型调用泄露的风险。

!
信息及评测声明: 本文部分信息整理自互联网公开资料,并包含由 AI创作导航 团队独立进行的实测体验。我们力求内容客观准确,但因工具功能、价格及政策可能存在实时调整,所有信息仅供参考,请务必在使用前访问官网确认。文中观点不构成任何决策建议,读者需自行评估和承担使用风险。如发现内容有误或侵权,欢迎随时反馈,我们将及时核实处理。
相关资讯
AI小创