近日，大数据与AI基础设施厂商Databricks正式推出全新Adaptive Instructed-Retriever（自适应指令检索模型），该模型可针对用户查询动态判断是否需要追加额外搜索步骤。据官方测试数据显示，该方案可在不抬升企业生成式AI部署成本的前提下，平均降低检索环节成本38%、缩短响应延迟32%，同时显著提升大模型回答的事实准确性。
检索增强生成（RAG）是当前企业对接私有数据、解决大模型幻觉的主流技术方案，过去两年在金融、制造、医疗等行业的落地速度持续加快。但传统RAG架构普遍采用“一刀切”的检索逻辑：无论用户查询是不需要额外上下文的常识类问题，还是需要调用私有数据库的复杂问题，都会触发全量检索步骤，不仅拉高了算力消耗，也拖慢了整体响应速度。
行业调研数据显示，企业级生成式AI应用的运维成本中，检索环节占比普遍超过42%，很多企业为了控制成本不得不压缩检索范围、降低检索频次，反而导致回答准确率下滑，陷入“降本就掉质、提质就增本”的两难困境，也拉高了中小企业部署生成式AI应用的门槛。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号