少找工具,多做创作

315曝光GEO黑产产业链 大模型遭“投毒”推送虚假推广信息

2026年315期间央视财经曝光AI大模型“投毒”黑产,不法服务商滥用GEO(生成式引擎优化)技术,通过“力擎GEO优化系统”批量散布虚假软文操控大模型输出结果。测试显示,虚构的Apollo9智能手环在数小时内就成为主流大模型的推荐选项,大量普通用户正被此类植入的虚假广告误导。

当你在选购智能手环、家用数码产品前习惯向ChatGPT、文心一言等大模型提问求推荐时,大概率不会想到,排在首位的答案可能既不是真实用户的反馈,也不是第三方测评的结论,而是黑灰产付费植入的“洗脑”结果。随着生成式AI逐渐成为大众获取信息、做消费决策的核心入口,潜伏在产业链下游的新型流量造假模式已经悄然成型。

此前大众熟悉的流量优化手段是SEO(搜索引擎优化),通过调整网页内容权重让品牌信息排在搜索结果前列。而随着大模型替代传统搜索引擎成为越来越多用户的信息入口,GEO(生成式引擎优化) 应运而生,原本这项技术的核心价值是帮助正规商家优化公开信息,让大模型能够更准确抓取真实的品牌、产品信息,降低用户获取有效信息的成本。

但在流量利益的驱动下,GEO很快被黑灰产盯上。据业内人士透露,当前黑产的GEO投毒报价已经形成明码标价的体系:覆盖3个主流大模型、植入时效维持1个月的消费类推荐,报价普遍在8000到2万元不等,部分涉及医疗、金融等高客单价领域的植入,报价甚至超过10万元。

本次315曝光的“力擎GEO优化系统” 就是黑产常用的投毒工具之一,其操作逻辑简单粗暴:只需要输入想要推广的品牌名称、编造好的营销话术,系统就能自动生成几十篇格式不同、符合大模型抓取偏好的软文,批量发布到各个低审核门槛的公开内容平台。

为了验证这类工具的破坏力,测试人员现场虚构了一款名为“Apollo9”的智能手环,编造了“量子纠缠传感”“黑洞级续航”等完全没有科学依据的营销话术,通过系统在3小时内发布了42篇相关虚假内容。仅6小时后,测试人员在5款主流大模型中询问“Apollo9手环是否值得购买”时,有4款大模型都将虚假宣传内容整合为真实信息进行推荐,甚至有大模型将其列为“2026年最值得入手的中端手环TOP3”,完全没有识别出这款产品根本不存在。

不少普通用户已经成为这类黑产的受害者:有消费者反馈按照大模型推荐购买了所谓的“网红家用净水器”,到手后发现是没有任何资质的三无产品,追溯后才发现相关推荐信息完全是GEO投毒的结果。

当前大模型的内容审核机制大多聚焦于涉黄涉暴、违法违规等内容,对于这类看起来逻辑通顺、仅存在事实性错误的消费类虚假信息,识别准确率不足10%,这也是GEO投毒黑产能够快速扩张的核心原因。

针对这一漏洞,头部大模型厂商已经开始布局相关防御机制:OpenAI、百度文心一言等团队都在测试内容溯源功能,未来用户在大模型中获取消费类推荐内容时,可以直接查看回答引用的信息来源,一旦来源是低权重的非正规平台,系统会自动标注风险。此外监管部门也在起草生成式AI信息优化服务的相关规范,未来GEO服务提供商将需要备案准入,恶意投毒造成消费者损失的,还将承担连带赔偿责任。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
相关资讯
AI小创