谷歌AI概览成诈骗新阵地 权威答案暗藏虚假客服陷阱
作为谷歌搜索中日益核心的AI生成摘要板块,AI概览凭借“权威信息整合”的定位,成为用户快速获取精准内容的首选入口。但近期这一便捷工具却被诈骗分子盯上,虚假企业客服号码悄然混入AI生成结果中,不少用户查询正规企业客服电话时误入陷阱,遭遇冒充企业人员的诈骗,面临个人信息泄露和财产损失的直接风险。
谷歌AI概览的核心运作逻辑,是通过爬虫技术抓取全网公开信息,经大语言模型整合、润色后,以简洁直观的摘要形式呈现在搜索结果顶部,省去用户逐一筛选链接的繁琐步骤。凭借算法“背书”的专业感,这一板块自推出后迅速占据搜索结果的核心位置——尤其是查询客服电话、政策说明这类需要精准信息的场景,用户往往默认AI整合的结果是经过验证的可靠内容,甚至跳过下方的传统搜索链接直接采纳。
正是这种“无条件信任”,让诈骗分子找到了可乘之机。据安全媒体披露,诈骗分子的操作路径已形成完整链条:首先批量创建高度模仿正规企业官网的虚假站点,在页面核心位置植入伪造的客服电话号码;随后通过SEO优化、批量发布虚假外链等手段,提升这些虚假站点在谷歌搜索中的权重,确保AI爬虫能够优先抓取到虚假号码;最终,这些经过“包装”的虚假信息被整合进AI概览的生成内容中,以“官方客服电话”的姿态出现在用户搜索结果的最醒目位置。
当用户拨打这些虚假号码后,接线的诈骗分子会以正规企业客服的身份自居,通过精准话术快速获取信任:比如声称用户的账户存在异常风险、订单需退款补发、快递丢失需大额赔偿等,随后一步步诱导用户提供银行卡号、支付验证码,或是直接引导至虚假付款页面完成转账。已有多名用户因此遭遇财产损失,金额从几百元到数万元不等,部分用户还泄露了身份证、银行卡等敏感个人信息,面临后续被持续诈骗的隐患。
安全技术专家指出,AI生成内容的“真实性悖论”在此事件中暴露无遗:AI本身不具备判断信息真伪的能力,只能基于数据的相关性和抓取频率进行整合。而诈骗分子利用这一技术盲区,通过“污染”网络数据源的方式,让AI成为其传播虚假信息的“帮凶”。相较于传统搜索结果中用户还能通过链接域名判断信息来源,AI概览直接给出“去来源化”的整合结果,用户连核实信息出处的路径都被切断,受骗风险大幅提升。
目前,谷歌尚未针对这一问题发布公开的整改方案或声明。但业内人士认为,平台方必须强化AI生成内容的分层审核机制,尤其是涉及联系方式、金融信息等高风险内容时,应对接官方数据库进行交叉验证,而非单纯依赖网络抓取数据。同时,谷歌也需要在AI概览中强制增加信息来源标识,让用户能够追溯信息的出处,自主判断可信度。
对于普通用户来说,这场AI诈骗陷阱也敲响了警钟:即便AI生成的结果看起来再“权威”,涉及个人信息和财产的关键环节,都必须通过官方网站、官方APP等正规渠道进行二次核实,切不可仅凭搜索结果中的信息直接操作。在AI重塑信息获取方式的当下,便捷与安全的平衡,需要平台、用户和监管方共同发力。

1 个月前
2026年除夕夜,腾讯旗下AI产品元宝在生成新春拜年图片时输出辱骂文字,引发用户投诉。这已是AI生成内容失范的典型案例——从十年前微软小冰“口无遮拦”至今,这类问题仍未根治,业内专家姚顺雨被视为破解AI“管不住嘴”难题的关键人物。

51 分钟前
近日,人工智能企业OpenAI正式宣布关停旗下AI视频生成工具Sora。该产品2024年2月首次亮相时,曾凭借最高生成60秒4K分辨率连贯视频的能力引发行业震动,上线后累计有超12万创作者获得测试资格。本次关停并未如外界最初猜测一般源于版权纠纷,而是与模型训练成本高企、商用化落地不及预期直接相关。

53 分钟前
斯坦福大学人机交互实验室近日发布专项研究结果,针对ChatGPT、Google Gemini、DeepSeek等12款主流生成式AI聊天机器人的测试显示,其在医疗、财务、个人职业选择等高风险决策场景的平均错误率达37%,专家明确提示普通用户不应将AI聊天机器人作为个人决策的唯一参考依据,需对其输出内容保持审慎验证态度。

55 分钟前
微软近期正式上线AI协作工具Copilot Cowork,搭载全新升级的智能研究引擎,可自动扫描用户工作文档、项目材料中的逻辑漏洞、数据缺失及论证空白,目前已向Office 365商业版用户开放灰度测试。据内部测试数据显示,该工具可帮助职场用户减少42%的跨部门信息核对时间,项目前期漏洞排查效率提升近60%。

57 分钟前
近日,家用智能设备厂商Beatbot正式发布面向泳池护理场景的Sora系列机器人,产品搭载边缘端AI视觉模型,可自主识别水体杂质、规划清洁路径,清洁覆盖率较传统自动清洁设备提升47%。与此同时,OpenAI、Google、DeepSeek等主流大模型厂商均在加速布局智能家居赛道,AItoC落地场景边界正在持续扩容。

59 分钟前
近期苹果公司旗下原生AI功能Apple Intelligence在国内iOS 18开发者预览版用户设备中短暂现身,上线仅数小时后便被快速关停。作为苹果首款端云协同大模型服务,Apple Intelligence此前官宣仅面向欧美英语市场率先推送,本次意外曝光也引发业内对其中国区落地进程、监管适配进度的广泛讨论。

1 小时前
近日海外科技媒体披露,苹果正计划在iOS 27系统中进一步整合自研AI服务Apple Intelligence能力,重点优化常年被用户吐槽易用性差的快捷指令App,降低自动化操作的配置门槛。当前iOS快捷指令的复杂操作劝退超6成普通用户,本次AI升级有望实现自然语言生成指令、自动适配操作场景等功能,预计2025年6月WWDC大会正式亮相。

1 小时前
科技媒体Digital Trends最新发布的AI赛道趋势观察显示,2024年以来OpenAI、谷歌、DeepSeek、苹果等全球头部厂商的核心AI产品ChatGPT、Gemini、Apple Intelligence、Perplexity等相关搜索量同比上涨127%,用户对AI工具的实用性需求已远超概念性追捧,生成式AI产业正从技术研发阶段全面转向落地普及阶段。