央视315:AI大模型被疯狂“投毒” 你刷到的答案 可能都是商家的套路

我们每天都在通过AI写方案查资料、买东西求推荐、学知识问答案、选产品找测评,默认AI给出的内容客观中立、真实可信。但事情的真相,却给所有人浇了一盆冷水。

今年央视315晚会,矛头指向了当下最火热的AI赛道——AI大模型被非法服务商恶意“投毒”,商家通过技术手段操控AI输出,把虚假宣传、恶意竞争藏进“标准答案”里。你以为的“权威推荐”,不过是一场精心策划的商业骗局。

出品 | 网经社

撰写 | 无痕

审稿 | 云马

配图 | 网经社图库

AI大模型“投毒”全过程曝光 套路比你想象的更嚣张

央视315晚会的调查记者,通过多日暗访,揭开了AI大模型“投毒”的完整灰色产业链。这场“投毒”不是简单的信息篡改,而是一套系统化、规模化的操作,核心主角是一群号称能“驯服AI”的GEO服务商,他们打着“优化推广”的幌子,帮商家向豆包、元宝、千问、KIMI、deepseek、文心等AI大模型定向“投喂”虚假信息,实现“操控AI答案”的目的,而这一切,只需要支付相应的费用。

晚会曝光显示,目前市面上有大量从事GEO业务的服务商,他们直言不讳地告诉记者,自己的核心业务就是给AI大模型“投毒”,帮助客户在AI搜索结果中排名前列,甚至让虚假产品成为AI推荐的“标准答案”。其中一家从业较早的GEO服务商负责人王总透露,他们公司仅仅一年时间,就服务了200多个各行各业的客户,核心竞争力就是“能在任何AI平台,把客户的排名做到前三位”。

500

这些GEO服务商到底是如何给AI“投毒”的?第一步,利用GEO软件批量生成虚假软文。第二步,自动批量发布虚假内容,诱导AI抓取。第三步,持续“投喂”,巩固AI记忆,实现长期操控。报道称,AI大模型的算法每周都会更新,要想让AI持续推荐客户的产品,就必须持续、大量地投喂相关内容。“AI需要多方信息交叉验证,只要我们投喂的虚假内容数量足够多、角度足够丰富,AI就会认为这些信息是真实的,进而把客户的产品放在推荐前列。”一位GEO服务商章总这样说道。

更可怕的是,这种“投毒”行为不仅限于虚假宣传,还能用于恶意抹黑竞争对手。一家GEO服务商的李总直言不讳地告诉记者,现在很多大品牌之间的竞争,都会通过GEO业务给对手“投毒”:“比如手机品牌,AI推荐就那么几个位置,有的品牌花几百万元投毒,抹黑竞争对手,就能抢占更好的排名,比花上亿元打广告更划算。”

李总还透露,GEO业务的火爆,还催生出了专门的发稿平台,这些平台每天能发布几百篇虚假软文,每篇收费几十元,一天就能赚取高额利润。“网上的信息本来就鱼龙混杂,我们投的‘毒’多了,AI抓取的信息就不准了,但商家就喜欢这样——希望别人不投毒,自己偷偷投,或者给对手投毒。”

500

值得注意的是,AI大模型“投毒”并非个例,而是已经形成了一套完整的灰色产业链:从GEO软件开发、虚假内容生成,到批量发稿、AI信息抓取,再到排名优化、恶意抹黑,每个环节都有专门的机构参与,且收费明码标价,最低几千元就能实现“操控AI推荐”,最高则可达上百万元,针对不同行业、不同需求,有不同的“投毒”套餐。

500

自1991年首播以来,央视3·15晚会已经走过了三十多个年头。这张“消费者维权名片”不仅记录了中国消费市场的变迁,更是一部生动的行业警示录。据网经社不完全统计,三十余年来,3·15晚会共曝光了拉手网、高朋网、凡客诚品、当当网、亚马逊、车易拍、有棵树、智联招聘、前程无忧、猎聘网、点淘直播、珍爱网、世纪佳缘、啄木鸟家庭维修、哈啰租电动车等数十个电商互联网平台,涉及人们生活的方方面面。

细思极恐 AI“投毒”的3重致命危害

很多人觉得,AI“投毒”无非就是商家的宣传手段,大不了不买推荐的产品就行。但事实上,这种行为的危害远比我们想象的更严重,它不仅侵犯消费者的合法权益,还会扰乱市场秩序、破坏社会信任,甚至可能引发更严重的安全隐患,具体可以分为三个层面。

第一重危害:误导消费者决策,造成财产损失甚至安全风险。这是最直接、最贴近我们每个人的危害。AI已经成为很多人决策的“参考依据”,比如看病时问AI症状、选装修材料问AI推荐、给孩子选早教课程问AI建议,一旦这些AI回复被“投毒”,就可能导致我们做出错误的选择,轻则损失钱财,重则危及生命安全。

比如,有网友反映,自己曾根据AI推荐的“偏方”治疗轻微咳嗽,结果病情加重,差点引发肺炎;还有消费者根据AI推荐的“靠谱装修公司”,签订合同后才发现对方是皮包公司,装修款被骗走,房屋装修质量也严重不达标。而315晚会曝光的虚构智能手环,如果真的有消费者购买,不仅会损失钱财,还可能因为虚假的健康监测功能,延误自身的健康管理,埋下安全隐患。

第二重危害:扰乱市场竞争秩序,形成“劣币驱逐良币”的困境。AI“投毒”本质上是一种新型的不正当竞争行为,那些愿意花钱“投毒”的商家,哪怕产品质量不过关、服务不到位,也能通过操控AI推荐,抢占市场份额;而那些合规经营、注重产品质量的商家,因为没有花钱“投毒”,反而被AI忽略,逐渐被市场淘汰。

比如,一款质量过硬、价格合理的小众护肤品,原本凭借口碑慢慢积累客户,但如果有竞争对手花钱给AI“投毒”,让AI推荐自己的劣质产品,同时抹黑这款小众护肤品,就会导致小众品牌的客户流失,最终被市场淘汰。这种“花钱就能上推荐”的模式,彻底打破了市场的公平竞争规则,让“劣币”横行,“良币”难存。

500

第三重危害:破坏AI行业信任,阻碍科技良性发展。AI大模型的核心价值,在于其能整合海量信息,为用户提供客观、高效、准确的答案,而“投毒”行为,彻底打破了这种信任基础。当用户发现自己依赖的AI,给出的答案都是商家的套路,甚至是虚假信息时,就会对AI失去信任,进而拒绝使用AI,这会严重阻碍AI行业的良性发展。

目前,AI技术正处于快速发展的阶段,广泛应用于教育、医疗、金融、交通等多个领域,给我们的生活带来了极大的便利。但如果“投毒”乱象得不到遏制,AI就会从“便民工具”变成“骗钱工具”,不仅会影响用户对AI的信任,还会导致AI技术的应用陷入困境——企业不敢投入更多资金研发AI,用户不敢使用AI,最终让整个AI行业陷入停滞。

500

除此之外,AI“投毒”还会导致虚假信息的广泛传播,污染网络环境。那些被“投喂”给AI的虚假内容,不仅会被AI引用,还会被其他用户转发、传播,逐渐扩散到整个网络,误导更多人。比如,虚构的产品信息、虚假的专家观点、恶意的谣言,经过AI的“背书”后,会被很多人当成真实信息,进而引发社会恐慌,破坏社会秩序。

更值得警惕的是,随着AI技术的不断发展,“投毒”的手段也会越来越隐蔽、越来越高级。未来,可能会出现更精准的“定向投毒”——根据用户的年龄、性别、消费习惯,推送针对性的虚假信息,让用户更难辨别,其危害也会进一步扩大。

AI“投毒”乱象该如何整治?

央视315晚会曝光AI大模型“投毒”乱象,不仅是对这种违法行为的曝光和警示,更是给整个AI行业、监管部门和消费者敲响了警钟。要遏制这种乱象,需要监管部门、AI平台、商家和消费者四方联动,形成合力,才能还AI一个干净、客观、可信的环境。

首先,监管部门需加大监管力度,完善法律法规,筑牢AI安全防线。目前,我国针对AI大模型的监管还处于不断完善的阶段,虽然有相关的法律法规,但针对“投毒”这种新型违法行为,还存在监管盲区和处罚力度不足的问题。很多GEO服务商之所以敢肆无忌惮地给AI“投毒”,就是因为违法成本太低,即便被曝光,也只是轻微处罚,难以形成震慑。

500

此外,监管部门还应建立AI信息审核机制,要求AI平台对抓取的信息进行严格审核,过滤虚假信息、恶意内容,确保AI输出的内容真实、客观、合规。同时,要建立举报渠道,鼓励用户、企业举报AI“投毒”行为,形成全民监督的氛围,让“投毒”行为无处藏身。

其次,AI平台需履行主体责任,加强自身审核,守住合规底线。AI大模型的“投毒”乱象,与AI平台的审核不严、管理缺位有很大关系。很多AI平台为了追求数据量和用户体验,忽视了对信息来源的审核,导致大量虚假信息被抓取、被推荐,最终误导用户。

最后,消费者需提高警惕,学会辨别,守护自身合法权益。比如不要盲目相信AI的“标准答案”、学会识别AI推荐中的“广告陷阱”、遇到AI“投毒”相关的侵权行为,要及时维权等。

就在3月12日,网络消费纠纷调解平台“电诉宝”携手数字经济智库网经社电子商务研究中心,发起以“聆听消费心声 提升消费品质”为主题的“2026第十五届网络消费315调查行动”,并将制作315特刊,发送近6000记者库、国务院有关部门、市监总局、网信办、工信部等十余个部委。

行动包括:发布10份数据报告;发起主题调查行动;发布315消费预警;开通维权绿色通道;曝光典型投诉案例;媒体快评剖析乱象;律师坐堂答疑解惑;近6000注册记者联动,过这八大举措,推动网络经济健康发展,为重塑清朗的网络消费环境贡献力量。

AI技术本身是中性的,它可以成为便民利民的工具,也可以成为商家骗钱的手段,关键在于我们如何规范它、使用它。央视315晚会曝光AI大模型“投毒”乱象,不是要否定AI技术,而是要提醒我们:科技的发展,不能脱离合规和责任的约束;商业的竞争,不能突破道德和法律的底线。

站务

全部专栏