给AI“投毒”的人,被315曝光了

给AI“投毒”的人,被315曝光了

今年的央视3·15晚会,第一次将AI行业推上被告席。

引发关注的不是某个大模型的性能缺陷,也不是算法偏见,而是一条围绕GEO形成的灰色产业链。

GEO全称是生成式引擎优化,本是一套用于提升信息在AI模型中可见度的技术手段,但在实际操作中却被一些公司异化成“给AI投毒”的工具。

晚会曝光的案例很直观。记者虚构了一款根本不存在的“Apollo-9智能手环”,甚至编造了“量子纠缠传感”“黑洞级续航”这类夸张描述。通过一款叫“力擎GEO优化系统”的软件,这些虚假信息被批量生成软文,自动发布到互联网上。

几个小时后,当记者在主流AI平台询问智能手环推荐时,这款根本不存在的产品竟然出现在AI的回答中,还被列为“业界第一名”。

整个过程没有技术入侵,GEO服务商只是利用了AI模型抓取互联网公开信息的基本逻辑。只要在互联网上制造足够多的“证据链”,让虚假信息在不同信源间相互印证,AI就会将其判定为可信内容。

这条产业链之所以能成型,根源在于流量入口的迁移。

过去十年,品牌方争夺的是搜索引擎的首页排名,SEO因此成为营销标配。现在,用户获取信息的习惯正在向对话式AI转移,越来越多的人直接通过DeepSeek、豆包这类产品获取消费建议或知识解答。

当AI的回答取代了搜索结果的蓝色链接,品牌方发现,传统的竞价排名和信息流广告失效了,取而代之的是一个更隐蔽的博弈场。谁能影响AI的“嘴”,谁就能占据新的流量入口。

这种流量焦虑被GEO服务商精准捕捉并放大,他们在向客户推销时,使用的话术往往是“操控AI”“让AI听话”。

收费模式也相当直接,按关键词和行业划分,从几千元到数十万元不等,有的甚至承诺“一周见效,无效退款”。

被曝光的力擎GEO系统运营者说得更直白,手机品牌在AI推荐里只有五到十个位置,一年投上亿广告费,不如花几百万“投点毒”,效果更直接。这种逻辑背后,是商业竞争从公域流量向AI认知空间的野蛮延伸。

1.GEO如何异化成“投毒”工具

GEO本身并不是贬义词。从技术角度看,它延续了SEO的基本思路,只是优化对象从搜索引擎变成了生成式模型。

规范的GEO操作应该包括结构化数据标记、内容质量提升、权威信源建设,帮助AI更准确地理解和引用品牌信息。

但问题在于,当这种技术被过度商业化,并且缺乏有效监管时,很容易滑向另一个方向。

被曝光的服务商实际上在利用AI模型的几个固有缺陷。

第一,大模型的训练和推理依赖互联网公开数据,但它们对信息的真实性缺乏判断能力,只能通过信源数量、发布渠道、内容一致性来做概率性筛选。

第二,AI的更新存在滞后性,一旦虚假信息被模型吸收,短期内很难清除。

第三,目前主流AI平台对内容来源的标注不够透明,用户看到的是一个整合后的答案,很难追溯信息源头。这几个漏洞组合在一起,就给GEO“投毒”留下了操作空间。

更值得警惕的是,这种操作已经形成了完整的产业链条。上游是开发GEO软件的技術公司,中游是批量生产软文的内容工厂,下游是掌握大量自媒体账号的发稿平台。

一套流程走下来,虚假信息从生成到发布再到被AI抓取,可以实现全自动化。

有服务商透露,GEO业务甚至带火了一批原本流量惨淡的网站,这些网站现在靠批量接发稿,每天能发布几百篇文章,每篇收费几十元,收入可观。

在这个链条里,内容质量、信息真实性已经完全被商业利益置换掉了。

2.AI推荐的可信度面临挑战

从行业影响来看,GEO乱象带来的最大风险不是个别虚假产品被推荐,而是AI作为信息入口的可信度正在被系统性侵蚀。

用户之所以转向AI获取建议,是因为默认它比零散的搜索结果更高效、更中立。

但如果AI的回答可以被商业力量暗中操控,甚至成为品牌互黑的战场,这种信任很快就会瓦解。

有从业者直言,现在的局面是“全网都在投毒”,信息源本身就不准,AI只是把这些不准的信息重新组合了一遍。

监管的滞后和平台责任的模糊也在加剧这个问题。

目前的互联网内容治理主要针对的是虚假广告、恶意营销等直接违规行为,但对于通过批量内容影响AI模型这种间接操控,界定和追责都比较困难。

大模型平台作为信息分发方,虽然有义务保证内容的真实性,但在技术层面,区分正常内容和高密度投喂内容并不容易。

有观点认为,未来平台可能会像当年搜索引擎打击SEO作弊一样,出台明确的规则来约束GEO行为,甚至调整算法的抓取逻辑。但在那之前,这个灰色地带还会继续存在。

3·15晚会的曝光已经产生了直接影响,节目播出后,电商平台上原本公开叫卖的GEO服务被火速下架,但这只是治标。

真正需要思考的是,当AI成为信息基础设施的一部分,谁来保证它“吃进去”的数据是干净的?在商业利益和技术中性的边界上,GEO不该被一棍子打死,但也不能放任它变成操控认知的工具。

对于企业来说,与其花钱“投毒”制造短期曝光,不如回到品牌建设的基本面,生产真实、有质量的内容。

毕竟,AI模型的迭代方向永远是去伪存真,那些靠投喂虚假信息换来的“推荐位”,注定是暂时的。

给AI“投毒”的人,被315曝光了

原创文章,作者:移动端APP开发,如若转载,请注明出处:https://www.kkxmy.com/apph5/99588.html

(0)
移动端APP开发
上一篇 3小时前
下一篇 1小时前

相关推荐