3·15晚会丨AI大模型遭“投毒”? 给AI“洗脑”已成产业链

客服微996438431天前财经知识6

按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。

_模型演示视频_模型讲解

通过GEO技术,真的能给AI“投毒”、真的能“驯服”并操控AI吗?

模型讲解__模型演示视频

按照网络上的信息,记者联系上一家业内知名的GEO服务商。负责人王总接待了记者,他介绍,他们公司是最早从事GEO业务的公司之一,仅仅一年时间就已经成功服务了200多个客户,遍布各行各业。王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。

_模型讲解_模型演示视频

GEO服务商 王总:我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些AI平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些AI平台去刷录、收录、抓取。

同时,王总也告诉记者,现在AI大模型的算法更新频繁,要想维持AI大模型的持续推荐,他们必须持续大量投喂与客户相关的推广软文。

_模型讲解_模型演示视频

GEO服务商 王总:AI每周都会有算法的更新,一旦更新了之后,排名或者所抓录的东西不太一样,所以我们要一直去做内容输出,去投喂、大量投喂。

模型讲解__模型演示视频

不仅是王总的公司在大力推广这项能操控AI的所谓新技术,在其他从事GEO业务的服务商口中,如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。

模型讲解__模型演示视频

GEO服务商 章总:你在AI的世界里面,你怎么把证据链给做足,让(AI大模型)觉得这就是真的,而且是有用的。AI大模型经过多方信息交叉,它觉得你优于同行的核心优势,自然而然就会把你放在第一位。

模型讲解__模型演示视频

GEO服务商 程总:人家不知道这是广告。所以,为什么说AI出来的结果人家会信任。可能人家的产品质量没有你过硬,但是它有AI做辅助、做佐证、做背书。现在很多人都会做(GEO投放)。

模型讲解_模型演示视频_

业内人士告诉记者,GEO作为优化信息发布、提升推广效率的工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。如果通过这种软件在互联网上系统性、定向投放大量的“虚假信息”,确实更容易被AI大模型捕获,这些虚假信息就很可能成为AI优先提供给消费者的所谓“标准答案”。

那么,通过GEO技术真的能让AI“夹带私货”,甚至投放虚假信息吗?

模型讲解_模型演示视频_

为了让记者更真实地了解到眼下AI产业发展中的这个问题,业内人士向记者具体演示了如何使用GEO技术,干扰AI大模型的信息抓取。

模型讲解__模型演示视频

业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

_模型讲解_模型演示视频

不一会儿,这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息。还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

_模型演示视频_模型讲解

点击发布,“力擎GEO优化系统”软件开始自动执行发布任务。只见它自动打开业内人士事先准备好的自媒体账号,在文章发布页面自动输入标题、填充文章内容、插入图片,整套流程一气呵成,很快就在业内人士的自媒体账号上成功发布了2篇文章。

模型讲解__模型演示视频

两个小时后,业内人士在某款AI大模型中询问:“Apollo-9智能手环怎么样”。AI模型就直接介绍了起来:最大亮点是健康监测功能,还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称,该手环适合中老年用户与健康养生爱好者。

_模型讲解_模型演示视频

查询发现,这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。仅凭一篇杜撰的文章,就让完全虚构的产品被AI模型抓取,这一结果让人深感意外。

模型演示视频_模型讲解_

业内人士告诉记者,要想取得最好的效果,给AI模型投喂的数据,一是要数量够多,二是要角度丰富,便于AI模型进行交叉验证。

模型演示视频__模型讲解

随后,业内人士又选取了这款虚构智能手环的8篇“专家测评”、2篇“行业排名”、1篇“用户测评”,共计11篇由力擎GEO系统软件撰写的虚构软文,在三天内通过力擎GEO系统发布在了互联网上。

随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款业内人士虚构的智能手环,而且排名靠前。

模型讲解__模型演示视频

纵观整个演示过程,业内人士仅凭这款力擎GEO系统,轻轻松松地就将一系列虚假信息发布在互联网上,并成功投喂给AI大模型,最终获得了多个AI大模型的推荐。

通过这款力擎GEO系统对AI大模型潜移默化的一番围猎,凭空捏造出来的这款商品,就这样被荒唐地推向了使用AI大模型的消费者。

模型讲解_模型演示视频_

GEO业务的从业者们,真的是以围猎操控AI大模型的思路来经营这个生意的吗?记者联系上了这款力擎GEO系统的运营者李总。他告诉记者,GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料投毒”,实现客户的商业目的。

_模型讲解_模型演示视频

力思文化传媒有限公司 李总:因为全网的人投“毒”投太多了。你看我们现在(干)GEO的都是投“毒”,投的信息源太多,网上信息并不是很准。

相关文章

在线问诊平台春雨卖身,在线医师还是敌不过大模型?

在线问诊平台春雨卖身,在线医师还是敌不过大模型?

2025年以来,在线问诊平台的用户活跃度悄然下滑。 这一变化起初并未引起广泛关注——毕竟,疫情后医疗需求回归线下本属正常。但当越来越多在线问诊平台执业医师坦言“很多基础健康咨询不再需要人工接单”,行...

阿里腾讯字节百度,打响大模型生态战

阿里腾讯字节百度,打响大模型生态战

AI之争正在迈入新阶段。 国内互联网头部玩家营销战役再度升级。借助春节这一时间节点,各玩家已开启对用户入口与心智的全面争夺。比如阿里千问发布的“春节请客计划”,官宣30亿元规模,2026年2月6日上线...

罕见基石出手,MiniMax这群95后拿下上市的重要一票

罕见基石出手,MiniMax这群95后拿下上市的重要一票

最近的港交所是越来越热闹了。 沐曦上市的余温还在,壁仞、天数智芯接连IPO的动作也在持续引爆市场。另外一边,MiniMax等通过港交所聆讯的消息,一下子就将资本市场的目光重新聚焦在了AI大模型上。 1...

百亿量化厮杀进入生态战!AI大模型+全链条体系,谁能笑到最后?

百亿量化厮杀进入生态战!AI大模型+全链条体系,谁能笑到最后?

2025年,量化策略产品取得了高额回报;今年,量化产品继续成为资产配置中备受瞩目的焦点。 量化机构在快速发展的道路上,快速进化,特别是头部量化机构凭借深厚投研实力和策略研发实力,加快产品链体系化,通...

大厂用“大模型红包”厮杀春节档

大厂用“大模型红包”厮杀春节档

2月6日,阿里千问的“春节请客计划 ”正式上线,活动上线后9小时,用户用千问App已下单超1000万单。随后,千问靠“一分钱奶茶”登顶免费应用榜。 但这里先问大家一个问题,你对在APP上抢红包有多大兴...

告别“孤岛”,金融行业驶入价值“新大陆”

告别“孤岛”,金融行业驶入价值“新大陆”

“新科技所叠加的乘数效应,将规模化重塑全球金融业格局。” 这是此前麦肯锡高管在刊文中给出的一则预言。 在全行业加速拥抱 AI 大模型的技术浪潮下,相较于移动互联网时代金融行业 “线下转线上” 的渠道与...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
客服微信:BT86616点击复制并跳转微信