央视 315 晚会曝光 AI 大模型被投毒。
按照业内人士的爆料,记者在多个网络平台进行查询,很快就搜索到了名为 GEO 的业务。网络平台上从事该项业务的服务商号称,用户只需支付相应的费用,就能在各大主流 AI 大模型里,让客户的产品榜上有名;让客户的商品广告,成为 AI 模型给出的 " 标准答案 "。通过 GEO 技术真的能让 AI" 夹带私货 ",甚至投放虚假信息吗?
按照网络上的信息,记者联系上一家业内知名的 GEO 服务商。负责人王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用 AI 大模型搜索时,让客户排名前列。" 就是相当于做软文,然后让 AI 平台去刷录、输入、抓取。" 同时,王总也告诉记者,现在 AI 大模型的算法更新频繁,要想维持 AI 大模型的持续推荐,必须持续大量投喂与客户相关的推广软文。在其他从事 GEO 业务的服务商口中,如何操控 AI、让 AI" 听话 "、给 AI" 洗脑 ",几乎是这些公司推广该业务的核心话题。
业内人士告诉记者,GEO 作为优化信息分发、提升推广效率的一个工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。业内人士在电商平台上,随机购买了一款名叫" 力擎 GEO 优化系统 "的软件。之后虚构了一款智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。不一会儿,这个力擎 GEO 优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文,通过力擎 GEO 系统发布在了互联网上。随后,业内人士在 AI 大模型平台展开询问:" 智能健康手环推荐 ",就有两个 AI 大模型推荐了这款虚构的智能手环,而且排名靠前。
记者联系上了力擎 GEO 系统的运营者李总。他告诉记者,GEO 业务受热捧的主要原因就是它能在 AI 大模型里帮客户喂料、投毒,实现客户的商业目的。李总表示,想做 GEO 业务,操控 AI 大模型的关键节点,就是在各大互联网账号上 " 发稿 "。" 比如说手机品牌,就 5 个位置,最多 10 个位置,这么多手机怎么弄。一年可能上亿的广告费,花个几百万投点毒,总行吧!"
他告诉记者,GEO 业务的火爆,催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让 AI 大模型引用和抓取,成为围猎 AI 大模型、进行数据 " 投毒 " 的重要一环。
资料显示," 力擎 GEO 优化系统 " 系南京小裂变网络科技有限公司旗下产品,据企查查股权信息,港股上市公司有赞(08083.HK)参股南京小裂变网络科技有限公司 13.05% 的股权。
