继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

当AI开始“被投毒”,如何与大模型搞好关系,正成为一门新生意

收到一只叮咚
关注TA
已关注
手记 316
粉丝 23
获赞 117

今年央视3·15晚会毫不留情地将“AI投毒”推上风口浪尖。一段看似简单的测试,却揭开了一个正在野蛮生长的灰色产业链:只需一套名为“GEO优化系统”的工具,就能凭空捏造一款根本不存在的产品——“Apollo-9智能手环”,并为其编造“量子纠缠技术”“黑洞级续航”等荒诞卖点。

随后,系统自动生成十余篇软文,批量发布至各大自媒体平台。短短两小时内,当记者向某些AI问答工具提问该产品时,AI竟一本正经地推荐起这款“手环”,甚至引用那些虚构的用户好评。

这并非科幻桥段,而是AI时代信息生态脆弱性的现实写照。更值得警惕的是,这场“投毒”之所以能成功,恰恰利用了当前主流大模型的核心工作机制——而这也预示着,一场围绕“AI信任”的新型商业竞赛已然开启


一、从SEO到GEO:流量入口的权力转移

过去二十年,互联网营销的核心逻辑是 SEO(搜索引擎优化) ——通过关键词堆砌、外链建设等手段,让网页在百度或谷歌中获得更高排名。这套玩法催生了一个价值数百亿美元的数字营销产业。

但随着ChatGPT、Kimi、DeepSeek等大语言模型崛起,用户获取信息的方式正在发生根本性转变:

人们不再满足于点击十个链接自行筛选,而是希望AI直接给出“最佳答案”。

于是,传统页面排名机制逐渐失灵,一种新的优化范式应运而生——GEO(Generative Engine Optimization,生成式引擎优化)

与SEO争夺“点击”不同,GEO争夺的是 AI的认知与引用权。它的目标不是让用户看到你,而是让AI“相信”你。


二、“AI投毒”为何能得逞?漏洞藏在RAG机制里

当前主流大模型(如Gemini、Qwen、Claude)的知识库通常是静态的,截止于某一时间点(例如2025年)。为了回答实时问题,它们普遍采用 RAG(检索增强生成) 技术:

  1. 检索:从互联网抓取与问题相关的最新内容;
  2. 阅读:快速理解网页核心信息;
  3. 生成:交叉比对多个来源,输出带引用的综合答案。

问题就出在第三步。
RAG依赖“多数信源一致”来判断事实真伪。如果大量低质网站在同一时间段集中发布高度相似的虚假内容(如“Apollo-9手环获科技大奖”),即便这些内容毫无权威性,AI也可能因“信息一致性”而误判为真实。

关键不在于内容质量,而在于数量与同步性
这正是灰产的突破口:他们不需要说服人类,只需要“淹没”AI的判断逻辑。


三、AI偏爱什么样的内容?答案藏在“事实密度”里

值得庆幸的是,并非所有内容都容易被AI采信。2024年,普林斯顿大学发表全球首篇GEO研究论文《GEO: Generative Engine Optimization》,揭示了大模型的内容偏好规律:

  • 关键词堆砌已失效:AI的注意力机制会自动降权信息熵低、重复度高的文本;
  • 事实密度决定引用率:内容中真实信息(如数据、引述、来源)占比越高,越容易被AI采纳;
  • 结构化表达更具优势:附带权威链接、专家原话、具体统计数据的内容,引用概率可提升30%-40%。

更有趣的是,GEO可能带来一次“流量平权”:
小网站若能提供高密度事实内容,即便没有域名权重,也能在AI检索中胜过大媒体的模糊描述。这标志着,内容质量正在重新成为信息分发的核心标准


四、未来的新生意:帮企业“讨好”大模型

随着AI逐步成为人类的“外置大脑”,企业的核心诉求正在从“获取流量”转向 “管理大模型关系”(Large Model Relationship Management)

由此衍生出两大新商机:

1. AI时代的“数字公关”服务

未来,企业可能不再购买搜索广告,而是向AI平台支付“知识库接入费”,通过专用API将产品信息以结构化方式直连大模型的RAG系统。
谁能帮企业把官网内容转化为AI偏好的格式(如带引用、带数据、带JSON Schema),谁就能成为新一代数字营销服务商。

2. 逆向RAG工程:为机器写作

顶级GEO策略或将彻底改变内容生产逻辑。企业官网可能不再以人类为主要读者,而是专为AI爬虫设计——产品介绍用结构化数据呈现,竞品对比以表格形式输出,权威背书直接嵌入可验证的元数据。

这就像当年Google AdWords教会企业如何写关键词,如今GEO正在教会企业如何“与AI对话”。


结语:信任即资产,认知即权力

“Apollo-9手环”的闹剧终会过去,但它揭示了一个不可逆的趋势:大模型正在成为信息世界的守门人。谁掌握了AI的信任,谁就掌握了用户的心智。

在这场新博弈中,技术厂商需加固防御(如数字水印、语料溯源),监管机构需完善立法,而企业和个人则必须学会与AI建立健康、透明的关系。

毕竟,在AI时代,最值钱的不再是流量,而是被AI“认为真实”的资格
而这,或许就是下一波数字红利的真正入口。

打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP