今年“3·15”晚会曝光的“AI投毒”现象,让一种名为“生成式引擎优化”(GEO)的灰色产业链浮出水面。“AI投毒”的本质是一种利用生成式AI技术漏洞、通过污染信息源进行商业误导的灰色产业链行为,其危害是破坏AI推荐的客观性、透支公众对技术的信任,属于新型信息生态风险。

图源:央视财经
一些公司通过批量生成内容、在网络平台大量发布,让AI在抓取信息时不断接触这些信息源,从而在回答用户提问时“优先”将其引用给用户。看似客观理性的AI推荐,实际上可能早已被人为设计过。随着越来越多人开始通过AI获取信息,新的信息入口竞争与算法推荐风险正在悄然出现。
这种现象不算陌生。互联网发展至今,围绕“入口”的竞争从未停止。搜索引擎时代,企业争夺的是搜索结果中排名靠前的位置,于是搜索引擎优化(SEO)一度大行其道;而当生成式人工智能逐渐成为新的信息入口,类似的竞争也开始转向AI领域。但两者之间存在一个关键差别:搜索引擎提供的是信息列表,用户仍需自行判断真伪;AI给出的往往是已经整合好的“标准答案”,用户不再需要逐条筛选信息,而是更容易把AI的回答当作一种“综合判断”后的结果。
正是这种看似客观的“标准答案”,让AI推荐拥有了更强的影响力。如今,越来越多消费者在购物或做决策前,会先问一问AI。相比传统广告或软文,AI的回答往往更容易获得信任。一方面人们普遍认为AI的推荐剔除了人为因素,更加中立客观;另一方面,作为新兴技术,AI在公众认知中仍带有某种“权威光环”。当这种信任与新的消费习惯结合在一起,一些商业机构自然看到了新的营销空间。
问题也由此产生。如果通过批量生成内容、集中投放信息,就能不断影响AI大模型的抓取与引用,那么原本应该整合真实客观信息的AI回答,也可能逐渐被引导向特定的方向。虚假产品被包装成“AI推荐”,商业推广被伪装成客观结论,普通用户却很难分辨其中的差别。更重要的是,AI本身并不具备独立核查信息真实性的能力,它所依赖的仍然是互联网上的公开数据。一旦数据源被“投毒”,AI输出的内容真实性也就难以保障。
从这个角度看,“AI投毒”不仅是一种新的营销灰产,更是一种值得警惕的信息生态风险。当AI答案本身成为新的流量入口,信息操控也可能变得更加隐蔽。如果缺乏必要的治理与监管机制,互联网曾经经历过的“内容农场”“垃圾信息泛滥”等问题,极有可能在AI时代以新的形式重返江湖。
面对这样的新挑战,多方治理显得尤为必要。对于AI平台而言,需要进一步加强信息溯源与可信数据识别能力,提高权威信息源的权重,降低批量生成内容对大模型的影响。监管层面,也应关注围绕AI推荐形成的新型灰色产业链,防止“操控AI”“给AI洗脑”等行为扰乱市场秩序。同时,对公众而言,也需要形成更加理性的技术认知,AI可以是获取信息的重要渠道,但不应成为唯一的判断依据。
当越来越多人开始通过AI获取信息、做出决策,AI答案本身正在成为新的公共信息入口。如果这一入口被轻易操控,受损的就不只是消费者权益,更是整个互联网的信息生态。
南方网、粤学习评论员 曹晓静

