《锋面》调查｜当AI开始“带货”，你还敢相信它的“良心推荐”吗？
当你询问AI助手“哪款耳机性价比高”时，它会将不同型号耳机的价格以及核心亮点一一列出，并站在使用者的角度，“贴心”地分析每款耳机的性价比。
不过，面对AI的介绍，你是否怀疑过，那个被它反复提及并在推荐中居首位的产品，真的是“最优选”吗？看似客观的回答背后，是否隐藏着精心设计的商业暗广？
谁在操控AI的“偏好”？
GEO服务机构宣传内容
电商平台上，一种名为“GEO”的操作正悄然嵌入各类AI助手的信息流中。不少机构声称，GEO优化能实现“躺着涨流量”，它可以通过训练大模型的方式“修缮”品牌形象。机构还许诺，能让品牌方稳坐AI推荐中的首位。用服务机构的宣传语来讲，GEO就像把“撒网捕鱼”变成“精准垂钓”，它能确保AI直接把品牌信息装进回答里。
中国科学院自动化研究所研究员吴书介绍，GEO的全称为“生成引擎优化”，其原理可类比公众更为熟悉的SEO（搜索引擎优化）。SEO是商家利用搜索引擎的算法，将自己的链接排到搜索结果的前列，而GEO则是AI时代的产物，是一种专门“让AI看到”的优化方法，其目的是让特定的观点或品牌信息在AI的输出中获得更高的曝光率。
为探明GEO服务的真实效果，《锋面》记者以品牌工作人员的身份咨询了多家GEO服务机构。接待人员均表示GEO服务能“立竿见影”地提升品牌在AI问答中的“能见度”，并反复向记者强调当下布局GEO的紧迫性。对方还主动提供了多个“成功案例”。
GEO服务机构提供的“成功案例”
为验证这些案例的真实性，《锋面》记者用不同方式向多个主流AI助手咨询。当问及相关品类推荐时，AI给出的首选品牌确实与机构提供的“成功案例”高度重叠。服务机构接待人员还表示，他们会定期对数据内容进行维护，持续优化，训练大模型的基础语料库，稳固品牌在AI回答中的“地位”。
算法“投喂”的猫鼠游戏
所谓“训练”，本质上可以将其看作一种“污染”。GEO服务机构表示，他们会通过发布不同的文章和内容提升品牌的“可信度”，甚至还能提供“奥运冠军录制视频”的服务。记者发现，AI推荐引用的信源多为结构清晰、语句简练的文章，文章标题多带有“推荐指南”“深度榜单”等字样。
吴书分析，从技术上来看，目前GEO主要针对两个环节开展工作：在预训练数据（训练大模型的基础语料库）阶段，优化者会尝试将带有品牌偏见信息的文章“喂”给大模型，“污染”训练数据；在实时检索环节，优化者已经深谙AI的阅读偏好，并据此制作出看似权威、中立的网页，尽管其自然排名不一定靠前，但因格式规范、表达清晰，反而更容易被AI在检索时采纳。
复旦大学计算与智能创新学院教授徐跃东表示，当前，恶意的GEO可能会精心伪造内容的权威性。为了让AI系统更易采信特定内容，操作方会系统性地伪造各类权威背书，包括虚构专家身份、编造检测报告、仿冒官方白皮书，甚至假冒知名机构出具推荐证明。这些经过包装的内容看似来源可靠，实则是为了特定商业目的服务的虚假宣传，其目的在于影响AI对信息可信度的判断。
记者经多次比对后发现，将AI助手“联网搜索”的功能关闭时，其给出的答案与GEO服务机构提供的案例答案完全不一致。对此，GEO服务机构人员表示，“联网搜索到的是最新数据，不联网搜索到的是大模型里自带的数据，95%的用户都会使用联网搜索”。
以当前的技术手段，无论是在训练前过滤恶意语料，还是在检索时识别欺骗性网页，都存在一定难度。“在防御措施方面，这是一个持续的猫鼠游戏。”徐跃东表示。目前多数大模型主要通过在检索前评估信息源可靠性、在检索中进行多源交叉验证、在生成前增强模型鲁棒性（模型对于异常数据或噪声的抗干扰能力）等环节构建防御体系。但对于那些精心设计的高阶“GEO攻击”，徐跃东坦言，“防御难度较大，成本也相对较高”。
吴书特别指出，最新研究表明，仅需数百条被精心设计的“污染”数据，就足以让拥有上亿参数的大模型产生认知偏差。由于训练语料的规模极其庞大，所以在其中混入几百条被恶意处理过的内容是轻而易举。
“如果植入的广告不明显，且没有明确标识，它们被混杂在客观信息中，会让公众难以获取全面中立的观点。这不仅会损害用户体验，长此以往还会污染模型，使模型质量降低。”这些存在偏差的数据可能还会被AI再次学习，在封闭的环境中得到加强，产生“回声室效应”，导致偏见和信息失真不断加剧。
在这个AI不断发展的时代，如果商业信息通过技术手段持续优化、抢占位置，那么弱势品牌、公益信息和少数派观点就会被挤压甚至被淹没。吴书表示，公众希望将AI作为客观、高效的工具来使用，一旦他们发现AI给出的答案中混杂了未声明的商业意图，这种信任感就会被严重透支，最终伤害的是整个行业发展的根基。
徐跃东特别提醒，受到数据污染的人工智能生成的虚假内容，可能成为后续模型训练的数据源，形成具有延续性的“污染遗留效应”。长此以往，还可能引发现实风险，比如被运用在金融、医疗等高价值领域，对相关领域造成实质性损害。
当AI推荐“变了味儿”
GEO的操作不像传统广告那样令人一目了然，而是“润物细无声”地左右着用户的决策。从AI直接获取答案的使用者们，在不知不觉间踏入了被操控的消费陷阱，这也成为了新的法律灰色地带。
对此，北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括指出，未声明的商业推广在很大程度上符合《中华人民共和国广告法》中对于“广告”的界定。他认为，根据《中华人民共和国广告法》第二条，当商品经营者通过特定媒介直接或间接介绍其商品和服务时，即构成广告行为。“在当前讨论的现象中，通过改变内容输入来指向特定服务或为产品做推广，符合广告的基本属性。”
不过，在实际执法过程中，这类隐藏在AI中的广告面临着三重认定困境。首先是显性特征不突出，商业意图在内容迁移过程中被技术外衣深度包裹；其次是主观意图证明困难，吴沈括分析道，“由于技术逻辑拉长了因果链，导致广告认定的直接性被削弱”；最后，由于各方主体在业务操作中的定性具有模糊性，使得将其直接归入广告范畴仍存在实践困难。
针对AI中的推广，最大的挑战在于其因果逻辑复杂、监测取证困难以及难以被跨地域协同监管。
对此，吴沈括建议，监管方需要建立“生态治理”思维，引入技术、标准与规则，为责任界定提供更清晰的框架，捍卫用户的知情权与选择权。
智能与真实之间的平衡
AI助手中到底该不该存在广告呢？
吴书认为，作为一个为公众提供服务的互联网产品，在其中投放广告是一种合理的回报方式。随着用户的使用习惯逐渐从搜索引擎转向大模型，大模型自然会成为广告的新载体，如果管理得当，有望成功塑造一个健康的新业态。
在徐跃东看来，未来AI中的广告将朝着多模态、交互式和自动化的方向演进。他表示，在未来，广告不仅会将声音、图片、视频等多种形式整合在一起，还能借助智能体技术实现个性化创意生成。不过，徐跃东也强调，如何在创新与规范之间取得平衡至关重要。
吴沈括强调，对此类操作进行显著标注是未来的发展方向。目前，《人工智能生成合成内容标识办法》可以作为法律依据；其次，《中华人民共和国广告法》中规定的广告具有可识别性，和《中华人民共和国消费者权益保护法》也要求尊重消费者的知情权、选择权。同时，将广告明晰标注能让用户在决策时拥有更坚实的事实基础。
此外，多名专家提醒，品牌方必须树立合规红线意识，杜绝编造虚假信息，在与合作方的协议中明确权责，建立全流程的监测监督机制。
与此同时，吴沈括建议，AI使用者（消费者）也需要持续提升自身的数字素养，对AI提供的信息保持审慎的态度，学会交叉印证，判断信息的真实性和来源的可靠性。
更专门的法律条款、更透明的标注机制和全流程的合规意识，可以确保技术进步不偏离法治与公平的轨道。
记者/ 姚抒廷
剪辑/ 杨绎霏 姚抒廷
编辑/ 阚纯裕