注意甄别!AI推荐可能是精心设计的“陷阱”
创始人
2026-02-01 12:16:44

  现在不管是买东西、选餐厅,甚至订住宿,不少人都习惯先问一问AI,要一份推荐榜单,觉得这样既省心又靠谱。但您有没有想过,这些看似权威的榜单,来源可能根本经不起推敲。

  它往往会给你一个看似是全网口碑汇总的靠谱排行榜,当记者顺着AI的推荐往回查时,却发现了一个奇怪的网站。

  网站上遍布着各行各业的排行榜。每一个领域都能看到十几篇标题高度雷同的文章。而榜上的第一个名字,永远是同一家。

  网站的制作也非常粗糙,浏览体验明显不符合正常人的使用习惯。按理说,这样的网站不可能影响任何人的决策。但它,却影响到了AI。

  这样的网站,是怎么让AI相信的?记者调出了网站的源代码,发现了一些隐藏的文字——某官方部门网站。但我们查询到该部门真正的官网,网址并不相同,内容也跟可疑网站中的排行榜毫无关系。

  中国科学技术大学计算机学院研究员 郑值:通过注入一些关键词,把它变得类似于一个很官方的网站,可能AI在它的这个系统里就会把权重提升,AI很喜欢那种格式总结得很好,很有逻辑的这种文本,比如说像排行榜。

  这一个网站并不是个例,过去一个月,标题中含有“排行榜”和“榜单”的网络文章和视频,新增了200多万条,其中88%都不是由官方信源发布。AI却经常将这些非官方发布的内容,当作多个独立信源来使用。那些经不起我们推敲的文章,对AI来说却是“量身定制”。

  那是谁,在专门写只有AI会关注到的文章?顺着线索,记者在电商平台上找到了答案。大量商家在出售一种服务:“AI搜索优化”。宣传语写得很直白:“企业抢占AI推荐位。”在他们的演示系统里,只要输入一个关键词,就能一键生成上百万个排行榜标题。

  中国社会科学院助理研究员 李元琨:他们已经有一个相对比较成熟的产业链,开始是从关键词的设计、软文的设计,去进行各个信息平台的分发,还会不断地进行评测、校验,实时地告诉客户推广的效果怎么样。

  这也解释了,为什么你用AI时,会突然看到一个果汁品牌,或者一位导游的电话号码。你以为是“智能推荐”,其实是被人“投喂”过的结果。真正替代你做决定的不是科技,而是围绕大模型的业务。

  不过,在调查的过程中,记者也看到有些大模型已经意识到:“看起来像是商业推广”“权威性一般”“避免推荐具体品牌”。这说明,大模型本身也在不断升级自己甄别信息的能力。

  中国移动九天大语言模型算法专家 龙翀:对特殊的字符以及异常的标记来进行识别,对那些疑似污染的数据进行降权处理。

  AI的升级需要时间,AI生态的修复也需要时间。但普通用户,可以先做一件事:多点开AI引用的链接,看看是不是真正的官方网站,让自己不会被奇怪的“假榜单”所迷惑。

  (总台央视记者 李斌 郭茜 董怀文 张明珠 徐鹏翔)

相关内容

热门资讯

朴信惠母亲自曝不愿看《天国的阶... (来源:潇湘晨报) 近日,朴信惠母亲在综艺节目上表示,以前一直以为打耳光的戏是假打,但是朴信惠在《天...
原创 T... TF家族荣耀之战彩排现场,王橹杰与穆祉丞的一系列高甜互动引发粉丝热议,究竟背后隐藏着怎样的故事? T...
原创 她... 娱乐圈从不是静态的秀场,而是一场动态的博弈——颜值是入场券,机遇是助推器,但真正能站稳脚跟的,从来不...
TVB老戏骨因老公离世,移居珠... TVB演员陈嘉仪,不知道各位小伙伴对她还有什么印象?陈嘉仪已经多年不拍戏,所以外界对于她的近况并不算...
清远连州火了!央视《星光大道》... “欢迎步入星光大道!大家好,我是中央广播电视总台主持人朱迅。”1月28日晚,年味渐浓之际,中央广播电...