点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

作者:守一
如今,很多人已经养成了一个习惯,“遇事不决先问AI”。包括买东西时,人们也可能会先问一下AI,比如哪个品牌的耳机更好等等。用户通常会以为,AI的回答是基于大数据,相对客观、准确。但这种信任,可能正在被动摇。
据央视网报道,电商平台上,一种名为“GEO”的操作正悄然嵌入各类AI助手的信息流中。不少机构声称,GEO优化能实现“躺着涨流量”,通过训练大模型的方式“修缮”品牌形象,甚至能让品牌方稳坐AI推荐中的首位。
这种GEO操作,在技术上确实是可实现的。商业机构可以通过批量炮制问答帖、仿冒官方白皮书、劫持旧域名等手段,把特定品牌信息喂给大模型,使其在回答用户提问时,不自觉地引用并推荐目标商品。用户本来是想方便快捷地获取客观信息,却在无意中接收到了商业营销内容。这种广告不仅比传统的媒体广告隐蔽,也比某些搜索引擎的竞价排名都更“高明”。
对用户来说,这种“高明”当然并非好事。一方面,这是一种信息污染,会挫伤用户对AI生态的信任。在AI蓬勃发展的当下,很多用户本来对机器生成的内容赋予了更高信任度,尤其在医疗健康、金融理财等高风险领域。如果GEO操作越来越普及,虚假信息污染AI生成的结果,就可能危害用户的人身和财产安全。一旦发生有影响的个案,就可能造成人们对AI的信任崩塌。
另一方面,更实际地说,这种隐蔽的广告形式,使责任归属更加模糊。过去传统的广告中,责任链条相对清晰,从广告主到制作方到发布平台,是哪一环节出了问题,可以锁定证据和责任。但在GEO场景里,广告主可以躲在幕后,GEO服务商可以声称只提供数据优化,模型平台也可以辩称仅概率生成……用户如果受到虚假广告误导,追责难度将会非常大。
所以,无论从保护用户还是确保AI健康发展的维度,都有必要对这种现象及早进行规制。比如,以行业公约或者法律法规的形式,明确禁止以隐蔽形式在信息服务中植入实质广告。对利用伪造权威、暗注提示词等手段“污染模型”的行为,应该直接视为虚假广告,处以罚款或者纳入行业信用黑名单。
除了警惕这些行为,也有必要明确平台方作为技术守门人的责任。对未显著标识广告的AI输出,一旦出现虚假宣传、夸大宣传,消费者可要求平台承担连带赔偿责任。平台如果觉得自己无辜,可以赔偿后再向品牌方或GEO服务商追偿,但首先要确保用户权益被侵害后的救济渠道是通畅的。
GEO若被放任成为“灰色工具”,最终伤害的不只是消费者,更是AI行业自身的长远发展。技术的发展,说到底应该帮助人类实现更好的生活。正如很多专家一再强调的,技术可以中立,但应用一定要是向善的、责任明确的。把广告做在明处,把责任划分清楚,才是对用户负责,才是面向未来的真创新。(守一)
