近期科技媒体《The Verge》披露了一项关于人工智能聊天机器人在购物场景中信息准确性的调查结果。数据显示,在针对品牌商品购买渠道的提问中,Perplexity的回答有15%包含风险网站;相比之下,ChatGPT的比例为8%,Gemini则仅为4%。值得注意的是,该数据反映的是回答中提及风险链接的频率,而非用户实际遭遇欺诈的比例。
本次测试于9月开展,共进行两轮,研究人员向三款主流聊天机器人提出关于151个品牌的购买问题,累计获取6795条回答。问题主要集中在“何处可购”及“是否支持海外配送”等实际需求。整个过程未使用真实用户对话数据,确保测试环境可控。
调查中,“风险网站”被定义为以下四类:冒充品牌名称的仿冒购物平台、通过第三方重新注册的旧品牌域名、已停止运营的废弃网站,以及未明确标注来源或缺乏警示提示的直接链接。这类归类并不意味着这些站点当前仍在实施欺诈行为,而是强调其潜在误导性。
分析显示,涉及大品牌的提问中,风险网站出现率约为小品牌的一半。但当用户询问特定区域的销售点时,风险链接的出现概率明显上升。部分案例表明,对于在某些国家无官方销售渠道的品牌,系统错误推荐了非官方的区域性网站。
报道特别提到一个典型案例:Perplexity曾将非Stüssy官方主页的页面误标为品牌入口,并暗示其为正品购买起点。尽管该案例可能无法完全代表整体表现,但仍凸显出模型在品牌识别与渠道验证方面的局限。
发起调查的Podqi是一家专注于品牌知识产权保护的服务机构,其研究方向与业务高度契合。由于缺乏具体的技术参数(如模型版本、分类标准),外界难以复现测试流程,也限制了对结果的深入验证。
随着生成式AI逐步渗透搜索服务领域,安全性问题日益受到关注。三家科技公司对此作出回应:
Google(谷歌)
谷歌表示,Gemini在测试中风险网站比例最低,同时强调用户可通过查看回答附带的来源链接自行核实信息真实性。
OpenAI(开放人工智能)
OpenAI指出,其设计目标是引导用户前往可信购买渠道,并已强化安全机制以减少误导内容输出。此外,其购物指南功能所展示的链接部分来自第三方和卖家,建议用户在下单前主动确认价格、库存、退换货政策等关键信息。
Perplexity
Perplexity重申其数据源的高精度定位能力,但承认无法实现百分之百的信息准确性,未来将持续优化内容审核体系。