每当人工智能欺诈成功时，就会破坏社会的诚信。最终买家的信誉将受到损害，平台将收紧规则。这种猜测没有赢家。近期，“双十一”炒作刚刚结束，不少电商卖家反映遇到利用AI伪造产品缺陷以获得“只能退款”的情况。一家服装店的客服人员瑶瑶说，有顾客说她收到的衣服领口严重脱线，并附上了一张照片。但事实上，离线光线角度与整件衣服的光影明显不一致，并且在边缘处形成了典型的痕迹。这种明显的欺诈行为仍然坚持只退款，这是令人无法接受的。其中有消费者提交的发霉变质的新鲜水果、有大面积污渍、破洞的全新衣服、完好无损的皮鞋，鞋底脱皮、脱皮疼痛等。西安一家陶瓷店的老板王强也遇到了类似的情况。买家称杯体有裂纹，申请“仅退款”，并附上多处裂纹的照片。出于谨慎，他邀请买家进行视频验证，但买家拒绝并表示不需要退款。王强利用AI检测工具分析后发现，该图像有92%的概率是AI生成的。多位电商客服人员表示，部分消费者熟练使用AI工具。 Kun如果指令足够详细，生成的图像将非常逼真，几乎无法识别。现在在日常的客服团队会议中，如何识别假的AI图像已经成为新的培训话题。除了利用AI生成假照片之外，一个相关的灰色产业也围绕着“Refund Only”展开。有人表示，交288元的学费就能教会他们“重新学习”。一个账户可成功退款近30次，学生显示“累计收入2000元”。