生成式人工智能正在使电子商务欺诈民主化，诈骗者越来越多地使用人工智能生成的图像来确保他们从未退货的物品获得退款。根据 有线长期以来，在线购物平台一直依赖客户提交的照片来验证退款请求，但它们正在努力区分真实的损坏索赔和捏造的损坏索赔。
这个问题在中国社交媒体平台上变得尤为严重，例如 红笔记 和 抖音。 《连线》重点报道了最近发生的一起案件，涉及一位名叫高靖的螃蟹商人，他收到了退款索赔，并附上了一段“死”螃蟹的视频。当卖家注意到视频中的生物学不一致之处时，欺诈行为就被揭露了：螃蟹的腿数量错误，而且螃蟹的性别在剪辑之间发生了变化。警方调查证实该视频是人工智能生成的，导致买家被拘留。
这个问题不仅仅限于个人诈骗者。 Michael Reitblat，欺诈检测公司首席执行官 福尔特，告诉《连线》，人工智能处理的退款申请增加了超过 15% 自今年年初以来在全球范围内。据报道，有组织的犯罪团伙正在使用这些工具进行大规模自动化欺诈，利用轮换 IP 地址向零售商发出“损坏”家居用品的虚假索赔。虽然一些商家正在部署自己的人工智能工具来检测篡改的图像，但该技术仍然不完善，迫使零售商考虑更严格的退货政策，这可能会给诚实的购物者带来不便。
《连线》杂志在同一篇报道中更详细地介绍了“宜昌啤酒”的病毒式成功。尽管其品牌带有汉字和龙的图像，但该啤酒实际上是在 哈萨克斯坦 最初在俄语市场销售。该产品的标签称其自 1858 年开始酿造，比啤酒传入中国早了几十年。具有讽刺意味的是，这种啤酒因其“假”传统而在中国社交媒体上疯传后，现在却在宜昌市进口和销售。
