AI骗子制造假黑人形象在TikTok上销售Shein垃圾
“AI grifters are creating fake Black people to sell Shein junk”
2277 字
预计 9 分钟
中文摘要
The Verge调查发现，大量AI生成的假黑人女性网红在TikTok、Instagram和Facebook上通过dropshipping模式销售Shein（希音）上的廉价商品。这些账号使用AI生成的人物形象、脚本和自动回复，利用“同情心诱饵”吸引用户购买。例如，一个名为Aliyah的假黑人女性账号拥有4万粉丝，其最热门视频获得81.4万点赞、650万观看。专家指出，这些视频是“数字黑脸”（digital blackface），利用种族和阶级叙事操纵用户。AI视频生成工具如Seedance 2.0、Midjourney和OpenAI（开放AI）的Sora 2被用于制作15秒以内的片段，而ChatGPT和Gemini被用来复制真实网红的脚本。研究人员每天发现多达100个此类账号，且平台缺乏有效审核和标签。用户因短视频平台培养的浅层浏览习惯，难以辨别真伪。文章还提到，真实用户如《波托马克的真正主妇》明星Gizelle Bryant承认被骗购买产品。
核心论点
- AI生成的黑人女性形象被用于dropshipping诈骗，利用种族和阶级同情心诱导购买。
- 这些视频是数字黑脸，非黑人通过模仿黑人文化表达获取经济利益。
- AI工具链（ChatGPT、Gemini、Kling 2.0等）使创建虚假网红变得简单且规模化。
- 短视频平台的算法和用户习惯（快速滚动、浅层参与）助长了AI诈骗内容的传播。
- 平台缺乏有效的AI检测和标签机制，用户媒体素养不足，导致诈骗持续增长。
反方视角 / 盲点
- 文章未深入探讨平台（如TikTok、Meta）的商业模式如何激励此类内容，以及它们可能采取的技术反制措施。
- 未分析dropshipping供应链中Shein等平台的责任，以及消费者权益保护的法律漏洞。
对科技从业者的启示
- 对此类SaaS或工具产品启发：AI生成内容在社交电商中的滥用表明，检测AI生成内容的工具（如浏览器扩展或API）有巨大市场需求，可考虑开发浏览器扩展帮助用户识别虚假网红和诈骗
- 对桌面应用启发：可以构建一个跨平台的AI内容检测工具，集成视频分析、元数据验证等功能，帮助用户辨别真假
- 对独立开发者出海启发：警惕使用AI生成内容进行营销的合规风险，尤其是在海外平台，避免因数字黑脸等伦理问题引发公关危机