定制需求火爆
AI 换脸黑产愈发猖獗,部分卖家称定制视频需排队,前面好多人等着制作,由此可见其发展规模不小。众多人有定制视频的需求,这反映出该黑产在市场上有一定的热度,已然形成了一定的市场规模,其中存在的问题值得引起重视。
许多人急于定制此类视频,背后的目的令人深思,是单纯的娱乐还是有着不可告人的秘密?黑产在这种旺盛需求下不断扩张,对于社会的影响和冲击不容小觑。
平台审核现状
对淘宝、闲鱼、贴吧三个 AI 换脸活跃平台调查发现,如今平台加强了审核。在淘宝输入“AI 换脸”,前 10 个店铺只有一家相关且只提供教程。所有返回店铺中,仅 7 家经营该业务,大多只售软件及教程。
闲鱼搜索结果第一条就是相关店铺,多数做图片换脸,还有部分售卖不明确软件和成品视频。贴吧情况各异,AI 换脸吧多售卖成品或教程,fakeapp 吧则以技术交流为主,情况复杂难测。
调查提问内容
与卖家取得信任后询问多个问题,像售卖内容、价格、是否可定制、所用软件等。通过这些问题,试图了解黑产的运营模式和获利方式,以便更好地洞察其背后的操作逻辑。
询问这些问题,就是想揭开其神秘面纱,看看他们究竟是如何运作的,掌握他们的细节,为进一步打击黑产提供有力的证据和依据。
黑产发展阶段
AI 换脸黑产主要停留在三个阶段:售卖成品情色视频、售卖定制视频、售卖软件及教程。这三个阶段层层递进,相互关联,形成了一个完整的产业链。
不少卖家会先给买家发成品羞耻视频或截图证明效果,定制只需提供 5 张左右照片,因渲染时间长所以收费贵。这种方式可以吸引更多的买家,让他们看到所谓的效果而心动。
APP 视频情况
在卖家提供的 APP 里,有专门换脸专区,有大量成品视频。但部分视频和其他卖家的一样,这说明这些视频来源复杂,可能存在互相盗用或共享资源的情况。
换脸黑产的卖家发朋友圈声称不涉黄违法,但实际情况并非如此。他们想用这种方式来掩盖自己的违法行为,欺骗消费者和监管部门。
换脸操作难度
据用户反映,用 deepfakes 做 AI 换脸简单,有基础电脑知识和符合要求的配置就行,新手几小时就能做出粗糙视频,最初多针对国外流行内容。这表明换脸技术的门槛在逐渐降低,更多人能够接触和掌握,这也增加了黑产泛滥的风险。
技术的便捷性给普通人带来新奇体验的同时,也给不法分子提供了可乘之机,如何在技术发展中保障安全是当务之急。