近日，浙江萧山公布了一起案例，男子用“AI换脸技术”合成淫秽视频，甚至根据顾客的需要，使用不同的女明星的形象，进行“私人定制”。检察院以以制作、传播淫秽物品牟利罪对其提起公诉。
男子用“AI换脸”伪造女明星淫秽视频牟利
据萧山区人民检察院微信公众号信息显示，安徽男子虞某在2020年“AI换脸”刚刚兴起时，就对这项技术产生了兴趣，专门在网上购买了换脸软件的教程并通过自学掌握了这门技术。“换脸”剪辑开始有热度后，虞某在某社交平台上注册账号并建公开群，吸引更多对“AI换脸”技术感兴趣的人到他本人所建的群里来。偶然的一次机会，虞某看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。
虞某先是将“换脸软件资源群”的原群名更改为“女神试看群”，后又下载了部分淫秽视频，截取片段后发布在该群中。当观看者达到一定人数后，虞某会发布群消息称，进入“内部群”可以收看完整版。虞某称，他会在“内部群”里放一些清晰度更高、时长更长的淫秽视频，而观看者想要进入“内部群”则要缴纳198元到498元不等的“会费”。
虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星形象，进行“私人定制”。也有不少人因为看了这些视频后对换脸技术产生了兴趣，向其咨询如何购买换脸软件，短短几个月，虞某就获利了数万元。