4月9日，据杭州市人民检察院通报，80后安徽男子于某因涉嫌制作、传播淫秽物品牟利罪被提起公诉。
于说，早在2020年“AI换脸”刚刚起步时，他就对这项技术产生了兴趣。他甚至在网上购买了换脸软件的教程，通过自学掌握了这项技术。
“变脸”视频开始流行后，他想到了在网上推广这项技术和相关软件并从中获利。于是于某在国外社交平台注册了账号，并建立了一个公众群。打广告、发链接等，吸引更多对“AI换脸”技术感兴趣的人加入他创建的群。
但一段时间过去了，于氏的公众群体却始终没有受到太多关注。一次偶然的机会，于某在国外平台上看到有人会在群里发布一些淫秽信息来吸引别人的注意，他开始产生了错误的想法。
于某先将原来的“换脸软件资源群”的群名改为“女神试玩群”，然后通过网络下载一些淫秽视频，截取片段发布到公众群中，以吸引和招募观众。加入。当观看人数达到一定数量时，于会发布群消息，称进入“内部群”即可观看完整版。
于称，他会将一些清晰度更高、时长更长的色情视频放在“内部群”中，想要进入“内部群”的观众必须缴纳198元至498元不等的“会员费”。
此外，于称，“内部群”中发送的许多淫秽视频是他利用“AI换脸技术”合成的。根据客户的需求，他还可以利用不同女明星的形象进行“私人定制”。
很多人在观看这些视频后也对换脸技术产生了兴趣，并询问如何购买换脸软件。
一方面，通过“吸粉引流量”收取会员费；另一方面，频频通过销售“换脸软件”获利。
余原本停滞不前的“生意”一下子红火起来，短短几个月就赚了数万元。
截至案发，公安机关已核实于某建立的公众群内淫秽色情视频1200余条、图片1600余张。经鉴定，上述内容均为淫秽物品。
2023年3月28日，萧山区检察院以营利罪制作、传播淫秽物品罪依法对于某提起公诉。
该案目前正在法庭审理中。
检察官提醒：近年来，“AI换脸技术”频频被一些不法分子盯上，后续犯罪手段也层出不穷。
除了女明星之外，一些犯罪分子还利用“AI换脸技术”对普通人进行创作，制造一些所谓泄露的“私人照片”，对当事人进行敲诈勒索。
用户评论
灵魂摆渡人
哎呀，这AI换脸技术也太厉害了吧，但是用在色情视频上就太可怕了。私人定制这个说法，简直就是在玩火啊。
有5位网友表示赞同！
优雅的叶子
这种事情怎么就发生了呢？AI换脸技术原本是用来做好事的，现在竟然被用在这么不堪的地方。这男子真是该受到法律的严惩。
有11位网友表示赞同！
珠穆郎马疯@
听说这个男子还被指控了，真是大快人心。这种违法行为不能容忍，必须严查到底。
有9位网友表示赞同！
ゞ香草可樂ゞ草莓布丁
现在的AI技术发展得太快了，但是监管也要跟得上啊。不然这种事情还会层出不穷。
有8位网友表示赞同！
留我一人
私人定制色情视频，这简直是犯罪行为。我都不敢想象，竟然有人敢这样做。
有15位网友表示赞同！
颜洛殇
AI换脸技术如果用在正当领域，那该多好。但是用在色情视频上，简直是道德沦丧。
有7位网友表示赞同！
嘲笑！
这个男子的行为太恶劣了，竟然还敢公开出售。社会风气都让他带坏了。
有19位网友表示赞同！
情深至命
AI换脸技术被滥用，这也反映出我们社会对于网络道德的忽视。必须加强教育，提高大家的法律意识。
有17位网友表示赞同！
箜明
这个新闻让我对AI技术产生了怀疑，感觉它被滥用得太严重了。
有6位网友表示赞同！
仰望幸福
私人定制色情视频，简直是犯罪。这个男子应该被重判，给其他人一个警示。
有13位网友表示赞同！
相知相惜
AI换脸技术一旦被不法分子利用，后果不堪设想。希望有关部门能加强监管，防止这类事件再次发生。
有13位网友表示赞同！
我一个人
这个男子被指控，真是太好了。我们应该支持法律制裁这种行为，保护社会的纯洁性。
有18位网友表示赞同！
素婉纤尘
AI换脸技术本无罪，但是用在错误的地方，就是大错特错。希望这个男子受到应有的惩罚。
有14位网友表示赞同！
空巷
这种私人定制色情视频的行为，简直是对人性的亵渎。社会不能容忍这种行为的存在。
有16位网友表示赞同！
一纸愁肠。
这个男子的行为简直令人发指，他不仅破坏了社会风气，还侵犯了别人的隐私。
有13位网友表示赞同！
蝶恋花╮
AI换脸技术如果被用于正当领域，那是科技进步的体现。但是滥用技术，就是犯罪行为。
有15位网友表示赞同！
厌归人
这起案件再次提醒我们，科技是一把双刃剑。我们需要在享受科技带来的便利的同时，也要警惕其潜在的危害。
有19位网友表示赞同！
◆残留德花瓣
私人定制色情视频，这种行为太过分了。必须严厉打击，还社会一个清朗的网络环境。
有6位网友表示赞同！