建“女神群”发小视频赚钱，还可定制“女明星脸”，他栽了 ...

莱阳妞妞

原标题：建“女神群”发小视频赚钱，还可定制“女明星脸”，他栽了
                          近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。
4月7日，浙江杭州萧山区检察院曝光的一个“女神群”，引发关注。名为“女神群”，群成员却都是一群大老爷们。每天都不停地有人入群，但除了群主虞某外，很少有人发言。这个群里究竟有着怎样的秘密？
“女神群”里的秘密
早在2020年，“AI换脸”刚刚在国外兴起的时候，80后安徽小伙虞某就对它产生了兴趣，自学掌握了这门技术。
. X; K) L' {) N8 p/ f0 f 后来随着“AI换脸”技术的走红，让虞某嗅到了商机。他想到在网上推广该项技术及相关的软件，并从中获利。
" j) u) i9 C1 Z) b! e 但一段时间过去，虞某却始终没有获得什么关注度。偶然的一次机会，虞某看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。
4 X/ i8 J& M. e- u 虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。
除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。其中，经警方查实，几位人气女明星成了虞某“AI换脸”淫秽视频的“重灾区”。
' }' W- r& m) g3 Y, R3 G. { 一面通过“吸粉引流”，收取会费；一面又通过出售“换脸软件”，频频获利。虞某短短几个月的时间里就收获了数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。
1 T) M; w3 ^7 O% Z: u6 }. D; E 2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。
律师：无论盈利与否
5 G1 Y$ @# G/ _. l! V7 \; G+ X 未经授权即涉嫌侵权
“AI换脸技术”频频被一些犯罪分子盯上，除了女明星外，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。
" m3 C3 R7 T  e% u9 Q, }- m/ S 杭州萧山检察官提醒，即便只是用“AI换脸技术”来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。这不是开玩笑！希望大家依法使用该项技术，一旦遇到类似本案中利用AI技术实施犯罪行为的，应第一时间固定证据，并及时向司法机关报案。
/ N' M! Q" G# @) Y' h3 W 类似事件近日已出现多起。比如广州一女子在地铁上的照片被他人使用AI技术“一键脱衣”，虚假图片在网络广泛传播。此前，某男网红使用“AI换脸”技术，替换掉电视剧中的男主角头像，制作自己与女明星亲吻的画面，同样引发争议。
( c; R# c  S7 g
2 [4 [) f! ^' m* \& x/ A  J8 o
此前报道：男网红AI换脸热吻女星引争议
* K' X+ J( z0 l 南方日报记者近日调查发现，互联网上有人售卖人脸合成视频制作教程和明星人脸“万能模型”，一套模型只需10元，购买后可在软件内直接用于生成“换脸”视频。
4 c% d& b- i5 M! q0 e5 u 针对“‘换头’亲吻女明星”事件，南方日报报道称，广东立幸律师事务所律师莫圣玮认为，男网红利用技术手段制作自己与女明星“亲吻”的画面，可能侵犯了女明星的肖像权和名誉权。而其在未取得影视作品授权情况下对作品进行二次创作，并发布用于营利，还可能构成对影视作品版权的侵权。
+ a9 K+ J- b, _$ D$ E2 [/ _ 在女子被“一键脱衣”事件中，莫圣玮认为，造谣者除侵犯受害者民事权益，可能还涉嫌诽谤罪、侮辱罪，如果大量传播照片并牟利的，则涉嫌传播淫秽物品罪。
7 T8 t6 b* C; C4 E+ p0 i6 b. C 加强对“AI换脸”等深度合成技术的规范，有关部门一直在行动。
2 W8 r6 o. B( _' Q( C. | 今年1月，《互联网信息服务深度合成管理规定》实施，其中明确规定网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。
编辑|卢祥勇 杜恒峰
校对|王月龙
每日经济新闻综合自萧山检察、杭州日报、南方日报
每日经济新闻