建“女神群”发小视频赚钱，还可定制“女明星脸”，他栽了 ...

莱阳妞妞

原标题：建“女神群”发小视频赚钱，还可定制“女明星脸”，他栽了
                          近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。
4月7日，浙江杭州萧山区检察院曝光的一个“女神群”，引发关注。名为“女神群”，群成员却都是一群大老爷们。每天都不停地有人入群，但除了群主虞某外，很少有人发言。这个群里究竟有着怎样的秘密？
“女神群”里的秘密
$ j; s% ]1 T: W% u* a5 Y6 F, \6 l 早在2020年，“AI换脸”刚刚在国外兴起的时候，80后安徽小伙虞某就对它产生了兴趣，自学掌握了这门技术。
后来随着“AI换脸”技术的走红，让虞某嗅到了商机。他想到在网上推广该项技术及相关的软件，并从中获利。
  X2 n( n" t3 N) o 但一段时间过去，虞某却始终没有获得什么关注度。偶然的一次机会，虞某看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。
2 L% A* U" j3 ^( T" c 虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。
" M( d2 L" l1 k 除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。其中，经警方查实，几位人气女明星成了虞某“AI换脸”淫秽视频的“重灾区”。
. {( t7 c# D: A 一面通过“吸粉引流”，收取会费；一面又通过出售“换脸软件”，频频获利。虞某短短几个月的时间里就收获了数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。
1 l, q$ w, ~) S/ G1 H1 `7 ?2 J9 p 2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。
# l- {/ E! {& d9 E2 A4 W/ j( \ 律师：无论盈利与否
未经授权即涉嫌侵权
/ G( \' L% Z$ e$ U% a# ~$ g# s “AI换脸技术”频频被一些犯罪分子盯上，除了女明星外，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。
& v& H9 x+ p( M) q' Q/ }7 M 杭州萧山检察官提醒，即便只是用“AI换脸技术”来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。这不是开玩笑！希望大家依法使用该项技术，一旦遇到类似本案中利用AI技术实施犯罪行为的，应第一时间固定证据，并及时向司法机关报案。
类似事件近日已出现多起。比如广州一女子在地铁上的照片被他人使用AI技术“一键脱衣”，虚假图片在网络广泛传播。此前，某男网红使用“AI换脸”技术，替换掉电视剧中的男主角头像，制作自己与女明星亲吻的画面，同样引发争议。

& f3 U' h7 y' H4 O$ o
2 V4 P2 o# ?! j) f5 H 此前报道：男网红AI换脸热吻女星引争议
1 ?2 Y9 p( N2 }5 H& b% Z2 P2 f 南方日报记者近日调查发现，互联网上有人售卖人脸合成视频制作教程和明星人脸“万能模型”，一套模型只需10元，购买后可在软件内直接用于生成“换脸”视频。
针对“‘换头’亲吻女明星”事件，南方日报报道称，广东立幸律师事务所律师莫圣玮认为，男网红利用技术手段制作自己与女明星“亲吻”的画面，可能侵犯了女明星的肖像权和名誉权。而其在未取得影视作品授权情况下对作品进行二次创作，并发布用于营利，还可能构成对影视作品版权的侵权。
' @# s5 C: |/ @7 v+ ~8 f" t, A 在女子被“一键脱衣”事件中，莫圣玮认为，造谣者除侵犯受害者民事权益，可能还涉嫌诽谤罪、侮辱罪，如果大量传播照片并牟利的，则涉嫌传播淫秽物品罪。
加强对“AI换脸”等深度合成技术的规范，有关部门一直在行动。
今年1月，《互联网信息服务深度合成管理规定》实施，其中明确规定网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。
编辑|卢祥勇 杜恒峰
校对|王月龙
  ^; P9 i% e+ \$ i0 s) T 每日经济新闻综合自萧山检察、杭州日报、南方日报
每日经济新闻