与迪丽热巴“接吻”？AI 换脸玩大了！专家：风险不只是侵权 ...

亦心绿

文 / 羊城晚报全媒体记者 董柳
$ D7 E7 u) X% _4 j; |和迪丽热巴 " 接吻 "、与刘亦菲 " 深情对视 "、长得跟马斯克 " 一模一样 "、乘地铁的照片被 " 一键脱衣 " …… AI" 换脸 "" 换装 " 让人 " 于无声处听惊雷 "，屡屡冲上热搜。
"AI ‘换脸’虽然是一种技术上的进步，但是在使用这种合成技术时容易触犯法律，应谨慎对待。" 一位法律专家接受羊城晚报采访时说道。
8 @& q9 H& \/ l* T( K记者今天检索中国裁判文书网，输入 "AI+ 换脸 "，共出现 8 篇裁判文书，但结果都一样：被告运营的手机换脸软件被判侵权。
- l! c9 U; ~+ z. `
/ i2 m3 \4 L: Y4 Z: F
2 p7 _+ {8 [# Q8 A3 y
) x  H) i: ~3 ]0 WAI 换脸不少人爱用，多家网店有售
最近，广州一名女子在地铁上的照片被 AI" 一键脱衣 "，造谣图在网络广泛传播引发关注。实际上，照片的女主角是小红书的一名博主，所谓的 " 裸照 " 是她去年 7 月在平台分享的一张照片。原图中她衣着正常，无不妥之处，但却被别有用心之人用 AI 软件 " 一键脱衣 " 后全网散播。
AI" 换脸 " 后带来的瞬时 " 快感 "，也给一些使用者带来了 " 痛楚 "。也是最近的事儿：一名男性网红使用合成技术，将剧集《你是我的荣耀》中的一场吻戏 " 改头换面 "，变成一条他自己与迪丽热巴 " 接吻 " 的视频。3 月 25 日，该网红又在其社交平台上表示，其脸因为这事被女星的粉丝抓伤。
还有些无聊之人使用 AI" 换脸 " 技术让自己与刘亦菲 " 深情对视 "；去年，中国一位长得跟马斯克高度相似的人被指是 AI" 换脸 " 的结果……
本是游戏游戏，不小心就牵出了法律问题。就上述男子 AI" 换脸 " 与迪丽热巴 " 接吻 " 一事，中国政法大学传播法研究中心副主任朱巍表示，目前在司法实践中暂未遇到过利用 PS、特效等合成技术制作的影片被判定为 " 隔空猥亵 " 的情况，但该特效师的行为涉嫌构成寻衅滋事罪。
在一家著名的电商平台中，多家网店仍在兜售 AI" 换脸 " 软件和教程。其中一家网店标明 " 外面卖 298 元的 AI 人工智能换脸技术 换脸脚本 + 详细教程 " 用来招揽顾客，该产品页面显示月销 100+，还收获一片好评。
"AI ‘换脸’虽然是一种技术上的进步，但是在使用这种合成技术时容易触犯法律，应谨慎对待。" 广东大同律师事务所主任朱永平律师告诉羊城晚报全媒体记者。


" e' I& X6 x& {4 C' l0 X8 d
8 篇裁判文书指向：这是侵权行为
! r7 b& j$ f$ U% v5 R( qAI" 换脸 "，新技术中夹杂着侵权风险。
3 [% C; j" z! e25 岁的重庆人彭女士，2021 年入驻抖音平台并开设账号，粉丝人数 42 万，至今共发布含有她本人肖像的视频作品多篇，在圈内圈外均有较高的知名度和人气度。
/ E$ Q3 N3 X2 L" G4 h! Y7 Q7 \  u2022 年 9 月，彭女士发现，上海某信息科技有限公司在运营的一款手机换脸软件中，将众多网红或明星的肖像视频上传供用户使用，用户可以根据提交的头像照片，通过后期 AI 技术形成虚拟图像，达到高度近似的效果。
; Z! D/ g2 g7 I! I1 Z9 p她认为，该公司在未经授权同意的情况下，在软件中上传以她的肖像为标识的视频作品，并将该视频的角色开放给众多用户，该公司的行为侵害了她的肖像权并进行牟利，对她造成了精神困扰以及较大的经济损失。
, _+ |) I) ^& N7 w5 a* C8 z彭女士据此向法院请求判令该公司向她赔礼道歉，并在运营的手机换脸软件首页显著位置刊登对她的致歉声明，并赔偿她经济损失人民币 4 万元、精神损害抚慰金 5000 元、律师费 5000 元。
上海某信息科技有限公司则认为，彭女士主张的视频形象之前确实储存在软件素材库中，但系用户自行上传而非该公司上传。2022 年 9 月，该公司收到彭女士侵权主张后，已将该视频形象删除。软件现也已经更新用户协议，要求用户上传有授权的视频。由于彭女士的视频并非该公司上传，并且软件使用彭女士的视频也并非出于盈利目的，用户在换脸之后的形象也不再是彭女士形象，故认为并未侵犯彭女士的肖像权。
上海市浦东新区人民法院最近一审认为，自然人享有肖像权，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。为维护公共利益或者肖像权人合法权益，制作、使用、公开肖像权人的肖像的其他行为属于合理实施行为，可以不经肖像权人同意。现被告运营的手机软件未经授权使用了原告的个人形象短视频供人肆意修改替换，且其手机软件显然具有商业属性，其行为不属于法律规定的合理使用，对原告构成肖像侵权，应承担相应的侵权责任。被告的抗辩意见，不足以说明其行为的合法性，法院不予采信。
法院指出，被告侵害原告肖像权，原告主张道歉消除影响，于法有据，但应与原告侵权程度相适当。侵害自然人肖像权的，原告有权要求赔偿损失，但原告对其所主张的赔偿金额，并没有提供充分的证据予以证明，法院综合侵权情节、过错程度和维权成本，酌情认定为 4000 元。
% n5 h; E$ s- k) _% X记者用 "AI+ 换脸 " 检索中国裁判文书网，得出 8 篇裁判文书，均系 2022 年以来作出，被告涉及多家运营 AI" 换脸 " 软件的公司。在这八篇裁判文书中，法院均判决被告构成肖像侵权，判赔数额为 2500 元至 6000 元不等，并判决被告赔礼道歉。
2 K+ e3 \& z& Z5 Y0 S4 f( m


4 l$ ~6 r$ w0 ?; i4 V& N$ s& C# e$ _AI" 换脸 " 生成的作品应予以明确标示
/ Y$ G3 e! ?- T"AI ‘换脸’在科技领域叫 AIGC，就是利用人工智能技术来生成内容。到目前为止，我国在这个领域的直接性的法律规定，只有在民法典的肖像权部分有规定。在其他领域则是间接性的规定，比如网络安全法、《网络信息内容生态治理规定》对信息的真实性等提出了要求。" 朱巍说，2022 年，深圳、上海分别出台了《深圳经济特区人工智能产业促进条例》《上海市促进人工智能产业发展条例》，但都没有涉及深度伪造技术，包括深度伪造技术的呈现使用方面的要求等。
) ]  k0 V2 d+ N朱永平明确表示，未经他人同意使用 AI 技术 " 换脸 " 可能涉嫌侵犯肖像权、名誉权。民法典第 1019 条规定 " 任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。"
  b4 i7 f& `0 S. W/ }. ~3 D朱永平说，如果未经他人同意，通过 AI" 换脸 " 技术使用他人肖像，属于侵害他人肖像权的行为，如果在 " 换脸 " 过程中，故意丑化、捏造事实或做出使他人品德、声望、信用等造成社会评价明显负面的行为，则可能构成侵犯他人的名誉权，情节严重的，还可能构成侮辱罪、诽谤罪。
% {3 l0 }: i! ?  ]% h8 `在朱永平看来，AI" 换脸 " 技术有一定的现实需求，但前提应当是征得被使用人的同意，严格遵照被许可使用的用途，不得恶意丑化、捏造事实误导公众。相关部门及使用 AI" 换脸 " 技术的行业，应当组织开展自查整改，对于未经同意使用他人肖像换脸的视频图片进行下架处理，AI" 换脸 " 技术提供者和技术支持者应当在视频或图片生成后的合理位置做出明显标识等防止公众被误导的措施。
" 利用人工智能技术生成内容，带来的真正严重的问题，不仅是在人格权侵权领域，而且更多地出现在信息战领域，这甚至涉及网络安全和国家安全。" 朱巍告诉羊城晚报全媒体记者，像 ChatGPT 生成的图片是创造性的，这种情况下人们找不到它的原始图片，这对用户来说分辨真假更加难。
0 O3 C* I  f2 W" 所以，利用深度伪造技术形成的图片，反映在立法上应该受到一定的限制——不是说禁止这个技术，而是技术在使用中要受到一些限制，比如，第一，不得侵害他人的合法权益。第二，不能恶搞。第三，基于热点事件生成的图片，必须向社会公众明确标示此照片系 AI 合成，但目前还没有看到有强制公开标记这方面的要求。" 在朱巍看来，下一步，针对 AI 的专门立法 " 有必要 "，其中包括随着 AI 技术的发展，使用 AI 完成的作品应该有不可去掉的水印提示它是 AI 的产物。 ( 更多新闻资讯，请关注羊城派 pai.ycwb.com )
/ s5 I) K2 N7 p7 K% m7 z4 g! }! l9 S来源 | 羊城晚报羊城派
图片 | 新华社资料图
责编 | 陈诗洁