挡不住的“移花接木”，AI 时代如何保护我们的“脸”？ ...

BLOG宣传大使

2019 年一部英剧在国内大爆，豆瓣 8 万多人打出了 8.9 的高分，它就是《真相捕捉》。剧中基于一套人工智能的人体图像合成技术，可以实现换脸、换声音、换人，甚至 " 隐藏 " 真身，以实现对现实世界的影响和干预。
' b8 J+ r1 |' p1 ~3 N* b# v' u! F: wAI 已是零门槛 真相更是难捕捉
随着信息科技的发展，电影中的情节逐渐 " 照 " 进现实。近日，广州一名女子在网上晒出自己在地铁列车上的照片，被别有用心的网友下载，并用 AI 技术 " 一键脱衣 "，且将 " 除衣 " 后的照片广泛传播，引发大量关注。而这只是冰山一角，在此之前，很多国外一线女明星也都被迫 " 出镜 "，换脸成不雅影片的女主角，其中女演员艾玛 · 沃特森的 30 秒换脸视频，有超过 2300 万次的播放量，造成了非常恶劣的影响。


! j) I7 G9 x3 x: T0 A* u
( t0 k: h" P3 f" P" u图：广州女子在网上晒出自己被 " 除衣 " 之前的照片
据 Sensity 网站透露，去年他们检测到了超过 14600 部人工智能换脸视频被传播到网上，其中 96% 全部是不雅视频以及相关内容，而且视频主角大多数为女性。而到了今年，这些视频翻了近三倍，达到了 50000 部！而且画质、精细程度飞速提升，几乎已经到了真假难辨的地步。在茫茫的互联网世界中，真相对于我们来说，远比假新闻更难以捕捉。有网友在评论区十分担忧地表示："AI 犯罪要来了吗？"
' I6 k  F. x) p& X4 }  _) p答案是肯定的，据了解，2018 年 deepfake 的代码已经是开源状态，这意味着任何人都可以免费使用这个技术——在网上搜索 " 一键脱衣 "，就有一堆免费教程，甚至显示最近 24 小时，就有 1221 人下载使用；而在某购物平台上，搜索 AI 换脸制作软件，售价低到十几元左右，还附赠虚拟直播教程，可见这项技术早已毫无门槛可言。
" U7 t, G" ]3 ]0 Y6 `! X7 @
6 j$ q$ ^7 r! C* I! W( F2 b7 E
  B- I1 G. d) x8 r
图：网上 " 一键脱衣 " 的免费软件简单易操作
9 x  K* D7 r: W1 j0 d
- K4 t8 q- n4 B8 N/ _5 J$ R

% O  {( T5 ?1 M# s! z$ q图：某宝上的换脸软件低至十几元还附赠多个套餐。
" 移花接木 " 的 AI 诈骗打开了潘多拉魔盒
& y9 F7 e' o) x% f) Z. v. C然而用 AI 犯罪，造黄谣只是第一步。现在就连国际政要也无法绕开 AI 的 " 陷害 "：早在前几年，奥巴马被换脸后，大骂 " 川普是笨蛋 " 的视频在全美疯传；" 特朗普被捕 " 的事情还没有发生，但他被 AI 换脸后，被捕的图片已经在一些网络平台热闹起来；甚至号称铁娘子的希拉里也在 AI 换脸的操作之下，变成了 " 街头乞丐 "…… 更有甚者，在印度议会选举期间，一名候选人为了拉拢小语种选民，用 AI 换脸技术，让别人替他说了一段小语种语言进行拉票，而他本人其实是不会这门语言的。

2 z( g$ I% w0 U

4 A1 J% v& h& z" g图：美国多名政要都没能逃过 AI 换脸的戏弄。
但不要以为 AI 只会盯上明星政客，我们的钱包对于黑客来说，同样有吸引力。4 月 1 日，央视网报道美国和加拿大各地最近使用 AI 合成语音进行电信诈骗的案例多发，黑客可以借助 AI 技术合成你亲戚、朋友的语言，发语音向你借钱，即便你有很强的戒备心想通过视频验证，手机里那个和你面对面聊天的人，也都可能被 AI 换脸模仿的天衣无缝；除此之外，黑客甚至将非法获取的人脸信息用于洗钱、涉黑等违法犯罪活动，导致受害人被无辜卷入刑事诉讼中，可谓人在家中坐，锅从天上飞。仅 2022 年，美国相关涉案金额已达 26 亿美元。
让 AI 的 " 移花接木 " 有法可依
) Q& a" p0 p! V) ]8 w* Q. W0 |细思极恐，当我们的生活逐渐步入 " 刷脸 " 时代后，门禁、支付、解锁 …… 被广泛应用，人脸数据也被大量采集，我们就面临着一定风险隐患，该如何保护自己？大众网 · 海报新闻编辑为您梳理了以下步骤：在涉及钱款的情况下，最好当面确认，或通过电话等多种方式进行多重验证，不轻信视频，以防被骗；同时，要增强个人信息保护意识，切勿在网络中暴露个人信息，以免不法分子利用 AI 技术，针对性实施诈骗；如发现受骗上当，及时拨打 110 报警电话！
; ~; Q- b* Z' x$ F' ]8 c& N另外，当 AI 换脸不再有门槛之后，新事物的新奇刺激着很多人 " 尝鲜 "，一些 "AI 换脸 "App 在趣味性背后暗藏不少法律风险和侵权纠纷。对此，众成清泰（济南）律师事务所高级合伙人程守法律师就 AI 技术可能会触碰的法律底线进行解读：
) x. g1 M8 }8 _( e《中华人民共和国民法典》对于人格权编单独成编，也表明对该等权利维护已经上升到一定高度，涉及肖像权、姓名权、名誉权等实际问题。其次在《中华人民共和国个人信息保护法》中规定：" 处理个人信息应当遵循合法、正当、必要和诚信原则 "，面对互联网中大量信息存在迅速扩散和不当利用问题，又制定了《中华人民共和国数据安全法》" 通过采取必要措施，确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的能力。"
AI 换脸技术和算法不断进步，如果能够识别要求作出动作并更新算法并非不能蒙混过关。但如果真的利用该技术窃取他人账户资金，就涉嫌盗窃或诈骗犯罪，还有利用 AI 换脸技术制作淫秽视频传播的，则涉嫌传播淫秽物品牟利罪。如果就此敲诈，又涉嫌敲诈勒索罪。如果有其他侵权意图，则可能涉嫌侮辱诽谤罪。但就此而言，虽然可以惩处，损害结果发生将导致很多问题和恶劣影响难以消除。更多的是需要每个人提高权利意识，减少不必要的个人信息采集和扩散。对于相关获取个人信息的机构而言，比如机场、银行、通信等行业，应当限于实现处理目的的最小范围，不得过度收集个人信息，并且要做好数据安全工作，防范数据泄露造成的损害发生，而损害一旦发生，应当立即启动法律责任追究机制并予以惩治，以儆效尤。
每一项新事物的产生，必然会引发一些阵痛。比如工业革命带来了环境污染、基因工程对人体健康产生了威胁 …… 而 AI 技术，在改善生活的背后，也面临着万千用户个人隐私泄露的安全问题，与其遏制其发展，不如用法律的武器捍卫道德的底线。在武侠小说中，能破解 " 移花接木 " 的武功叫 " 空木葬花 "，我们虽然阻挡不了 " 花 " 的飞舞，但是可以让 AI 画出的 " 花 " 在法律和道德的界限中自由飞舞。