最新规定“ AI 换脸”应有显著标识，快报调查：仍有 App 无标识肆意换脸 ...

福特婚车队长

现代快报讯（记者 季雨）现如今，"AI 换脸 " 已经不是新鲜事了。只需一张照片，经过 App 的合成处理，就能瞬间成为另一个人，但 "AI 换脸 " 一直缺少专门的法律法规对其约束。近日，《互联网信息服务深度合成管理规定》发布，改变了这一局面。《规定》明确，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。12 月 14 日，现代快报记者对现存的 AI 换脸市场进行了调查。



△换脸 App 界面
; P& i  c) X, _4 z, d" G规定
! r. V) e/ t9 p! i1 @, j6 Z! i国家三部门联合发布，规定 "AI 换脸 " 应有显著标识
- x3 G" Z0 ?8 D  l, W' g9 Z9 {近年来，深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。
0 V* A9 O, Q* f$ r0 I12 月 11 日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》明确了深度合成数据和技术管理规范，要求深度合成服务提供者和技术支持者加强训练数据管理和技术管理，保障数据安全，不得非法处理个人信息，定期审核、评估、验证算法机制机理。深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。
5 o; o) J# v" }6 h8 S: M不仅如此，《规定》还提到，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。
调查
仍有 App 无标识肆意换脸，整个换脸过程不到 10 秒钟
( G% T3 G7 v2 X( ^6 v* y"AI 换脸 " 有了 " 紧箍咒 "，网友们认为，《规定》的出台是应对科技时代来临的一条必要举措。他们纷纷在网络上各抒己见，" 支持！AI 配音骗了多少中老年人 "" 属于是严重侵权了，特别是那种拿别人的脸来恶搞诋毁的 "" 利用 AI 技术违法乱纪坑蒙拐骗者必须严惩！"……

4 E8 _# ]8 I% ^( t$ `! W


0 s1 _, c* R5 _* U0 I8 A) m8 T
△记者换脸后的画面
12 月 14 日，现代快报记者对现存的 AI 换脸市场进行了调查，发现仍有 App 无标识肆意换脸。记者下载了应用市场内 7 款可 "AI 换脸 " 的 App，并逐一进行了测试。记者选取自己的一张正面照，在这些 App 里进行视频换脸。在这 7 款 App 中，有 2 款必须进行充值升级为 VIP 才可使用，另外 5 款皆可以免费使用。在可免费使用的 "AI 换脸 "App 中，有 3 款可直接输出无任何标识版本的换脸视频。
! r4 W/ J3 u( u& r7 q  d$ \; b  s9 L


6 h- c0 G2 F! ~9 g△换脸 App 界面
: k  h4 _% \! E! L/ w2 q* D8 J这几款 App 设置有不同风格的模板，包含有明星、网红、素人等，使用者可以挑选自己心仪的模板，既可直接换脸。整个 "AI 换脸 " 过程不到 10 秒钟，一个或性感迷人，或可爱呆萌的换脸视频便诞生了。在测试中，这些换脸视频不论是从清晰度还是逼真度来说，都非常高。
" z2 o6 R9 r' ?  c, }案例
江苏小伙陷 "AI 换脸 " 骗局，被骗 11 万后才发觉不对劲
3 H$ `4 ^2 P' a: @6 e国家三部门之所以给 "AI 换脸 " 立规矩，归根究底还是因为近年来有关 "AI 换脸 " 骗局层出不穷。
, W6 q$ q) K! q8 D2021 年年初，来自东北的小李和妈妈来到南京旅游。这时，她的大学同学小王通过 QQ 联系了她，并说自己的表姐生病住院了，急需用钱。小王通过一段四五秒钟的视频通话，打消了小李的疑虑，扫描对方传来的二维码将 3000 元钱转了出去。
! z1 ^& i/ y- ~4 F/ p  z不过令小李万万没想到的是，自己如此谨慎，还是上当了。对此，南京市公安局秦淮分局五老村派出所民警张子旭判断，小李看到的小王那段视频，很可能就是犯罪分子得到了小王的一些信息，比如她的面部照片，通过 AI 换脸技术，找一段在医院里的视频，把小王的脸切到医院实际拍视频的那个人脸上。
0 ?, C# L4 C+ M4 }: m" Z同年，江苏常州的一个 90 后小伙子，明知可能遇到了裸聊骗局，但出于好奇，他想看看骗子的套路，结果好奇害死猫，只因露了一下脸，就被骗子的 "AI 换脸技术 " 给坑了。
2 d) {2 y: o4 s6 e骗子 " 精心 " 制做了一段他的 " 裸聊视频 "，把伪造的 " 裸聊视频 " 发给小伙后，又附上了他的手机通讯录。在骗子威逼之下，小伙只能答应对方的转账要求。直到 11 万元全部转走，骗子才罢休。
律师
在法律层面，国家正在逐步完善相关的监管体系
在实际生活中，科技的发展加上 " 伪造 " 合成技术的升级换代，这让 " 人脸 " 保护形成巨大挑战。
/ H( [7 M3 t& ~+ o江苏漫修（南京）律师事务所律师衡晓春表示，2021 年 11 月 1 日，《中华人民共和国个人信息保护法》正式实施，为个人信息保护提供了法律依据。2021 年 1 月 1 日，《中华人民共和国民法典》正式实行，对 AI 换脸方面的法律问题，作了具体的规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。" 可见，在法律层面，国家正在逐步完善相关的监管体系，以保护个人信息安全、维护群众人格尊严。"
/ J. Q- \0 W! J5 p衡晓春提醒大家，网友们不要轻易向他人或 App 提供自己的人脸、指纹等个人生物信息，不过度在社交平台分享清晰可见的动图或视频等，提高自我保护意识。一旦发现有异常，及时报警。
! g, m2 ^  d% H: \（图片来源 App 页面截图 编辑 陈海静）