AI换脸软件在网上公开售卖，法律边界在哪里？

yi叶秋枫 · 发表于 2023-6-4 02:20:33

原标题：AI换脸软件在网上公开售卖，法律边界在哪里？
AI换脸软件在网上公开售卖，法律边界在哪里？
近日，因AI换脸技术导致的诈骗案件引发了人们的关注。伴随着AI大模型的发展，“换脸”技术应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能会带来严重危害。记者调查发现， 在网上，AI换脸软件的获取非常容易，利用AI换脸软件的法律边界在哪里？如何做好事前监管？
网络上出现付费AI换脸软件
套餐价格从499元到2888元不等
当下，依托于大模型及算法的突破，AI换脸正在实现更大范围的应用，引发更多担忧。在网络上，演示换脸软件使用方法及效果的教程比比皆是。不同于大量给普通人“尝鲜”的免费软件，记者发现， 在网络上还有很多高价的付费AI换脸软件，这些付费软件与免费软件有什么样的不同？
记者搜索“AI换脸软件”后联系上了一个开发者，他给记者提供了一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频，肉眼来看， 换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。

△卖家展示的素人换脸效果（S为原视频，D为更换之后）
在其销售网站上，该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴拼接到一起，生成全新“数字人”的视频。

△卖家展示的局部五官更换
这一付费软件提供从初级（LV1）到超级（LV4）再到全套（LV5）的不同版本。以初级套餐来说，499元提供软件界面、视频指导、换脸模型等，如果花2888元，则可以得到全套（LV5）等级的视频换脸模型。

△网络上提供多种不同等级的换脸软件产品
“想换什么脸都可以”
AI大模型可集成多种功能打造“数字人”
打开该网站， 底部没有任何文字显示其经过了备案。卖家也十分谨慎，全程仅用文字交流。他表示，与初级（LV1）至超级（LV4）套餐相比，全套（LV5）版本迭代更多，能力更强，也可以理解为换脸效果更为逼真，同时， 不仅可以实现视频换脸，还支持直播换脸。
记者进一步询问，能否根据自己的需求换脸？软件开发者表示：“想换什么样的脸拿素材训练就可以”。

△软件开发者在与记者的聊天截图
一位从事AI开发的技术人员表示， 这意味着可能会有更多难以控制的风险。“类似于deepfake这样的AI换脸技术是开源的，最近的AI大模型火起来，它的算法又有了更新，就可以集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来， 就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’，监管的成本和难度高了好几个数量级。”

△卖家展示的用户反馈
专家：有效的标识监管体系
能提前厘清AI换脸带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示，从事后打击的角度来说，刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等等相应的民事权利。也就是说，如果发生使用他人的肖像进行诈骗的相关案例， 不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下， 还应探讨如何能够做到有效的事前防范。
例如，在《互联网信息服务深度合成管理规定》中要求， 深度合成服务可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法（征求意见稿）》要求，利用生成式人工智能产品向公众提供服务前， 应当按照有关规定向国家网信部门申报安全评估；要尊重他人合法利益；产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为，从目前来说， 如果能够有效落实标识的要求，形成有效的监管体系，可以在很大程度上提前厘清AI换脸所带来的模糊边界。
盘和林：当前AI换脸的标识监管体系还没有形成，要针对不标注的内容，通过技术的手段来辨别，并且 对不标注的个人或者是单位组织要有具体的处罚的措施和标准以及制度。赵占领认为， 从长远来看，监管与处罚措施还需要随着技术发展不断“迭代”，才能形成立体有效的治理方案。

账号		自动登录	找回密码
密码			立即注册

AI换脸软件在网上公开售卖，法律边界在哪里？

本帖子中包含更多资源