AI “作恶”案件频发 潘多拉魔盒已打开 数字水印会是那顶紧箍吗？ ...

莱阳妞妞

以 ChatGPT 为代表的 AI 大模型正掀起一场科技革命，各类下游应用百花齐放。但在人们惊叹于 AI 带来的生产力变革的同时，尚未完善的监管制度纵使各类乱象滋生。
/ j9 u$ f% I. _# n! s3 @0 @1 E近期，多起新型 AI 电信诈骗案件受到公众的广泛关注。4 月底，一名受害者10 分钟被 AI 换脸骗走 430 万元；紧随其后，5 月 22 日，又一受害者9 秒钟被骗 245 万元。
+ W+ n- G4 L" U% A7 }: l5 H' C与此同时，" 明星脸 " 直播带货也引发了争议，有主播利用 AI 换脸技术变身当红女星来直播带货；在股市里，AI 技术也掀起了腥风血雨。5 月 24 日，科大讯飞股价闪崩。据其官方回应，股价下跌系生成式 AI 写作虚假小作文导致。
# S" o' Z: [; b6 q9 ^动辄百万的诈骗金额、虚假 " 明星脸 " 的滥用以及各类小作文、谣言让 AI 技术站到了风口浪尖之上。一时之间，质疑、讨伐的声音络绎不绝。如何阻止人工智能继续 " 作恶 "，成为了当下迫在眉睫需要解决的问题。
! I2 M$ ~) h% j4 q各国加速出台 AI 监管条例
5 月 25 日，日本高官表示，七国集团（G7）官员将于下周举行会议，讨论 ChatGPT 等生成式 AI 工具带来的问题，包括知识产权保护、虚假信息以及应如何管理 AI 技术等。
目前来看，各国对于人工智能的态度不一。
欧洲是支持 AI 监管的先行者。欧盟委员会执行副主席兼竞争专员 Margrethe Vestager4 月 24 日接受采访表示，欧盟希望最快今年就 ChatGPT 等生成式 AI 的监管规则达成一致。此外早在 4 月初，欧盟内部市场专员、工业和信息化产业负责人已公开表示，欧盟将要求所有生成式 AI 内容必须注明来源。
美国方面，5 月 4 日，白宫宣布拨款 1.4 亿美元用于研究制定指导 AI 监管方针。日本的态度则相对宽松，该国表示支持公共事业部门和工业领域采用人工智能技术，同时监测其风险。
我国相关部门则于上个月发布了《生成式人工智能服务管理办法（征求意见稿）》（下文简称：《意见稿》），旨在促进生成式人工智能技术健康发展和规范应用。
- I/ _3 l5 p  C1 a公司层面，站在暴风眼中心的人工智能企业 OpenAI 于 5 月 25 日宣布，将拨出 100 万美元，分为 10 笔等额奖金，用于激励外部 AI 治理方案的提出。该公司首席执行官 Sam Altman 在参加国会听证会曾表示，希望当局（美国）成立一个监管人工智能的专属机构。
& P3 D( }3 M$ {AIGC 鉴伪技术重要性凸显
" v6 q( F/ J3 o: }1 q6 S建立人工智能治理方案、监管制度固然重要，但要最大程度的制止 AI" 作恶 "，相关防范技术同样不可或缺。
文初所述的案件中，AI 换脸诈骗、带货、生成虚假小作文等现象均是由于 AIGC 鉴伪技术的缺失而导致。通俗来说，随着 AI 生成的文字、图片、视频增加以及 DeepFake（深度伪造）技术日渐成熟，我们需要一项技术或产品，来判断哪些样本是 AI 生成的，从而才能够避免违法事件的发生。
目前来看，数字水印或许是相对可行性较高且受多方看好的技术。数字水印能够将标识信息嵌入数字载体当中，通过隐藏在载体中的信息，可确认且判断载体是否被篡改。
! K  d; m# p0 q4 U$ W& Y5 }1 w" ?( j海外方面，OpenAI 此前曾表示，考虑在 ChatGPT 中添加水印，以降低模型被滥用带来的负面影响；谷歌在今年的开发者大会上表示，将确保公司的每一张 AI 生成图片都内嵌水印，该水印无法以肉眼识别，但谷歌搜索引擎等软件可读取并以标签显示出来，以提示用户该图片由 AI 生成；Shutterstock、Midjourney 等 AI 应用也将支持这种新的标记方法。
转眼至国内，抖音于 5 月 9 日发布人工智能生成内容的平台规范暨行业倡议。其中提出，各生成式人工智能技术的提供者，均应对生成内容进行显著标识，以便公众判断。前述的《意见稿》也提出，对于生成式人工智能产品，提供者需要按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识等。
随着 AIGC 生成图片、视频的逼真度愈发提高，AI 的滥用情况屡见不鲜，相关法律制度、防范 / 鉴伪技术亟需完善。正如百度创始人李彦宏所言：" 人工智能技术飞速发展的过程当中，确实有可能出现对人类不利的发展方向，防止失控就需要拥有先进 AI 技术的国家通力合作，从人类命运共同体的高度来制定规则。"