女子地铁照遭“一键脱衣”：技术不该沦为龌龊的“透视眼” ...

糖糖班副

AI 时代，有图未必有真相。
* p5 X' A3 Q4 k( T最近，一段聊天记录火了。发布者煞有介事地称，广州地铁惊现 " 裸女 "。博人眼球的文字配上 " 事实 " 为证的图片，看上去言之凿凿。一时间舆论沸沸扬扬，更有别有用心者借机意淫，开启一场下流狂欢。
1 V1 l) m& }0 u2 X& }" Y其实，哪有什么裸女，哪有什么不雅照，不过猥琐之人在捣鬼——一个正常打扮的女孩，在社交平台晒了一张再日常不过的照片，便被人拿来用 AI" 一键脱衣 "，移花接木造黄谣，并刻意在全网公共空间散播，招致无妄之灾。

) i. ^! ?; Z/ y" Q( X5 [2 ]
" {  g) m: \  [2 Z
技术没有善恶之分，但人有。放任技术的恶意滥用只会对技术的生存与发展造成巨大阻碍。对此，长安君有三句话想说——
, @! A7 g4 f  N1 ^% ~& [: i第一，毫无底线的玩梗，必然翻车
  p- }0 u6 r6 K# |4 O0 K, J利用 AI 生成图片、短视频造黄谣，是对受害者的公开羞辱、恶意诽谤以及无差别攻击。
自媒体时代，人人都是麦克风，叠加深度合成技术不断成熟，技术门槛日益降低，意味着只要有网络账号，就可以一键制作以假乱真的视频，并借之造谣传谣、假冒仿冒、违规盈利。
# n( i! ?* z0 |$ K


& Y1 o8 W; ]$ w+ b( N& ~' ~; N但虚拟不等于虚假，娱乐玩梗不代表放任自流，网络传播是有底线的，高科技也不能沦为肆意侵权的帮凶，否则公共空间的安全感将变成空谈，人人皆会自危：下一秒，你的脸就可能被盗取、拼接，被扒得一丝不挂，成为满足他人无耻欲望的素材和非法牟利的工具。
% d2 G" n* v8 G- R: G* L对于好事者来说，这只是一键生成，但给当事人带来的却是恶意审视、名誉损毁和身心伤害。
5 F3 v( ~7 B1 K! [& U5 X科技进步，不该沦为一双龌龊的 " 透视眼 "。
1 Y7 A4 s. h1 m9 n! F3 L9 s* v第二，挑战红线的流量，不能容忍
, E9 a: G- o) F  U/ c流量没有上限，但是赚取流量的方式应该有下限。
近年来，网络媒介尤其是短视频野蛮生长，涌现出各类 " 魑魅魍魉 "，通过人工智能生成虚拟视频来涉黄、涉暴、侵害隐私，甚至危害国家安全。他们有的借社会话题撩拨情绪引发舆论海啸，有的打着 " 寻找真相 " 的幌子造假造谣，还有的不顾法律与道德的约束不断用恶俗低俗制造热点。
( [6 X" u# |/ f一些所谓的 "AI 换脸 " 背后是一条黑灰产业链。"50 元，可以买到知名女星换脸视频；150 元，可以让任何人成为小视频主角。" 有报道显示，电商平台上已有卖家公开兜售相关技术模型，并提供真人模型代训练服务；利用 AI 生成图像假扮真人的账号混入社交媒体，网友难辨真假。
* `$ D" G  {/ `- @+ O* _
! y- S  Z8 [* i! e# |9 u

# S$ F" I7 o; S& J有人标价，有人求购，有人制作，有人发布……一些人为追逐流量及背后暴利铤而走险，打着娱乐的幌子，大行侵害之事，不能忍，不可忍！
& `9 s$ z9 x. [4 p) ^- D第三，整治滥用 AI 的乱象，需多方施策
非重拳不足以激浊扬清，非猛药不足以澄清视听。
  t1 {, F( v8 V$ ^6 V* e: I+ B对于 AI 技术运用，国家网信办、工信部、公安部此前已联合出台《互联网信息服务深度合成管理规定》，明确 " 任何组织和个人不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动 "。
放诸长远，仍需多方合力，给乱象刹车——

3 t# D( m, S; @9 e3 U& u

专项打击整治势在必行，不仅要彻查利益链条，还要深挖幕后、铲除源头；相关法律法规要更加完善，明确惩治范畴和尺度，全面挤压深度伪造相关犯罪的生存空间，掐住侵权行为的命门；网络平台不仅应对违法违规账号处置要快准狠，还应当提升管控技术、优化审核机制，既要 " 剜烂疮 "，又要 " 治未病 "。
& X, e- {! D' E4 i" P* C/ B& D而身处 AI 时代的每个人，也要进一步提高辨假的意识和识假的能力，擦亮双眼，不被 " 伪装者 " 蒙蔽，更不做 " 二传手 "。
( |+ @1 \' E: k/ e$ T"AI 涉黄 "，该退场了！
) B- V7 J* O0 W$ `/ s; U5 w0 G
# I3 P6 Y8 \/ B$ B* x" G* V* U
( w7 a( K1 \! f
; E9 s3 u* G! _! I$ S
4 h+ w' X" _# U; H8 o2 p+ S( J) L
/ c5 C$ K9 e6 \$ A- g


7 h0 @2 J$ F( C▼
更多精彩推荐，请关注我们
▼
5 F+ b; A1 f. ]( ]
9 p9 o+ \! `: I) }# y- |' A& u8 `: b
  O  c+ ~7 m) [! ?
& l9 c; ?  H5 t6 E1 O' Y1 F$ X长按下载关注

, D2 Q& C3 H4 ^( _
  s: |. ^  m6 y0 E