大动作？白宫召集谷歌、微软、OpenAI高层开会！拜登邀请函透露重要信号 ...

zht1984219

AI监管持续升级？
# I3 l4 {4 i7 R# \0 R9 ]  a% }据第一财经5月3日报道，白宫官员向美国科技巨头发出了邀请，希望与行业企业领导者共同探讨针对人工智能的监管问题。此次会面将于5月4日举行，参加的科技公司包括谷歌、微软和OpenAI等公司高管。美国总统拜登称，希望科技公司在向公众提供产品之前必须确保其产品安全。
近日宣布离开谷歌公司的“AI教父”杰弗里·辛顿（Geoffrey Hinton）表示，他担心互联网将充斥虚假照片、视频和文字，普通人“无法再辨别真假”。此外，辛顿还担心人工智能技术的“未来版本”会对人类构成威胁，因为“它们经常从分析的大量数据中学习到意想不到的行为”，并且目前无法想象如何防止坏人利用AI做坏事。
白宫将召集谷歌等高层开会
美东时间周三，据路透社报道，白宫官员证实，谷歌、微软、OpenAI和人工智能（AI）研究公司Anthropic的首席执行官，将于当地时间周四与美国副总统卡玛拉·哈里斯和高级政府官员会面，讨论人工智能的关键问题。
路透看到的邀请函显示，拜登总统表示，“希望像你们这样的公司在向公众提供产品之前，必须确保产品是安全的”。人们担心，快速发展的AI技术可能侵犯隐私并怀有偏见，散布谣言和虚假信息。

* ]" c+ o+ m) _. V& F% Y$ l! D( c
+ a4 D) b: N/ C! z图片来源：视觉中国
2 J/ c, g1 U+ ~7 _9 j) W4 ]4 `+ Q白宫表示，此次会议旨在强调开发安全可靠的人工智能的责任，以减轻潜在的危害。哈里斯将在此次会议上提出AI保障措施的要求，以减轻AI的潜在风险，并强调道德和值得信赖的创新的重要性。
# b! _& A7 e& ?& z: Z美国政府的其他高级官员也将出席，包括白宫幕僚长Jeffrey Zients、副幕僚长Bruce Reed、国家安全顾问Jake Sullivan、国家经济委员会主任Lael Brainard和商务部长Gina Raimondo、首席国内政策顾问Susan Rice等。
* T9 @7 z% R6 W% B  a- h$ w) k据路透报道，白宫科技政策办公室主任Arati Prabhakar在邀请函中写道：“我们的目标是可以坦率地讨论各自在当前和近期人工智能发展中看到的风险、减轻这些风险的行动，以及我们可以共同努力的其他方式，以确保美国人民从人工智能的进步中受益，同时免受其伤害。”
' N4 }5 K5 K/ M! g自去年ChatGPT问世以来，引发了巨大的社会争议。由于AI的能力已经远超人们的预期，批评者对快速发展的AI技术的担忧包括侵犯隐私、偏见、欺诈以及散播谣言和虚假信息等。行业技术领导者近期也不断呼吁警惕AI带来的风险。
上个月，拜登已经强调了对人工智能相关产品监管的必要性，尽管他表示，人工智能是否具有真正的威胁还有待进一步观察。拜登称，社交媒体已经说明了强大的AI技术在没有正确保护措施的情况下可能造成的危害。
' X1 y# X8 ]/ g8 ?8 ^9 j. `多国加快推进人工智能应用监管
& N4 Q% v: j+ R7 a除了美国外，欧盟立法者也在加快推进对人工智能技术的监管。
6 f, A& W6 w$ [7 l6 q4 c* ]# N3 d. f据经济参考报4月27日报道，欧盟委员会执行副主席、竞争专员玛格丽特·维斯塔格4月24日接受《日本经济新闻》采访时表示，关于ChatGPT等生成式AI，“将尽快颁布”在整个欧盟实施监管的新法规，制定合理使用生成式AI的统一规则，降低用户风险。
& Z: D. N- D6 \3 j% Q9 T. P1 g作为监管方案，维斯塔格提出了在AI生成的文章和图像上显示“用AI制作”等标签的方案，还透露了提供生成式AI的企业有义务进行说明的想法。
% v+ [" Z. \8 q" t+ c" M多国均在加快推进人工智能技术的发展，并看重该技术推动经济增长的潜力。英国政府近日宣布，向负责构建英国版人工智能基础模型的团队提供1亿英镑（约合1.25亿美元）起始资金，以帮助英国加速发展人工智能技术。这些人工智能的基础模型包括类似ChatGPT的大语言模型，可用于医疗和教育领域。
/ R1 G9 Z5 t2 \! T$ n6 D" X英国政府4月24日发布的新闻稿表示，上述投资将用于资助由政府和行业共建的新团队，以确保英国的人工智能“主权能力”，广泛应用安全可靠的基础模型，到2030年使英国成为科技“超级大国”。


图片来源：视觉中国
英国首相里希·苏纳克说：“利用人工智能的潜力，可以为我们带来巨大的经济发展机遇，创造更高薪工作，以及通过医疗和安全领域的发展构筑一个更美好的未来。”英国政府预测，人工智能技术将在今后10年间让全球所有经济体的国内生产总值（GDP）总和提升7%。
“AI教父”说出人工智能危险之处
据环球时报5月4日报道，现年75岁的前谷歌科学家杰弗里·辛顿在神经网络领域长期从事开创性工作，为人工智能（AI）技术的发展奠定基础，因此在业内被称为“人工智能教父”。5月1日，《纽约时报》率先曝光他已从谷歌离职。在接受《纽约时报》和美国有线电视新闻网（CNN）采访时，辛顿坦言，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险，甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。
辛顿称，人工智能不仅会导致大量工作岗位消失，而且会导致人们没办法知道到底什么才是真实的。5月2日，他在CNN节目中表示，如果人工智能变得比人类聪明得多，就会对人类进行操控；人工智能知道怎么编程，就会想办法绕开人类对其设置的限制。苹果公司联合创始人史蒂夫·沃兹尼亚克也在CNN节目上现身说法，表达他对人工智能散布虚假信息的关切。杰弗里·辛顿（Geoffrey Hinton）表示，他担心互联网将充斥虚假照片、视频和文字，普通人“无法再辨别真假”。
  X+ Q+ j' v- M% [3 N, E& P# e2 @此外，辛顿还担心人工智能技术的“未来版本”会对人类构成威胁，因为“它们经常从分析的大量数据中学习到意想不到的行为”，并且目前无法想象如何防止坏人利用AI做坏事。沃兹尼亚克认为“或许需要某种类型的法规”对人工智能技术实施监管。
1 b+ ~1 c2 g" T0 {! t今年3月底，包括马斯克在内的许多科技产业人士联署了一封公开信，呼吁所有AI实验室立即暂停训练人工智能系统至少6个月。辛顿说：“我认为我们没办法阻止人工智能的发展，因此我没有签署这封信。”辛顿承认，他也不知道未来该如何处理这一问题。
每日经济新闻综合经济参考报、环球时报、第一财经