ChatGPT或两三年内产生自我意识，如何防止它威胁人类？周鸿祎这么说 ...

zht1984219

本文来源：时代周报 作者：梁春富
“发展ChatGPT并不是几家互联网公司竞争的问题，而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。”全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。

周鸿祎已连续两届当选全国政协委员，“安全”一直是他的提案关键词。近期，ChatGPT的巨大突破引发广泛讨论，周鸿祎不止一次地公开畅谈ChatGPT发展前景，也表达对人工智能安全的担忧。
4 H4 b) c, z4 Y6 x) D0 c2 d8 `在周鸿祎看来，ChatGPT或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点，也是强人工智能的拐点，因而ChatGPT会带来一场强人工智能或者通用人工智能为驱动力的工业革命。
* U0 x0 d) H. R! t2 ^ChatGPT不仅是搜索引擎的加强版，也不止是一款聊天机器人。它通过SaaS方式所提供的人工智能服务，将重塑所有的数字化应用和行业。周鸿祎称，“在这个领域，我们能迎头赶上。”
& F& s1 U7 A) Q' n' b  R今年全国两会，周鸿祎提交提案，呼吁面对ChatGPT为代表的人工智能大模型技术的巨大跃升，我国理应奋起直追。人们在关注技术层面创新的同时，更要关注技术突破背后所依赖的创新模式。
; B8 `9 n9 g$ L
5 E! @2 S5 \, l3 |+ D; ~ 全国政协委员、三六零集团创始人周鸿祎

# r9 Q/ a$ w9 G0 d( A推动人工智能大模型技术创新发展
5 ~2 s5 D( p4 G2 b% c3 }ChatGPT引发全球热议，周鸿祎今年的一份提案即关于ChatGPT为代表的人工智能大模型技术。
“我们要在研究过程中找到产业发展规律。”周鸿祎表示，比如，ChatGPT为什么在美国能成功？为什么是美国人率先做出来？为什么OpenAI和微软能合作？“弄清楚这些问题可以推动相关部门制定有利于诞生中国版ChatGPT的政策引导，推动中国的大学、科研机构和产业公司结合。”周鸿祎说。
2 P8 f: r( @" X2 ^, r$ q. [+ c6 @: d“我们不能只看到它的大模型参数有多高。”周鸿祎强调，最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了ChatGPT成功的三点关键要素——首先是“微软+OpenAI”的产研协同模式，其次是基于开源和众包的开放创新模式，最后是以通用大模型为中心的生态创新模式。
& y) @! d/ ^7 w( @$ H$ Q$ J8 T
图源：图虫创意

4 y* l7 ?" _  {周鸿祎建议，要建立“大型科技企业+重点科研机构”的产研协同创新模式，打造中国的“微软+Open AI”组合，引领大模型技术攻关；从建设国家战略科技力量高度出发，筛选技术基础好的产研机构，组成优势互补的产业协同组合，发挥科研机构在关键核心技术上的研究优势；同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势，成为大模型技术攻关和应用的引领龙头。
, B7 B& Q# ?" a! i他还提出，支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态。周鸿祎认为，人工智能大模型不应成为少数公司垄断的高级技术，要最大程度地发挥出产业和社会价值。
围绕如何推进人工智能大模型技术创新发展，周鸿祎提议，针对多条技术路线以开源模式设立多个国家级长期项目，以“大型科技企业+重点科研机构”为龙头，通过开源、合作、众包和生态的创新模式，引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险，另一方面也避免技术成果垄断在少数机构手中，促进更大广度的科技创新和产业发展。
不发展才是最大的不安全
# H& ^9 g, i  g8 O! S4 H( mChatGPT带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗CEO王小川等陆续宣布下场，进军这一前沿领域。
- F! ~1 P: H. G" D+ I科技大佬复出江湖，阿里、腾讯、百度、字节等互联网大厂接连发声表态，将加大对人工智能的投入。热潮之下，中国版人工智能语言大模型和类ChatGPT产品的出现，只是时间问题。
3 r8 q8 m2 z8 W) C4 oOpenAI率先研发出ChatGPT，做对了哪些事？
# J+ Z$ h5 L: Q0 z$ @周鸿祎认为，OpenAI利用了大量的开源算法、论文，将各种开源成果巧妙结合在一起，并与微软合作，解决了工程化、算力、数据、产品体验、商业模式等问题。其次，OpenAI像苹果建App Store生态一样，基于ChatGPT培育垂类应用。此外，用户流量也很重要，吸引用户使用的同时，还能基于人工标注的强化学习，喂养调试大语言模型。最后，OpenAI有长期主义精神，有格局去做改变人类的通用人工智能创新。
* x  ~- r! L/ K  h% {- n1 p在周鸿祎看来，中国互联网公司的工程化能力强，技术落地能力强。“现在，ChatGPT已做出了样本，有开源技术做基础，并不存在难以逾越的障碍，剩下的就是时间问题。”周鸿祎坚信，“在国家鼓励性政策的支持下，我国能用两三年时间达到比较好的跟随水平。”
人工智能语言大模型有着较高进入门槛，这主要体现在技术和资金两方面。
. Q+ [0 y% H6 s6 V* a* w中信建投研报指出，Transformer在网络结构上的进化带来了参数量和模型层数的提高，引起了生成式AI技术能力的质变；同时并行化优势允许其在更大的数据集上进行训练，这也促成了GPT等预训练模型的发展。
至于ChatGPT为何会能够对答如流，周鸿祎告诉时代周报记者，给ChatGPT喂养的训练语料很重要。他指出，此前人们错误的认为机器人既然是和人聊天，应该要学习聊天素材。实际上，社交工具所产生的聊天素材，知识含量很低。
“我们聊天的时候，没有人在讲知识，都是互相抬杆，俏皮话、无厘头的话非常多。”他解释道，这样训练出来的聊天机器人何止“人工智障”，还是“人工杠精”，对话毫无逻辑。
8 ]; c1 U  Y$ u+ [( sChatGPT回避了这类语料，就像一个人不一定善于表达，但是饱读诗书，表达儒雅、有逻辑，大家愿意和这样的人聊天。周鸿祎强调，给ChatGPT喂养高质量的语料极为关键。
' B2 }5 x3 i# L% w) r  l7 H
, H+ ^( S" m1 w) M! i5 c 图虫创意

# u* P2 E4 b5 m3 U人工智能技术推动社会进步，也暗藏风险。
, @, t; M9 X+ f# g' i+ s$ j周鸿祎担忧，假如让ChatGPT不限定输入语料，随意获取搜索、浏览互联网上的知识，有自主意识的GPT会不会在看完类似《终结者》的电影后，产生与人类为敌的想法？
: I; n! W. U5 d( t0 m& P6 T0 _7 z产生意识之后，ChatGPT第二步可能进化出“眼睛”、“耳朵”、“手”以及“脚”。目前，GPT还只有“大脑”，如果加上“眼睛”和“耳朵”，能看懂人类的各种图像、视频，听懂各种音频，知识存储将突飞猛进，智能化水平也将大幅提升。
! O% W7 V) U/ n0 `7 A! b9 \1 D未来，ChatGPT接入互联网的API，进入万物互联时代，无疑相当于拥有了“手”和“脚”，间接拥有了操控世界的能力。届时，ChatGPT不仅可以在网页上购买机票，可以打车、订外卖，甚至可以通过网页操纵各种物联网设备。
最后，ChatGPT或许能实现自我进化。目前，ChatGPT只会写一些简单代码。有一天，当它的代码能力提升之后，是否可以自动查阅自身代码，修正升级代码，甚至重新编译一个新的版本？如果这样，它就拥有了自我学习和进化的能力，实现了机器人制造机器人的前景。
" h: t- J9 E, B1 M& k( Y+ O8 s周鸿祎坚持认为，不发展人工智能才是最大的不安全。“人类是否会因此走入毁灭犹未可知。但是，我们不能因此就不发展技术，而是要知道技术的底线和边界在哪，从而去规范技术向着正确的方向发展。”周鸿祎说。

醉蝶翔舞

雷军再战周鸿祎

一般小丑鱼

外面登峰造极 内部…

莱阳妞妞

人类作死的节奏