ChatGPT或两三年内产生自我意识，如何防止它威胁人类？周鸿祎这么说 ...

zht1984219

本文来源：时代周报 作者：梁春富
* F, m: A; b" E/ p; H“发展ChatGPT并不是几家互联网公司竞争的问题，而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。”全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。
- c7 r" n4 R7 z" E
周鸿祎已连续两届当选全国政协委员，“安全”一直是他的提案关键词。近期，ChatGPT的巨大突破引发广泛讨论，周鸿祎不止一次地公开畅谈ChatGPT发展前景，也表达对人工智能安全的担忧。
# ]) o( T; U( E' U在周鸿祎看来，ChatGPT或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点，也是强人工智能的拐点，因而ChatGPT会带来一场强人工智能或者通用人工智能为驱动力的工业革命。
. f* T6 I% ^6 {ChatGPT不仅是搜索引擎的加强版，也不止是一款聊天机器人。它通过SaaS方式所提供的人工智能服务，将重塑所有的数字化应用和行业。周鸿祎称，“在这个领域，我们能迎头赶上。”
今年全国两会，周鸿祎提交提案，呼吁面对ChatGPT为代表的人工智能大模型技术的巨大跃升，我国理应奋起直追。人们在关注技术层面创新的同时，更要关注技术突破背后所依赖的创新模式。

全国政协委员、三六零集团创始人周鸿祎
# ]' \4 K, n6 Q! I
. U  V7 a! W! z0 B+ u3 U/ c推动人工智能大模型技术创新发展
ChatGPT引发全球热议，周鸿祎今年的一份提案即关于ChatGPT为代表的人工智能大模型技术。
+ a% V# h6 o& ^3 ?% y“我们要在研究过程中找到产业发展规律。”周鸿祎表示，比如，ChatGPT为什么在美国能成功？为什么是美国人率先做出来？为什么OpenAI和微软能合作？“弄清楚这些问题可以推动相关部门制定有利于诞生中国版ChatGPT的政策引导，推动中国的大学、科研机构和产业公司结合。”周鸿祎说。
“我们不能只看到它的大模型参数有多高。”周鸿祎强调，最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了ChatGPT成功的三点关键要素——首先是“微软+OpenAI”的产研协同模式，其次是基于开源和众包的开放创新模式，最后是以通用大模型为中心的生态创新模式。
/ H, c$ s5 n1 b; L) d
! w. j) j" n4 V; ^0 x 图源：图虫创意

周鸿祎建议，要建立“大型科技企业+重点科研机构”的产研协同创新模式，打造中国的“微软+Open AI”组合，引领大模型技术攻关；从建设国家战略科技力量高度出发，筛选技术基础好的产研机构，组成优势互补的产业协同组合，发挥科研机构在关键核心技术上的研究优势；同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势，成为大模型技术攻关和应用的引领龙头。
他还提出，支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态。周鸿祎认为，人工智能大模型不应成为少数公司垄断的高级技术，要最大程度地发挥出产业和社会价值。
, y# T3 x+ @1 n- ?* v1 _$ v; \. |围绕如何推进人工智能大模型技术创新发展，周鸿祎提议，针对多条技术路线以开源模式设立多个国家级长期项目，以“大型科技企业+重点科研机构”为龙头，通过开源、合作、众包和生态的创新模式，引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险，另一方面也避免技术成果垄断在少数机构手中，促进更大广度的科技创新和产业发展。
5 P7 k* B+ u4 ^4 F1 S不发展才是最大的不安全
ChatGPT带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗CEO王小川等陆续宣布下场，进军这一前沿领域。
科技大佬复出江湖，阿里、腾讯、百度、字节等互联网大厂接连发声表态，将加大对人工智能的投入。热潮之下，中国版人工智能语言大模型和类ChatGPT产品的出现，只是时间问题。
" p( I0 v1 t) X- C8 U3 uOpenAI率先研发出ChatGPT，做对了哪些事？
3 G( }+ n- _" g& N; y* W9 _9 X7 P周鸿祎认为，OpenAI利用了大量的开源算法、论文，将各种开源成果巧妙结合在一起，并与微软合作，解决了工程化、算力、数据、产品体验、商业模式等问题。其次，OpenAI像苹果建App Store生态一样，基于ChatGPT培育垂类应用。此外，用户流量也很重要，吸引用户使用的同时，还能基于人工标注的强化学习，喂养调试大语言模型。最后，OpenAI有长期主义精神，有格局去做改变人类的通用人工智能创新。
, M4 Y9 d2 a7 w在周鸿祎看来，中国互联网公司的工程化能力强，技术落地能力强。“现在，ChatGPT已做出了样本，有开源技术做基础，并不存在难以逾越的障碍，剩下的就是时间问题。”周鸿祎坚信，“在国家鼓励性政策的支持下，我国能用两三年时间达到比较好的跟随水平。”
人工智能语言大模型有着较高进入门槛，这主要体现在技术和资金两方面。
% t+ u2 C, ?# H中信建投研报指出，Transformer在网络结构上的进化带来了参数量和模型层数的提高，引起了生成式AI技术能力的质变；同时并行化优势允许其在更大的数据集上进行训练，这也促成了GPT等预训练模型的发展。
5 u+ L* A1 z" H. c' k) c至于ChatGPT为何会能够对答如流，周鸿祎告诉时代周报记者，给ChatGPT喂养的训练语料很重要。他指出，此前人们错误的认为机器人既然是和人聊天，应该要学习聊天素材。实际上，社交工具所产生的聊天素材，知识含量很低。
“我们聊天的时候，没有人在讲知识，都是互相抬杆，俏皮话、无厘头的话非常多。”他解释道，这样训练出来的聊天机器人何止“人工智障”，还是“人工杠精”，对话毫无逻辑。
ChatGPT回避了这类语料，就像一个人不一定善于表达，但是饱读诗书，表达儒雅、有逻辑，大家愿意和这样的人聊天。周鸿祎强调，给ChatGPT喂养高质量的语料极为关键。
( ?: H1 N' a1 a' X! S
图虫创意
9 F, i, h! |" D8 U5 S
人工智能技术推动社会进步，也暗藏风险。
  Z+ M6 ~! [8 B/ w周鸿祎担忧，假如让ChatGPT不限定输入语料，随意获取搜索、浏览互联网上的知识，有自主意识的GPT会不会在看完类似《终结者》的电影后，产生与人类为敌的想法？
产生意识之后，ChatGPT第二步可能进化出“眼睛”、“耳朵”、“手”以及“脚”。目前，GPT还只有“大脑”，如果加上“眼睛”和“耳朵”，能看懂人类的各种图像、视频，听懂各种音频，知识存储将突飞猛进，智能化水平也将大幅提升。
8 C6 l& y, M4 u3 Q未来，ChatGPT接入互联网的API，进入万物互联时代，无疑相当于拥有了“手”和“脚”，间接拥有了操控世界的能力。届时，ChatGPT不仅可以在网页上购买机票，可以打车、订外卖，甚至可以通过网页操纵各种物联网设备。
最后，ChatGPT或许能实现自我进化。目前，ChatGPT只会写一些简单代码。有一天，当它的代码能力提升之后，是否可以自动查阅自身代码，修正升级代码，甚至重新编译一个新的版本？如果这样，它就拥有了自我学习和进化的能力，实现了机器人制造机器人的前景。
; x) n5 a. F5 }1 b4 T3 R- P周鸿祎坚持认为，不发展人工智能才是最大的不安全。“人类是否会因此走入毁灭犹未可知。但是，我们不能因此就不发展技术，而是要知道技术的底线和边界在哪，从而去规范技术向着正确的方向发展。”周鸿祎说。

醉蝶翔舞

雷军再战周鸿祎

一般小丑鱼

外面登峰造极 内部…

莱阳妞妞

人类作死的节奏