75岁图灵奖得主Hinton离职谷歌！痛悔毕生工作，无法阻止人类AI大战 ...

_不良法师_

  e  f3 }( u* g) c8 E" }
) r* |6 K1 r) V/ c5 |! v. ^新智元报道
编辑：编辑部
; N: y# I. r2 `9 R, E【新智元导读】入职谷歌10年后，人工智能教父Hinton选择离职。对于造就了如今AI技术繁荣的神经网络，Hinton表示：这是我毕生的后悔。
* Z  Y# H  h3 k  N一觉醒来，整个科技圈惊掉了下巴！！！
. H  X; Y: e% |$ W: L% h5 S
7 }8 Y% @& y  X深度学习泰斗、神经网络之父Geoffrey Hinton突然宣布离职谷歌。
8 g; R! {# W: Z6 |# L7 q
( t$ F* o) |0 S' g. m: Q% M

( [% o3 ^+ K: y. o7 E/ h6 N

为了能够自由谈论人工智能风险，而不考虑这对谷歌的影响。

4 Y4 F( w/ H. m" s# Z2 ], r纽约时报的报道中，Hinton直接警示世人：注意，前方有危险，前方有危险，前方有危险！
! y! r( b+ ?: y7 O. J. l而正是对人工智能风险深深地担忧，让这位深度学习巨佬直言：「我对自己的毕生工作，感到非常后悔。」
: H9 M) \& @; e9 Q. P+ U6 S& R如今，距离Hinton入职谷歌，刚好十年。


) w3 h( O) `, z# k6 m& _& I对于Hinton此举，有人甚至劝说，应该将关注人工智能安全常态化，而不必辞去工作。


这更应该是你留下来的理由。因为世界是不会停止的，像你这样的伟大人物应该坚持下去，并将人工智能发展的更好。
; r; I) E. s& F; a

. S+ }) r0 L. @9 f你应该劝说你的学生Yann LeCun和Ilya Sutskever。
值得一提的是，ChatGPT背后真正的英雄正是OpenAI的联合创始人兼首席科学家Ilya。


AI「关键时刻」，人类控制不住了
4 v  a5 F& _# k6 W被称为「人工智能教父」的Geoffrey Hinton，一直都是该领域最受尊敬的先驱之一。

+ d1 {$ M9 k7 K, e0 K# o- \
; H  V9 M. l8 p# c5 ]而Hinton提出离职的时间，正是在此之后的4月份。
" W) [6 l; J" f+ B
  l. @  y7 M" I7 _: K( k+ M
从他的推特上可以看出，无论是最近GPT-4等超强AI引发的巨大争议，还是谷歌高层的剧烈动荡，Hinton都始终保持缄默，不发一言。
/ `! |6 e' k! ]/ S; h/ _; u& d2 q许多人关注着这位人工智能教父的态度。
; K7 ?# _" w- o* E/ u; ~在CBS的一次采访中，Hinton表示「我们几乎已经让学会计算机如何自我改进了，这很危险，我们必须认真考虑，如何控制它。」
# S3 r) a% N- [7 @1 v9 s7 M
( R" [6 u! H0 t2 R
; A% Y5 m8 [4 h从人工智能的开创者到末日预言者，Hinton的转变，也标志着科技行业正处于几十年来最重要的一个拐点。
0 q# P% I! d7 ~/ R先驱的沉痛反思，让我们终于不能再掩耳盗铃，假装没有看见AI可能给人类社会引发的深刻改变和巨大危机了。
盖茨等许多大佬认为，ChatGPT可能与上世纪90年代初网络浏览器一样重要，并可能在药物研究、教育等领域带来突破。
9 Y; d. q4 Y- @- M0 ^* e, o与此同时，令许多业内人士不安的是，他们担心自己所做的研究，正在向外释放某种危险。
  O/ Z! l7 K  F0 a, ~' k因为生成式人工智能可能已经成为产生错误信息的工具。并在未来的某个时候，可能会对人类构成威胁。

3 @' [$ g2 q: o/ ?8 j
在Hinton看来，如何防止坏人利用它做坏事，我们还未能找到方法。
在3月底呼吁暂停超强AI六个月的公开信发出几天后，人工智能促进协会的19位领导人也发布了公开信，警告AI的风险。
其中就包括微软的首席科学官Eric Horvitz，而微软已在一系列产品中（包括Bing搜索引擎中）部署了OpenAI的GPT技术。
0 r; G) k. i& }在喧嚣的反对浪潮中，人工智能教父Hinton却并未在这两封信上签名。
他说，自己在辞去工作之前，并不想公开批评谷歌，或其他公司。
9 `8 E4 ]" v+ R忍到上个月，Hinton终于下定决心，通知谷歌自己即将辞职。
8 x6 N( P& c4 x5 O+ E7 Z选择离职谷歌后，Hinton终于可以畅所欲言地谈论AI的风险了。

2 u6 l( L- ^( q8 N7 a. N6 ~, m

我对我的毕生工作，感到十分后悔。 我只能这样安慰自己：即使没有我，也会有别人。

, R. D. S  L7 u

# m1 m3 l; z) q! d5 g$ L: b0 A& |上周四，他与谷歌母公司Alphabet的CEO劈柴（Sundar Pichai）通了电话，但他表示不便透露此次谈话的细节。
- n- y3 z% Y, \% @作为一家大公司，谷歌对于AI的态度一向保守，甚至保守到，眼睁睁看着自己在聊天AI机器人之战中被甩在后面。
早在2015年，谷歌的图像识别AI曾将黑人标记为「大猩猩」，招致的批评让谷歌成为惊弓之鸟。
% P- H/ S  Z+ L( s8 v8 K1 D在OpenAI推出Dall-E 2、名震全球之前，谷歌就有类似模型，但并没有发布，因为谷歌认为需要对AI生成的内容负责。
而早在2021年，谷歌就已有了类似ChatGPT的LaMDA聊天机器人，但谷歌始终未发布。直到2022年11月底，OpenAI凭ChatGPT占尽风头。
# m! c! I. w/ G" ~0 U1 ?2 X如今，谷歌首席科学家Jeff Dean在一份声明中表示：「我们仍然致力于对人工智能采取负责任的态度，我们正在不断学习了解新出现的风险，同时也在大胆创新。」
开启了历史，也见证了历史
1972年，Hinton在爱丁堡大学开始了他的研究生生涯。
$ A1 H) Z0 `# J2 v) K) j$ L4 B在那里，他首次开始研究神经网络——一种通过分析数据来学习技能的数学系统。
当时，很少有研究人员相信这个观点。但这成了他毕生的心血。


2012年，Hinton和他两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络，可以分析数千张照片，并自学识别花、狗和汽车等常见物体。
2 ?% x5 x( B) J2 l% D) ^神经网络成为他与两名学生共同创建的公司DNNresearch背后的突破性概念，该公司最终在2013年被谷以4400万美元收购。
5 e: J( L5 E% L3 o+ ~$ m* N! I+ C2018年，Geoffrey Hinton、Yann LeCun和Yoshua Bengio一起因对神经网络的研究获得了2018年的图灵奖，而神经网络正是ChatGPT、Bard等聊天机器人背后的奠基性技术。

$ [1 s0 H% c6 T/ v7 U& n% [$ P; s
% T' \* R5 \) Z2 B) V* L而Hinton的学生Ilya Sutskever，也在后来成为OpenAI首席科学家。


0 }. M% M, r6 z7 s大约在同一时间，谷歌、 OpenAI和其他科技公司开始构建从大量数字文本中学习的神经网络。
那时的Hinton认为，这是机器理解和产生语言的一种强大方式。当然不得不承认，比起人类处理语言的方式没，神经网络还是力不能及。
0 Y$ L: H, [6 F/ |2022年，随着谷歌和OpenAI 利用大量数据构建超强AI。
Hinton的观点发生了重大转变。他仍然认为这些系统在某些方面不如人类的大脑，但它们在其他方面正在超越人类的智力。
GPT-4发布当天，Hinton曾表示，
% o- v+ A% u6 W3 B( M& U
; C& I5 j+ ^7 d% O7 X) d8 v% ~

毛虫吸取了营养之后，就会化茧为蝶。而人类提取了数十亿个理解的金块，GPT-4，就是人类的蝴蝶。

1 n& a3 V$ e6 B; c
Hinton称赞的背后，让许多人看到超强人工智能系统的智力已经非同寻常。
7 V, c/ T: k: p& G- n对此，Hinton谈到人工智能技术时表示，随着科技公司改进人工智能系统，它们变得越来越危险。
1 R+ c" i% S; O$ i, H6 V6 d看看五年前和现在的情况，如果还要继续传播这项技术，后果就太可怕了！
在谷歌十年生涯中，Hinton一直看好谷歌在人工智能技术上谨慎的态度。
) z3 ^) g! C* u4 r$ m他表示，直到去年，谷歌一直扮演着这项技术的「合适管家」角色，谨小慎微地不去发布可能造成危险的AI。
+ Y9 I) y& l5 s1 _& b这恰恰解释了，为啥谷歌在这波人工智能浪潮中落后的原因。
但是现在，微软为其必应搜索引擎接入GPT-4的能力，已经让谷歌焦急地不得不做点什么。
Hinton称，科技巨头们正在进行一场可能无法阻止的竞争。
+ X% @9 X; N: c7 G

& @0 C- C; z7 j7 @  u他眼下担心的是，互联网上将充斥着虚假的照片、视频和文本，人们也无法去辨别什么是真实的，什么是虚假的内容。
. X# p* l" `* j8 M9 X他甚至还担心，人工智能技术迟早会颠覆就业市场。
( O- G: ^% J$ [( z+ l4 k' A0 }如今，像ChatGPT这样的聊天机器人往往能很好地辅助人类工作，甚至取代律师助理、私人助理、翻译、以及其他处理死记硬背任务的人。
  k# J6 u  c: b未来，他表示自己很担忧，GPT-4迭代会对人类构成威胁，强AI从大量数据中能够学到意想不到的行为。
$ R0 B3 {8 q" ?; h人工智能系统不仅可以生成代码，而且自己运行代码。前段时间爆火的Auto-GPT就是一个非常典型的例子。


2 [3 U) X6 {# x8 z4 g/ e. b他担心有一天真正的自主武器ーー那些杀人机器人ーー会成为现实。
: C# q" G8 C# u' U) y- N上世纪80年代，Hinton曾是卡内基梅隆大学的计算机科学教授，但因为不愿接受五角大楼的资助，他选择了离开CMU，前往加拿大。当时，Hinton强烈反对在战场上使用AI，他将其称为「机器人士兵」。
7 R2 {& r3 p! J. M* l+ C$ u
" q% P; J; \( j$ q* ]0 C% P
) P: Y/ S* w" u# _6 ?; G( ^3 {在一些人看来，类似的系统实际上比人类更聪明。Hinton表示自己曾经认为，这太离谱了，最起码要30-50年，甚至更久才能实现。
* ?% y7 _( C7 Y( l! A' s3 P

而现在，我不再那么想了。

许多其他专家，包括Hinton的许多学生和同事，说这种威胁还仅是一种假设。
9 G' j! n4 ?5 V- Z他指出，谷歌和微软，以及其他公司之间的竞争，将升级为一场全球性竞赛。如果没有某种全球性的监管，这场竞赛将不会停止！


但他表示，这也不是绝对的。与核武器不同，我们无法知道哪个公司或国家，是否在秘密研究这项技术。
6 |4 H/ z8 Z6 i/ {  w. t, e网友热议
' S4 x/ p+ `8 H1 G+ ~有网友认为，Hinton对于的AI的看法太悲观了。
' a, O9 b0 g7 d* h: G4 E$ p3 C我见过的ChatGPT积极应用案例远多于消极的，但现在的趋势是把AI描绘成邪恶的炼金术。这些担忧是合理的，我们会学习，我们会纠正它，然后我们会继续前进。
0 g0 m" C7 X5 n) [

# D& S/ e, S5 @( N1 j7 r! w甚至有网友将其比为天网，但我们还不能将其关闭。「人工智能就像潘多拉的魔盒一样，一旦打开就无法关闭。」
1 c' A4 O7 b/ z$ y' U' b9 ~9 [9 X
! J$ A$ l3 P. @" _' |* x# u
1 c7 ^: {/ P( _, i0 a4 ~5 n还有人对谷歌「负责任」这一观点提出异议：
, Q" a7 x8 I6 S0 Z-使用Breitbart训练AI模型；-让负面信息在YouTube上大肆传播（反过来又为推荐算法提供依据）；-散布有关安全和隐私的科学假信息；-开除专家


3 u8 j( H1 B. h! N2 d- G谷歌大脑和DeepMind合并这一事，与此相关吗？
7 ~+ k8 ~1 t/ P4 W

还有网友发出疑问，连Hinton都离职了，下一个会是？
  w4 Z" [$ I/ q" a8 g
7 o1 j6 B2 G' q- E5 l
参考资料：
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

福特婚车队长

他可能就是终结者二里面莎拉康纳想杀的那个黑人科学家的现实版

亦心绿

对付人工智能的唯一中级办法是全世界设置一个总的电力开关，一断电，全球电脑一起关闭，包括有蓄电池的

塘沽火星人

抵制人工智能[暴怒]