后悔开发 AI？刚从谷歌离职的“人工智能教父”：真的好危险 ...

苏沚沁

以下文章来源于创业板观察 ，作者马兰
( f1 w# e: |! L7 C* T: i2 @6 ^被称为 " 人工智能教父 " 的多伦多大学教授 Geoffrey Hinton，在宣布离开谷歌之后表示，对自己在开发人工智能这项技术中的角色感到遗憾。
在漫长的谷歌生涯之后，Hinton 透露，他虽然常用 " 他不做，别人也会这么做 " 的借口安慰自己，但仍对于人工智能带来的负面影响感到不安，他怀疑这项技术将给人类带来危害。
: t# u7 r# Y7 S' Y8 \6 ^他指出，生成式人工智能语言模型可能会导致虚假信息、照片和视频等在互联网上大量传播，而公众极易被其迷惑，很难分辨真假。
此外，Hinton 还在媒体采访中表达了对科技巨头之间 AI 竞赛的担忧，并质疑巨头们是否走得太远，并无法在危险出现时及时踩下刹车。
% ?" g, _; O$ F+ w( Z 辉煌成就下的不安
2012 年，Hinton 和他的两个学生创建了一个神经网络模型，可以分析数千张照片并识别常见物体。其中一个学生 Ilya Sutskever 在 2018 年成为 OpenAI 的首席科学家，并领导了 ChatGPT 的开发。
( n5 g) m9 Z# M3 e  N: b6 M1 I而 Hinton 和其创办的公司后来则被谷歌收购，他本人也在谷歌研究了十多年的人工智能模型。
, @. l; @: n/ ~周一，Hinton 在推特上发文称，因为离开了谷歌，他可以发表关于人工智能危险性的言论，而不用担心影响到谷歌。他强调，谷歌在人工智能上的行为非常负责。
6 S# d6 }7 f' v' P( l/ [; F* x


* A2 m8 c4 h7 f& _4 K而 Hinton 的担忧似乎也引发了谷歌一些现职员工的共鸣。据测试谷歌人工智能 Bard 的一些员工称，AI 很危险，而谷歌也似乎并没有把人工智能的道德放在首位，反而急于求成，希望赶上 OpenAI 的 ChatGPT 技术。
& j0 |& m1 E9 d! x3 ?但谷歌首席科学家 Jeff Dean 澄清称，谷歌致力于负责任地开发人工智能，不断学习、了解这项技术可能出现的风险，同时也在大胆创新。
除了人工智能的道德方面，Hinton 还谈到人工智能最终对人类劳动力市场的冲击，其可能造成律师助理、翻译和行政性工作方面的大量裁员。这也是包括 OpenAI 首席执行官 Sam Altman 在内的行业专家们的忧虑所在。
Hinton 指出，大多数人认为人工智能比人还聪明的未来还很遥远，他之前也认为这个可能性还需要 30-50 年时间去实践。但现在，他的想法改变了。