|
|
% o4 c" L, [& |/ h* e
0 u4 L( \% H# l% ` A) {8 f; H强调 AI 危险的联名信一封又一封，类比核战争和流行病的譬喻层出不穷，与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明，似乎不做些什么，AI 就要让人类完蛋了。" i$ }' R. k& ]( ? s* E, a
马克 · 安德森（Marc Andreessen）却有着不同的想法，他写下近 7000 字的文章，洋洋洒洒论述以下观点：1 ^; J6 H5 [0 W! }, ~( o! \
AI 不会毁灭世界，甚至可能会拯救世界。# y! a" n6 ]& ^- O) W1 s
马克 · 安德森是硅谷风投公司 a16z 的联合创始人和合伙人。& }0 J7 j& `) Q& J
a16z 是硅谷最具影响力的创投公司之一，倾向长期投资，参投过 OpenAI，尤其关注下一代科技的发展，在区块链和加密货币领域享有盛名，并经常以 KOL 的形象现身，发表尖锐和前沿的观点。
N; O" c" s. H# s3 r1 Z( Y" A3 c" W% B9 r5 [
; X- |& ~& | x5 }3 l" z
; }# b A- y) V3 ]来回摇摆的 AI 天平之上，马克 · 安德森选择站在另一个极端，展现着极其乐观的理想主义，驳斥了几个主流的 AI 威胁论。, v% v; X! V! y
这也在情理之中，因为马克 · 安德森本人与 AI 利益相关，并在文章的结尾提到，他和他的公司将尽可能支持 AI 工程师和初创公司。换言之，他想从 AI 革命里赚钱。
: [) V$ R( J3 U我们不必无条件相信一切，只是兼听则明、偏信则暗，很少有人能够准确预测未来，以批判性的目光多了解前沿观点，也是一种抓住可能性的方式。; Z9 P2 I" G, \# T
划重点
# J* b/ p. a; H, n$ zAI 提供了深度增强人类智力的机会。" x" g6 p q; n3 s: L
对 AI 的恐慌可能是非理性的。2 N; h! `& m( G) J/ h
认为 AI 将杀死人类是一种迷信。
. L' n, c o: o! h不必担心 AI 让人失业。* L1 J. [: q1 n* G, Z, g% {5 H
AI 不会导致技术不平等。3 H% v4 P4 p6 p7 t7 D6 M @- P
AI 的风险可以用 AI 防御。! O; M% M1 Q- q" z! C- y! m
尽可能快速积极地构建 AI。
9 g, r# L8 e8 x: l% c 以下是原文编译（有部分删改）4 m J0 j* C$ L6 y+ N
智能的时代已经来临，们都吓坏了。
* |1 }( t2 a% ~% S" B5 u但我想在这里带来好消息：AI 不会毁灭世界，甚至可能拯救世界。, g0 y# X( d" J' {; s2 o3 M0 m
先简单介绍 AI 是什么：
# ^! O' U- D/ V8 C, Y# j6 D2 EAI 是数学和软件代码的应用，教计算机如何像人类一样理解、综合和生成知识。
4 |0 A$ N, h* _( G5 ~7 [( g! bAI 类似其他计算机程序，运行、接收输入、处理并生成输出。% D1 F& p' u+ V5 D. A
AI 的输出在各个领域都很有用，包括编程、医学、法律和创意艺术等等。
3 [3 b, b- x# P. m% p7 m2 JAI 由人拥有并受人控制。. p8 U# y6 g9 v0 t
AI 提供了深度增强人类智力的机会# s4 n* x5 V; W' g( X9 [! t m* x
人类智力是我们花费数千年到达现今世界的杠杆，创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。
! B% ?7 D. B _0 b- e% i* f如果没有这些，我们仍然会生活在泥屋中，靠农业勉强维持温饱。我们运用智力，让生活水平在过去 4000 年间提高了大约 10000 倍。
5 }7 M4 `$ `" {! |9 \AI 为我们提供的，是深度增强人类智力的机会，使智力的所有产出，从创造新药物，到解决气候变化，再到探索星际旅行，变得更加卓越。
6 {: T9 Q+ n9 V( }' ~) g: P) Z
& |2 {3 _2 p8 Y* G8 c N5 x
3 B5 f9 f" h6 k. h& R8 ]+ A, S
3 }* Q* v* m. _; T/ FAI 对人类智力的增强已经开始，它以各种计算机控制系统的形式存在于我们周围，通过像 ChatGPT 这样的大语言模型扩展和加速。
9 O8 a: r7 h/ l- s6 X) e" W: W未来的 AI 新时代可能是这样的：$ ?" ] g; T+ b" s) t7 b3 H; E
每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手，它将在人生的各个机遇和挑战中与人同在，最大化每个人的成果。3 A, n8 @. \0 I6 q, J
生产力增长将大幅加速，推动经济发展，创造新的产业和就业机会，进而在全球范围内实现物质繁荣的新时代。# l: b9 ~/ A: s6 \& r! a" C/ i
科学突破、新技术和新药物将大幅扩展，自然规律将被进一步解码。
% K; f; f4 c# y* E9 f* d创意艺术将迎来黄金时代，艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。$ Y5 W" c" H& S0 h! Q2 H
2 n! Y# [2 g1 T' K4 Q; Q. I
! n) v. f! \5 t2 L
i4 o9 a, } c% m7 O
人们今天用天赋所做的任何事情，借助 AI 可以做得更好，并应对以前无法解决的新挑战。3 b0 I/ x+ o3 x L3 y9 \0 O; N
另外，AI 的人性化程度也被低估了。AI 艺术给了缺乏技能的人类创造的自由，医疗聊天机器人比人类同行更有同理心。AI 不会让世界变得更加残酷和机械化，而是会让世界变得更加温暖和美好。: ]' o5 e4 \6 H1 X. n: e
对 AI 的恐慌可能是非理性的7 g$ f* y6 ] I+ L0 b
历史上每一项重要的新技术，从电灯到汽车、从无线电到互联网，都引发了恐慌，这是一种社会传染病，使人们相信新技术将毁灭世界。
# G/ R$ e( p9 J: `我们正面临着一场完全失控的 AI 恐慌，它本质上是非理性的，被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明，自称是在无私捍卫公共利益。5 a2 b9 D( T' H9 s4 b U9 `9 d* Y
* |& d$ t3 T$ x) S; A, c
0 S( ^1 \3 ~5 r% ~
. I; R' g0 g I) Y+ ^* |▲ ChatGPT 之父签署了的联名信 .. e( e4 W- n( E r3 j/ B6 a, W
这些人可以分为两类，狂热的社会改革者和自利的机会主义者。
) X- l/ M! |; Y9 C尤其那些打着风险旗号寻求政府监管的 CEO，就像 20 世纪 20 年代美国禁酒运动的私酒贩子，或将形成垄断组织为自己牟利，提高新创企业和开源竞争的准入门槛，新鲜血液将更难发展起来。
. Z! I$ |# e: E* ^+ q' w 认为 AI 将杀死人类是一种迷信9 j) _8 ?# x6 W( d# b
最经典的 AI 末日论是，AI 将杀死人类。
0 a$ ~- T3 l; b" ^「我们创造的技术终将崛起和摧毁我们」，这种恐惧深深地根植在我们的文化之中。$ X$ p5 U. ~- H9 R& X
普罗米修斯为人类带来了火，因此他被众神永远折磨。玛丽 · 雪莱的《弗兰肯斯坦》，谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里，杀人机器人的眼睛闪烁着红光。" B$ U5 I! v2 F) S9 }
2 X K5 s7 O2 m8 e! n$ m9 g, B. j
W/ M6 l4 Y# b9 T
# S, d. i: s3 ^3 P a ^9 r但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命，它是数学、代码、计算机，由人们建造、拥有、使用和控制。
; I9 E z$ Y( ]) C7 c简而言之，AI 没有意愿，没有目标，它不会想要杀掉你。AI 是一种机器，就像你的烤面包机，它不会变得有生命。
$ \* Q7 ]; I0 x) ]! N" L* d「AI 伦理学家」言论应该被谨慎看待，「AI 风险」已经发展成为一种邪教。$ J, ~7 k( i4 `& O3 N6 f8 e
不必担心 AI 让人失业, [" r7 j: V5 T+ a
自机械织布机等设备出现以来，历史上每一项新的重大技术，都带来了更多的就业机会和更高的工资水平。与此同时，恐惧也如影随形，担心人类劳动力终将被致命一击。+ b( B" d& |# N
但自动化导致失业，是一种「固定馅饼谬误」，即在任何给定的时间里，劳动力的数量是固定的，要么由机器完成，要么由人类完成，如果由机器完成，那么人类失业。8 q( L. S( y* i5 y h' M
相反，当技术应用于生产时，生产力也会增长，投入减少，产出增加，结果是商品和服务的价格降低，我们将有额外的消费能力购买其他东西。这增加了需求，推动了新产品和新产业，为之前被机器取代的人们创造了新的工作岗位。
: g# q+ _9 ~0 s w9 ^9 b0 \) K/ p% V5 u. a! O4 P- T, ^! _
. `) O! J- V1 y' `8 Q
; t9 Q- V0 a8 ]) N6 h
当市场经济正常运行、技术被自由引入，这将是一个永不停歇的向上循环。一个更大的经济体将出现，拥有更高的物质繁荣，更多的产业、产品和就业机会。正如米尔顿 · 弗里德曼所说的「人类的需求无穷无尽」 ，我们想要的比我们拥有的更多。2 Q3 E7 k) z9 g" N, a5 } B
如果更进一步，所有现存的人类劳动都被机器替代，意味着什么？
) E% ^, F# c0 J( V# C0 k* O8 A生产力增长的速度将前所未有，现有商品和服务的价格将接近免费，消费者购买力飙升，新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务，并雇佣尽可能多的 AI 和人类员工，从而满足所有新需求。
- U% R( O9 ], D假设 AI 再次替代了人类劳动力，这个循环将重复，推动经济发展，让就业增长更上一层楼，通往亚当 · 斯密从未敢想象的物质乌托邦。
7 _* ~( G' Y& V7 M7 f2 F$ C AI 不会导致技术不平等
: \) f9 Y& L4 L技术的拥有者独占技术，并不符合自身利益。恰恰相反，他们想将技术卖给尽可能多的客户。
! g; ?4 X9 N- l6 j世界上最大的产品市场，是整个世界的 80 亿人。0 I; }: U/ w3 i# B4 ?
电力、广播、计算机、互联网、移动电话和搜索引擎，这些技术的制造商都积极主动地降低价格，直到所有人都能负担得起。同样地，我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。
% V! g: `$ C1 k- r
, P6 T0 N6 ^7 `9 q8 u4 ~9 m
! j4 A' M1 F+ Z+ r# O5 V/ t8 H8 e5 y0 s( z" U. b3 F4 N
这不是因为他们愚蠢或慷慨，而恰恰是因为他们贪婪——扩大市场规模，赚到更多的钱。
8 Q4 G7 f% a7 ] O8 Z因此，情况与技术推动财富集中化相反，技术的最终用户包括全球所有人。
. X* i( {6 ?2 V6 r1 H; V这并不是说，不平等不是社会问题，但它并非由技术驱动。! j! N7 y5 O) q- B/ @+ _/ t8 Z b
AI 的风险可以用 AI 防御( X, X) n8 l/ |- t
技术是一种工具。从火和石头开始，任何技术都可以游走在善恶之间。7 [% u) C# j) i3 i
有人提出应该尽早禁止 AI，但这并不现实，因为 AI 不难获取，它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI，每天都有开源项目不断涌现。AI 就像空气，它将无处不在。
" X3 w$ k, B3 p, j' K7 T3 eAI 的风险可以用 AI 防御。
7 k% w! k2 |& [) Q- Q1 A1 k) J1 C
. z2 P( c: |& O) T: i) ?
; h- L) G, w4 _( K: ~例如，如果我们担心 AI 生成虚假人物和视频，可以通过加密签名验证真实内容。在 AI 之前，数字内容的创建和修改已经存在了，答案不是禁止 Photoshop 或者 AI，而是利用技术构建一个真正解决问题的系统。
& ^& e4 @$ Z; N& `2 N* F- ]: M放弃禁止 AI 的徒劳，把它用于善意、合法的防御目的，一个充满 AI 的世界将比我们今天生活的世界更安全。
% R3 Q$ n* M g U# m 尽可能快速积极地构建 AI3 T$ k& m2 P% k. l/ D% }6 [
应该允许大型 AI 公司尽可能快速、积极地构建 AI，但不允许它们建立垄断组织。, [: j% o Y& y
应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了，它们在市场上的存在，也将不断激励大公司做得更好。
$ M8 p0 v7 L9 B& w2 u4 X
; n) l( a4 |# D3 i. n7 b; C4 Y. q& ` n
. U. \: p1 C7 B4 }应该允许开源 AI 自由传播，并与大型公司和初创公司竞争。它们广泛的可用性，将造福学习如何构建和使用 AI 的学生，确保无论身份和财富如何，每个人都能从中受益。
( E0 N( `# ]6 R8 _* r( Z+ X- |$ M为了防止有人用 AI 做坏事，政府和企业应该积极利用 AI，最大化社会的防御能力。不只是应对 AI 风险，还包括解决疾病、气候等问题。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有账号？立即注册
×
|
|手机版|小黑屋|梦想之都-俊月星空
( 粤ICP备18056059号 )|网站地图
发表于 2023-6-10 07:36:35
