|
|
: l! C3 g: J) `; n) S; h; Y& K/ P. x5 D L5 q
强调 AI 危险的联名信一封又一封，类比核战争和流行病的譬喻层出不穷，与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明，似乎不做些什么，AI 就要让人类完蛋了。
' N1 G: \( o# W马克 · 安德森（Marc Andreessen）却有着不同的想法，他写下近 7000 字的文章，洋洋洒洒论述以下观点：
# j" P! m0 K% QAI 不会毁灭世界，甚至可能会拯救世界。6 u3 a0 k0 X; R l# n
马克 · 安德森是硅谷风投公司 a16z 的联合创始人和合伙人。- k5 ]; }/ e- s, w0 ?
a16z 是硅谷最具影响力的创投公司之一，倾向长期投资，参投过 OpenAI，尤其关注下一代科技的发展，在区块链和加密货币领域享有盛名，并经常以 KOL 的形象现身，发表尖锐和前沿的观点。
8 h3 Y" k2 L+ a$ q% p& O) A1 Z8 l! ?! y/ ]( s. H6 M
( b: Y/ D8 I: W+ J5 z' q
+ u m/ m; A' A! W来回摇摆的 AI 天平之上，马克 · 安德森选择站在另一个极端，展现着极其乐观的理想主义，驳斥了几个主流的 AI 威胁论。7 _" y" x ^) F6 `8 i
这也在情理之中，因为马克 · 安德森本人与 AI 利益相关，并在文章的结尾提到，他和他的公司将尽可能支持 AI 工程师和初创公司。换言之，他想从 AI 革命里赚钱。- l# M$ n |& G
我们不必无条件相信一切，只是兼听则明、偏信则暗，很少有人能够准确预测未来，以批判性的目光多了解前沿观点，也是一种抓住可能性的方式。
( a* Y$ z$ y# w1 O9 i! ~1 O 划重点& A) q& ]+ K/ R: e4 m' b8 b) ^
AI 提供了深度增强人类智力的机会。) e, y+ g7 \% r: j1 Q8 V5 ^+ q
对 AI 的恐慌可能是非理性的。5 |# r, M& r( Q
认为 AI 将杀死人类是一种迷信。- g8 ]3 o5 @& \& A# n# H
不必担心 AI 让人失业。
, u% x {# p* C/ n h0 BAI 不会导致技术不平等。1 @; K6 A) e. n$ V6 o3 J" p! k
AI 的风险可以用 AI 防御。3 Q" U% f* l1 ?% Z
尽可能快速积极地构建 AI。9 f( ^' s: C" {8 `/ S( w' @/ p- s: R
以下是原文编译（有部分删改）
. j8 r" J7 m- h4 j$ n智能的时代已经来临，们都吓坏了。3 _. w' r8 m5 H9 F- A, V) ^8 C9 q
但我想在这里带来好消息：AI 不会毁灭世界，甚至可能拯救世界。* J( i7 e- D; q, d5 f8 y0 u" @
先简单介绍 AI 是什么：+ r/ D7 o2 c7 R7 |
AI 是数学和软件代码的应用，教计算机如何像人类一样理解、综合和生成知识。" Q7 h* U) A2 H
AI 类似其他计算机程序，运行、接收输入、处理并生成输出。
7 F: I/ C2 R1 z- M$ t, DAI 的输出在各个领域都很有用，包括编程、医学、法律和创意艺术等等。0 ~: i) U9 \. `& g8 _9 H; _
AI 由人拥有并受人控制。
, o9 L9 M( { ~3 K AI 提供了深度增强人类智力的机会3 e- c7 c9 ?* E) F% i/ r
人类智力是我们花费数千年到达现今世界的杠杆，创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。
$ y/ m. w7 v4 ], U; U$ t* F) @. D \ ^" `如果没有这些，我们仍然会生活在泥屋中，靠农业勉强维持温饱。我们运用智力，让生活水平在过去 4000 年间提高了大约 10000 倍。- q( `* ]0 C; |- K
AI 为我们提供的，是深度增强人类智力的机会，使智力的所有产出，从创造新药物，到解决气候变化，再到探索星际旅行，变得更加卓越。' z4 t* ~" o$ V4 @
% B# V" t) D4 ~$ w* X0 }
( \$ v" z1 B% N# b+ |
1 z: B2 l. N; W: j7 R3 KAI 对人类智力的增强已经开始，它以各种计算机控制系统的形式存在于我们周围，通过像 ChatGPT 这样的大语言模型扩展和加速。
2 \/ {! I& i2 j- E未来的 AI 新时代可能是这样的：
6 K4 ?7 w5 W2 m- z! f: Z1 l* c: {9 c每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手，它将在人生的各个机遇和挑战中与人同在，最大化每个人的成果。8 J! v3 V5 T3 e4 P1 I' h- ^1 t& V
生产力增长将大幅加速，推动经济发展，创造新的产业和就业机会，进而在全球范围内实现物质繁荣的新时代。2 i9 Y7 P" F$ b% O. |
科学突破、新技术和新药物将大幅扩展，自然规律将被进一步解码。
7 N: b, P& y$ E* S* | W( [创意艺术将迎来黄金时代，艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。6 B& F$ G5 Z7 [# }0 E# {
( d) G; K5 `1 U7 b
3 O+ ], p5 X N$ K% z9 A
/ g' _- A$ s; ~6 S' R& E, O人们今天用天赋所做的任何事情，借助 AI 可以做得更好，并应对以前无法解决的新挑战。
/ U% y6 J$ L" W& E另外，AI 的人性化程度也被低估了。AI 艺术给了缺乏技能的人类创造的自由，医疗聊天机器人比人类同行更有同理心。AI 不会让世界变得更加残酷和机械化，而是会让世界变得更加温暖和美好。
E3 I( v8 Q/ Q7 H6 ^ 对 AI 的恐慌可能是非理性的
# ^ F9 X$ e& ~! Z: Q& l! G0 P历史上每一项重要的新技术，从电灯到汽车、从无线电到互联网，都引发了恐慌，这是一种社会传染病，使人们相信新技术将毁灭世界。
- s1 C( f( q- O( |( K/ h我们正面临着一场完全失控的 AI 恐慌，它本质上是非理性的，被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明，自称是在无私捍卫公共利益。: J. f3 Q+ w6 k
. H" v9 @6 r3 c9 X, R7 j- q$ n1 l
* w; s. Q9 X+ f1 T6 m
5 C/ r ^$ s5 _! x- g▲ ChatGPT 之父签署了的联名信 .
( v4 ~1 Q, H) D这些人可以分为两类，狂热的社会改革者和自利的机会主义者。' ?; D5 {! `6 A9 {: p4 R; C
尤其那些打着风险旗号寻求政府监管的 CEO，就像 20 世纪 20 年代美国禁酒运动的私酒贩子，或将形成垄断组织为自己牟利，提高新创企业和开源竞争的准入门槛，新鲜血液将更难发展起来。4 \& a7 ]! v U0 @6 M: O" P
认为 AI 将杀死人类是一种迷信: d, o& |) p) J0 Z i
最经典的 AI 末日论是，AI 将杀死人类。
! J; B2 S3 @% O4 H「我们创造的技术终将崛起和摧毁我们」，这种恐惧深深地根植在我们的文化之中。: [/ @& f5 R; F. a* }1 q
普罗米修斯为人类带来了火，因此他被众神永远折磨。玛丽 · 雪莱的《弗兰肯斯坦》，谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里，杀人机器人的眼睛闪烁着红光。% o; m/ I; l8 E8 A- C
4 D. b4 ], u$ z
3 l3 l9 _" `3 G
' E, P: f6 O4 i! Y6 L$ c8 W* N但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命，它是数学、代码、计算机，由人们建造、拥有、使用和控制。
4 x0 e0 l6 e* M简而言之，AI 没有意愿，没有目标，它不会想要杀掉你。AI 是一种机器，就像你的烤面包机，它不会变得有生命。/ W5 P) d$ A, j5 w" |& C
「AI 伦理学家」言论应该被谨慎看待，「AI 风险」已经发展成为一种邪教。) h* M: G' @" B+ ]
不必担心 AI 让人失业6 }! G b/ x% W2 P* G
自机械织布机等设备出现以来，历史上每一项新的重大技术，都带来了更多的就业机会和更高的工资水平。与此同时，恐惧也如影随形，担心人类劳动力终将被致命一击。- x; P# w! s. ]9 M
但自动化导致失业，是一种「固定馅饼谬误」，即在任何给定的时间里，劳动力的数量是固定的，要么由机器完成，要么由人类完成，如果由机器完成，那么人类失业。1 l8 R( ` `8 g
相反，当技术应用于生产时，生产力也会增长，投入减少，产出增加，结果是商品和服务的价格降低，我们将有额外的消费能力购买其他东西。这增加了需求，推动了新产品和新产业，为之前被机器取代的人们创造了新的工作岗位。6 C+ I1 X7 @0 L" o3 m6 X
- ^. i/ E) @9 k$ Q/ J
7 ]) M* \0 T4 @ m9 G, z. y
5 Q& p' y. Q1 o( F
当市场经济正常运行、技术被自由引入，这将是一个永不停歇的向上循环。一个更大的经济体将出现，拥有更高的物质繁荣，更多的产业、产品和就业机会。正如米尔顿 · 弗里德曼所说的「人类的需求无穷无尽」 ，我们想要的比我们拥有的更多。
+ z* H5 \! q6 G" F/ I* k如果更进一步，所有现存的人类劳动都被机器替代，意味着什么？
- s; E" g$ z0 I# a' c生产力增长的速度将前所未有，现有商品和服务的价格将接近免费，消费者购买力飙升，新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务，并雇佣尽可能多的 AI 和人类员工，从而满足所有新需求。/ w) q4 } H! }) R3 a
假设 AI 再次替代了人类劳动力，这个循环将重复，推动经济发展，让就业增长更上一层楼，通往亚当 · 斯密从未敢想象的物质乌托邦。
* @$ A; T$ _+ l9 V AI 不会导致技术不平等2 ^3 z. |3 d5 l+ i$ z3 I
技术的拥有者独占技术，并不符合自身利益。恰恰相反，他们想将技术卖给尽可能多的客户。, V4 y# b, T$ ~# ^$ h
世界上最大的产品市场，是整个世界的 80 亿人。. E7 g+ A$ b) ]: D
电力、广播、计算机、互联网、移动电话和搜索引擎，这些技术的制造商都积极主动地降低价格，直到所有人都能负担得起。同样地，我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。3 v* z2 _4 c& }3 r5 k0 t: l9 }
, s( e T. d0 p$ S- u3 l+ C- A9 D6 V% l( B, b3 j/ ^
; q1 b6 p/ v) o3 [3 n; K' ~/ Z: P, }" H
这不是因为他们愚蠢或慷慨，而恰恰是因为他们贪婪——扩大市场规模，赚到更多的钱。& D# R, | i0 n
因此，情况与技术推动财富集中化相反，技术的最终用户包括全球所有人。/ X9 z+ X b4 j& b
这并不是说，不平等不是社会问题，但它并非由技术驱动。
3 F/ p0 v) [9 H' P) ] AI 的风险可以用 AI 防御' J- g$ e1 O7 ~1 V7 b, b* T& g
技术是一种工具。从火和石头开始，任何技术都可以游走在善恶之间。0 U/ Q- k% W, V
有人提出应该尽早禁止 AI，但这并不现实，因为 AI 不难获取，它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI，每天都有开源项目不断涌现。AI 就像空气，它将无处不在。
- q) G& ^# W1 E D0 n. KAI 的风险可以用 AI 防御。& x* o% i, ^8 U# I. N
8 u" z# ~* x% ]) O8 p# L2 M& E1 Y/ Z* i% w1 ^
( Y$ l! ]' S- n' [7 `
例如，如果我们担心 AI 生成虚假人物和视频，可以通过加密签名验证真实内容。在 AI 之前，数字内容的创建和修改已经存在了，答案不是禁止 Photoshop 或者 AI，而是利用技术构建一个真正解决问题的系统。
( B6 q! i/ m4 k6 K4 \ v( K放弃禁止 AI 的徒劳，把它用于善意、合法的防御目的，一个充满 AI 的世界将比我们今天生活的世界更安全。 q2 \7 t ]# m: x# t
尽可能快速积极地构建 AI' s5 s& ?: X: k8 W0 }
应该允许大型 AI 公司尽可能快速、积极地构建 AI，但不允许它们建立垄断组织。, K( R' u0 D' i. D1 b1 R/ ^
应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了，它们在市场上的存在，也将不断激励大公司做得更好。! {/ c* B4 t2 L: u/ T
# O6 M" T- x8 [4 c( K6 f7 I
- E2 o- ]5 {' x# _4 d, j7 L& w
/ y; t4 j. p, G- J! U应该允许开源 AI 自由传播，并与大型公司和初创公司竞争。它们广泛的可用性，将造福学习如何构建和使用 AI 的学生，确保无论身份和财富如何，每个人都能从中受益。1 M) n1 `( F: b7 J2 s w
为了防止有人用 AI 做坏事，政府和企业应该积极利用 AI，最大化社会的防御能力。不只是应对 AI 风险，还包括解决疾病、气候等问题。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有账号？立即注册
×
|
|手机版|小黑屋|梦想之都-俊月星空
( 粤ICP备18056059号 )|网站地图
发表于 2023-6-10 07:36:35
