|
|
; f7 s" c/ x# h9 c& m2 t$ R' m* E% i/ b$ q/ ?
强调 AI 危险的联名信一封又一封,类比核战争和流行病的譬喻层出不穷,与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明,似乎不做些什么,AI 就要让人类完蛋了。: L0 E. ~6 a. }4 x: \3 z9 e# v# `6 T
马克 · 安德森(Marc Andreessen)却有着不同的想法,他写下近 7000 字的文章,洋洋洒洒论述以下观点:
Z% E+ `$ d- {1 V! t+ dAI 不会毁灭世界,甚至可能会拯救世界。
3 z- s7 r/ @6 X: [" F1 g+ G* w6 m- U马克 · 安德森是硅谷风投公司 a16z 的联合创始人和合伙人。, m. k% C" I- J
a16z 是硅谷最具影响力的创投公司之一,倾向长期投资,参投过 OpenAI,尤其关注下一代科技的发展,在区块链和加密货币领域享有盛名,并经常以 KOL 的形象现身,发表尖锐和前沿的观点。7 Q i/ s0 S1 w# K1 m
* d* P- W/ b3 s6 U! b6 u, x" f/ y6 P3 J& [! {
% ]$ y$ K$ I [9 h, \# ~$ }
来回摇摆的 AI 天平之上,马克 · 安德森选择站在另一个极端,展现着极其乐观的理想主义,驳斥了几个主流的 AI 威胁论。* _; Z/ l/ o" B
这也在情理之中,因为马克 · 安德森本人与 AI 利益相关,并在文章的结尾提到,他和他的公司将尽可能支持 AI 工程师和初创公司。换言之,他想从 AI 革命里赚钱。. c! M* ?; _$ D1 `) g3 D' F) y7 }
我们不必无条件相信一切,只是兼听则明、偏信则暗,很少有人能够准确预测未来,以批判性的目光多了解前沿观点,也是一种抓住可能性的方式。
; S! o/ G: c5 B7 }) \ 划重点
5 }% \+ ?( A: o0 u% E( ~! qAI 提供了深度增强人类智力的机会。
' H# n6 _. o7 S4 E) k, m- }8 J6 G对 AI 的恐慌可能是非理性的。+ O9 v! p- o, `8 o4 D) c8 |& h
认为 AI 将杀死人类是一种迷信。
; i& K- W* m _, s不必担心 AI 让人失业。0 W/ p% z8 N) c/ Q- n" {: N
AI 不会导致技术不平等。5 `4 p! d- l# ?3 c" H/ k
AI 的风险可以用 AI 防御。9 I/ @- p) z% B5 U$ v9 {. I
尽可能快速积极地构建 AI。
3 Y" j: z9 [1 O) B5 G3 \1 T/ j 以下是原文编译(有部分删改)5 u3 ^5 x0 Z+ T G: S/ H" c
智能的时代已经来临,们都吓坏了。' [, I0 e* E% I" O
但我想在这里带来好消息:AI 不会毁灭世界,甚至可能拯救世界。
4 g6 \! q0 n8 b5 \3 x! D先简单介绍 AI 是什么:* {, E1 L. r/ L; T4 r2 A) D7 N
AI 是数学和软件代码的应用,教计算机如何像人类一样理解、综合和生成知识。# t% j+ {4 C$ C4 U' u
AI 类似其他计算机程序,运行、接收输入、处理并生成输出。" [2 O! H0 ~& k0 \& c: U) [6 X6 A
AI 的输出在各个领域都很有用,包括编程、医学、法律和创意艺术等等。
" z" M% e8 I6 ]3 `- DAI 由人拥有并受人控制。5 {5 L% s8 L, \
AI 提供了深度增强人类智力的机会' ?3 |, |% N9 F& o# k
人类智力是我们花费数千年到达现今世界的杠杆,创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。
# n* E) n% l# u如果没有这些,我们仍然会生活在泥屋中,靠农业勉强维持温饱。我们运用智力,让生活水平在过去 4000 年间提高了大约 10000 倍。3 `: U; s2 W2 K5 a( A2 | k8 E9 Y9 N
AI 为我们提供的,是深度增强人类智力的机会,使智力的所有产出,从创造新药物,到解决气候变化,再到探索星际旅行,变得更加卓越。
1 k1 C4 b0 p: B, i+ S& |, T! q d v: V) l
! w* p" @8 _% l
) m* p) f# c/ ?- M9 N
AI 对人类智力的增强已经开始,它以各种计算机控制系统的形式存在于我们周围,通过像 ChatGPT 这样的大语言模型扩展和加速。
( Z6 s& z) ]! M2 T& {1 W) \未来的 AI 新时代可能是这样的:
0 r& M: ]7 u6 v" u每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手,它将在人生的各个机遇和挑战中与人同在,最大化每个人的成果。
) m; e! L9 S$ ~+ ~$ G4 d生产力增长将大幅加速,推动经济发展,创造新的产业和就业机会,进而在全球范围内实现物质繁荣的新时代。 n9 K- h- I* ?6 j
科学突破、新技术和新药物将大幅扩展,自然规律将被进一步解码。
) U- e+ s/ K$ Y创意艺术将迎来黄金时代,艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。, ]; m) O! c2 ]6 z$ k/ ~
8 t H8 d( \( I) Q+ \; n. E+ F5 ]- }& O7 m# {; g
5 l, _3 @3 @+ r5 S7 W$ j
人们今天用天赋所做的任何事情,借助 AI 可以做得更好,并应对以前无法解决的新挑战。: h, U) O0 @: |1 `9 R: u" F4 t
另外,AI 的人性化程度也被低估了。AI 艺术给了缺乏技能的人类创造的自由,医疗聊天机器人比人类同行更有同理心。AI 不会让世界变得更加残酷和机械化,而是会让世界变得更加温暖和美好。# }- d, w, M/ @& N( H1 v( r
对 AI 的恐慌可能是非理性的; V" T! y/ V' Y" k( ?
历史上每一项重要的新技术,从电灯到汽车、从无线电到互联网,都引发了恐慌,这是一种社会传染病,使人们相信新技术将毁灭世界。% c4 l3 i7 q5 S6 q: L( u4 I) B
我们正面临着一场完全失控的 AI 恐慌,它本质上是非理性的,被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明,自称是在无私捍卫公共利益。/ y/ ~9 ~& }5 @& o2 I, N: w
2 m& V8 p; S5 ?& y0 u$ I0 ?4 {0 x9 `9 Q, |8 L" d) A Q
Q8 Z3 E7 ]6 A9 e- O# ?) m
▲ ChatGPT 之父签署了的联名信 .
K" ?' m2 ^$ h+ I {5 n) B) T7 Q这些人可以分为两类,狂热的社会改革者和自利的机会主义者。2 {% D) C$ f& b& A
尤其那些打着风险旗号寻求政府监管的 CEO,就像 20 世纪 20 年代美国禁酒运动的私酒贩子,或将形成垄断组织为自己牟利,提高新创企业和开源竞争的准入门槛,新鲜血液将更难发展起来。3 z( z4 X& F% i
认为 AI 将杀死人类是一种迷信. J; u2 c# ]) P7 {; m" @
最经典的 AI 末日论是,AI 将杀死人类。
0 x6 M9 i4 U' F2 K; ~" M. [# M$ l「我们创造的技术终将崛起和摧毁我们」,这种恐惧深深地根植在我们的文化之中。1 M1 p5 ]2 w! k/ l/ s+ X
普罗米修斯为人类带来了火,因此他被众神永远折磨。玛丽 · 雪莱的《弗兰肯斯坦》,谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里,杀人机器人的眼睛闪烁着红光。
: Y; B) D7 @3 l/ G" H* W
* G6 n- N4 B1 G; M {5 v' [1 t3 m. A L( q# C0 N
/ S; b7 E3 ?* o2 X' q
但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命,它是数学、代码、计算机,由人们建造、拥有、使用和控制。
% @+ H6 S. Q5 u6 M- L# t简而言之,AI 没有意愿,没有目标,它不会想要杀掉你。AI 是一种机器,就像你的烤面包机,它不会变得有生命。8 ~1 _/ t/ R3 j$ W' T4 z! ^
「AI 伦理学家」言论应该被谨慎看待,「AI 风险」已经发展成为一种邪教。4 ^* w0 y5 |6 R- |( I
不必担心 AI 让人失业
9 U4 Y) b4 W$ E+ C, o/ q自机械织布机等设备出现以来,历史上每一项新的重大技术,都带来了更多的就业机会和更高的工资水平。与此同时,恐惧也如影随形,担心人类劳动力终将被致命一击。1 f' R. L+ q0 [4 K6 F7 w
但自动化导致失业,是一种「固定馅饼谬误」,即在任何给定的时间里,劳动力的数量是固定的,要么由机器完成,要么由人类完成,如果由机器完成,那么人类失业。
0 ?/ h. c1 V" z9 @相反,当技术应用于生产时,生产力也会增长,投入减少,产出增加,结果是商品和服务的价格降低,我们将有额外的消费能力购买其他东西。这增加了需求,推动了新产品和新产业,为之前被机器取代的人们创造了新的工作岗位。
, t0 v, ~: p" P+ H, S7 x' k4 ^- u4 b$ j: H. a% n) t/ U
- a/ `6 |! `. K) p% e
' V! l6 z( F* G& W6 w当市场经济正常运行、技术被自由引入,这将是一个永不停歇的向上循环。一个更大的经济体将出现,拥有更高的物质繁荣,更多的产业、产品和就业机会。正如米尔顿 · 弗里德曼所说的「人类的需求无穷无尽」 ,我们想要的比我们拥有的更多。
& |5 _. C$ K* z! y- B# M7 X* l [2 t如果更进一步,所有现存的人类劳动都被机器替代,意味着什么?% Y6 B% a) `% z; L; d! g8 C
生产力增长的速度将前所未有,现有商品和服务的价格将接近免费,消费者购买力飙升,新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务,并雇佣尽可能多的 AI 和人类员工,从而满足所有新需求。
) i/ F" s, n' o Z! K假设 AI 再次替代了人类劳动力,这个循环将重复,推动经济发展,让就业增长更上一层楼,通往亚当 · 斯密从未敢想象的物质乌托邦。
& _% U$ K: @6 B5 N9 O6 h2 L/ k AI 不会导致技术不平等5 J7 @! h/ e) v! P3 Q
技术的拥有者独占技术,并不符合自身利益。恰恰相反,他们想将技术卖给尽可能多的客户。: Y, O/ u, t3 z3 M
世界上最大的产品市场,是整个世界的 80 亿人。
$ h3 s# q3 ~- s% R! b电力、广播、计算机、互联网、移动电话和搜索引擎,这些技术的制造商都积极主动地降低价格,直到所有人都能负担得起。同样地,我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。
, W# c, e$ E. s: C' H
/ Q% X: `; f2 t) a6 l/ H# r8 c
+ h1 O- r3 ^5 j1 o2 S! D' }, v$ H6 @2 D* K
这不是因为他们愚蠢或慷慨,而恰恰是因为他们贪婪——扩大市场规模,赚到更多的钱。
' j$ G& u& }9 i6 l% L- [因此,情况与技术推动财富集中化相反,技术的最终用户包括全球所有人。/ S: C5 |( [. S& W8 r+ x( y8 O# I
这并不是说,不平等不是社会问题,但它并非由技术驱动。! l4 k/ k0 T5 C- s4 f& f/ @
AI 的风险可以用 AI 防御
/ q" H! O i& A8 Y0 Z {2 m& r技术是一种工具。从火和石头开始,任何技术都可以游走在善恶之间。6 U: t/ E- [6 h: l
有人提出应该尽早禁止 AI,但这并不现实,因为 AI 不难获取,它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI,每天都有开源项目不断涌现。AI 就像空气,它将无处不在。" u9 o5 T; p# Y
AI 的风险可以用 AI 防御。
" |+ Q; G8 k/ d) C5 T( S* P; e5 M. D$ D p6 N
" r* a; u) ]) L: u$ B6 F- q) t/ B! z5 L& d/ y
例如,如果我们担心 AI 生成虚假人物和视频,可以通过加密签名验证真实内容。在 AI 之前,数字内容的创建和修改已经存在了,答案不是禁止 Photoshop 或者 AI,而是利用技术构建一个真正解决问题的系统。! t1 s7 r- N- N; U* U0 Y9 Y' g1 E
放弃禁止 AI 的徒劳,把它用于善意、合法的防御目的,一个充满 AI 的世界将比我们今天生活的世界更安全。
. @+ J B9 r) z2 T! [. I: S 尽可能快速积极地构建 AI" |& P7 C1 {- p" j
应该允许大型 AI 公司尽可能快速、积极地构建 AI,但不允许它们建立垄断组织。
; j9 E3 U! q& k应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了,它们在市场上的存在,也将不断激励大公司做得更好。
8 h- |" ~( N# f
) e( p6 A" s8 Y, K
& b5 p+ o1 j! \2 t" f) i' j" \) c7 t; O. j6 P, o: d
应该允许开源 AI 自由传播,并与大型公司和初创公司竞争。它们广泛的可用性,将造福学习如何构建和使用 AI 的学生,确保无论身份和财富如何,每个人都能从中受益。
1 ?! P0 ^4 J7 y" l! w为了防止有人用 AI 做坏事,政府和企业应该积极利用 AI,最大化社会的防御能力。不只是应对 AI 风险,还包括解决疾病、气候等问题。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|