|
|
! k& ~- x5 J: Z5 \: G, _4 R
. Q5 K" S: F: Z- m0 L5 L; |
强调 AI 危险的联名信一封又一封，类比核战争和流行病的譬喻层出不穷，与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明，似乎不做些什么，AI 就要让人类完蛋了。5 m0 w3 D X& U: _) o v
马克 · 安德森（Marc Andreessen）却有着不同的想法，他写下近 7000 字的文章，洋洋洒洒论述以下观点：
7 t& x9 Y- c IAI 不会毁灭世界，甚至可能会拯救世界。9 x1 p, t; J: _/ w- W% m% |
马克 · 安德森是硅谷风投公司 a16z 的联合创始人和合伙人。
- [! U: L$ O' da16z 是硅谷最具影响力的创投公司之一，倾向长期投资，参投过 OpenAI，尤其关注下一代科技的发展，在区块链和加密货币领域享有盛名，并经常以 KOL 的形象现身，发表尖锐和前沿的观点。
N3 p6 z$ [3 m5 z( i& @
1 y0 h0 }$ B2 s$ E
- k/ k+ h4 S* A% O" [
& R) t7 U3 Y. y来回摇摆的 AI 天平之上，马克 · 安德森选择站在另一个极端，展现着极其乐观的理想主义，驳斥了几个主流的 AI 威胁论。
1 c& R5 C8 P ?7 G这也在情理之中，因为马克 · 安德森本人与 AI 利益相关，并在文章的结尾提到，他和他的公司将尽可能支持 AI 工程师和初创公司。换言之，他想从 AI 革命里赚钱。
/ z! U" E" E! k$ O8 i" Q4 W我们不必无条件相信一切，只是兼听则明、偏信则暗，很少有人能够准确预测未来，以批判性的目光多了解前沿观点，也是一种抓住可能性的方式。
$ f8 H- i! ]- \2 D 划重点
( ^$ h* s* g+ ]0 N/ A; MAI 提供了深度增强人类智力的机会。
( L& ^& X, E2 g对 AI 的恐慌可能是非理性的。
3 _- b! u3 D% v3 C认为 AI 将杀死人类是一种迷信。" V; `3 T9 {0 W8 r
不必担心 AI 让人失业。 c, V. g. J: H# Y4 m G2 X
AI 不会导致技术不平等。 P9 D- N- v. P% V
AI 的风险可以用 AI 防御。# `1 ]. [7 @2 {/ O1 |2 S2 i9 O
尽可能快速积极地构建 AI。
; h# c1 N# V9 ] 以下是原文编译（有部分删改）
$ B6 z- u j7 o+ j智能的时代已经来临，们都吓坏了。: s" S5 X% O* D
但我想在这里带来好消息：AI 不会毁灭世界，甚至可能拯救世界。0 f' `/ t# @& a: F) a: }
先简单介绍 AI 是什么：
. T7 z, K, x+ {9 N+ \AI 是数学和软件代码的应用，教计算机如何像人类一样理解、综合和生成知识。
% ?& {* N6 B9 |; HAI 类似其他计算机程序，运行、接收输入、处理并生成输出。
( d& G( v8 G4 X9 @6 A3 ?' pAI 的输出在各个领域都很有用，包括编程、医学、法律和创意艺术等等。
( |- p1 Q; n) a G DAI 由人拥有并受人控制。
K: B3 N& I8 H+ b% [ AI 提供了深度增强人类智力的机会
: I, F+ ~+ b) ?+ `1 K$ ^9 h人类智力是我们花费数千年到达现今世界的杠杆，创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。
. d: p" {7 W0 I9 G如果没有这些，我们仍然会生活在泥屋中，靠农业勉强维持温饱。我们运用智力，让生活水平在过去 4000 年间提高了大约 10000 倍。5 m- I3 l) D1 H4 J" e7 B
AI 为我们提供的，是深度增强人类智力的机会，使智力的所有产出，从创造新药物，到解决气候变化，再到探索星际旅行，变得更加卓越。/ g7 J& U, ]% }' {0 ~
, q) ]: r4 P$ y' a+ b8 i# v) l
6 N/ V. X: Y: j+ Z5 G% `# j. X! |; k, o2 W) Q0 O
AI 对人类智力的增强已经开始，它以各种计算机控制系统的形式存在于我们周围，通过像 ChatGPT 这样的大语言模型扩展和加速。
. B8 h( X' a) j2 i未来的 AI 新时代可能是这样的：
9 @% M' C9 C! }* c每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手，它将在人生的各个机遇和挑战中与人同在，最大化每个人的成果。9 x2 l# D" ~% [" j3 A
生产力增长将大幅加速，推动经济发展，创造新的产业和就业机会，进而在全球范围内实现物质繁荣的新时代。+ @* v" @+ _! Y& S" m9 @
科学突破、新技术和新药物将大幅扩展，自然规律将被进一步解码。
a) I5 c+ Q, F: j$ [! X创意艺术将迎来黄金时代，艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。
3 Z, T/ y* \/ a9 Y, t, H# Z: ~! A: R: b' z3 k. o
( I6 ]) ]% ^! V) o- R. w5 f9 y- l( }; }+ D; @" Y7 N0 V
人们今天用天赋所做的任何事情，借助 AI 可以做得更好，并应对以前无法解决的新挑战。
4 K/ F7 X0 U* E) C' n另外，AI 的人性化程度也被低估了。AI 艺术给了缺乏技能的人类创造的自由，医疗聊天机器人比人类同行更有同理心。AI 不会让世界变得更加残酷和机械化，而是会让世界变得更加温暖和美好。
+ c5 i, u$ \/ n 对 AI 的恐慌可能是非理性的: @$ I* G0 ?( x+ H% X: x) b
历史上每一项重要的新技术，从电灯到汽车、从无线电到互联网，都引发了恐慌，这是一种社会传染病，使人们相信新技术将毁灭世界。
! \ m( U* C, M8 K4 ]# v Q我们正面临着一场完全失控的 AI 恐慌，它本质上是非理性的，被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明，自称是在无私捍卫公共利益。
+ {7 Y! E# ~8 R" ?# Y1 D
0 C0 u+ B! |/ T- c
$ L* S' V) j2 y3 ?+ D' q
- E6 C" m* p1 j( y( i7 ~▲ ChatGPT 之父签署了的联名信 .9 ^& [0 i( { G: t& \
这些人可以分为两类，狂热的社会改革者和自利的机会主义者。
( A, G/ ?1 }' ^/ P- s( {4 Z尤其那些打着风险旗号寻求政府监管的 CEO，就像 20 世纪 20 年代美国禁酒运动的私酒贩子，或将形成垄断组织为自己牟利，提高新创企业和开源竞争的准入门槛，新鲜血液将更难发展起来。- M, U" O" r3 r
认为 AI 将杀死人类是一种迷信
_$ X& n d' x& U# a8 m; ]最经典的 AI 末日论是，AI 将杀死人类。
/ m N9 j% P% ]( c- H「我们创造的技术终将崛起和摧毁我们」，这种恐惧深深地根植在我们的文化之中。
/ z' Q# m8 N5 u; e0 `普罗米修斯为人类带来了火，因此他被众神永远折磨。玛丽 · 雪莱的《弗兰肯斯坦》，谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里，杀人机器人的眼睛闪烁着红光。' Z$ ^( ?, e/ y4 F( K& O; d1 i$ X
$ r m5 ] {4 |! c2 `" H' g5 u R9 F- v% V
6 A8 n0 P" L8 x7 v7 n但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命，它是数学、代码、计算机，由人们建造、拥有、使用和控制。! [# v, b* D7 i' _# J- C u
简而言之，AI 没有意愿，没有目标，它不会想要杀掉你。AI 是一种机器，就像你的烤面包机，它不会变得有生命。
( N) u$ r9 R$ c8 w「AI 伦理学家」言论应该被谨慎看待，「AI 风险」已经发展成为一种邪教。- y& @' S9 ]/ A/ @% A
不必担心 AI 让人失业
# v+ F5 a2 ]- d2 f自机械织布机等设备出现以来，历史上每一项新的重大技术，都带来了更多的就业机会和更高的工资水平。与此同时，恐惧也如影随形，担心人类劳动力终将被致命一击。: p/ W/ a6 M" b
但自动化导致失业，是一种「固定馅饼谬误」，即在任何给定的时间里，劳动力的数量是固定的，要么由机器完成，要么由人类完成，如果由机器完成，那么人类失业。
3 R( v2 V' R* a; Z3 d相反，当技术应用于生产时，生产力也会增长，投入减少，产出增加，结果是商品和服务的价格降低，我们将有额外的消费能力购买其他东西。这增加了需求，推动了新产品和新产业，为之前被机器取代的人们创造了新的工作岗位。
( @6 ?( O; `# g% ~2 ?6 f
" v/ I/ k0 k7 Q* d! i; N, T/ ?9 ]) f* C& m1 [. B, U: L) @
7 D9 K9 o) ^6 p2 ^
当市场经济正常运行、技术被自由引入，这将是一个永不停歇的向上循环。一个更大的经济体将出现，拥有更高的物质繁荣，更多的产业、产品和就业机会。正如米尔顿 · 弗里德曼所说的「人类的需求无穷无尽」 ，我们想要的比我们拥有的更多。
k& f/ D8 x& N5 F' g如果更进一步，所有现存的人类劳动都被机器替代，意味着什么？; v) M# T8 e! e
生产力增长的速度将前所未有，现有商品和服务的价格将接近免费，消费者购买力飙升，新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务，并雇佣尽可能多的 AI 和人类员工，从而满足所有新需求。
0 `( z5 X: {( y& y- b* q假设 AI 再次替代了人类劳动力，这个循环将重复，推动经济发展，让就业增长更上一层楼，通往亚当 · 斯密从未敢想象的物质乌托邦。
! d+ n. q, c# x! v AI 不会导致技术不平等+ ?5 X7 H0 _$ q5 V/ |
技术的拥有者独占技术，并不符合自身利益。恰恰相反，他们想将技术卖给尽可能多的客户。
9 t% p2 n+ J' Z5 j8 ]; H7 U世界上最大的产品市场，是整个世界的 80 亿人。" E% F$ f. X5 K3 ?9 h9 A+ P: B
电力、广播、计算机、互联网、移动电话和搜索引擎，这些技术的制造商都积极主动地降低价格，直到所有人都能负担得起。同样地，我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。) s/ {" o+ G5 g. D2 U, U
- _* }* N2 N$ d& b% W- `3 m
/ v+ I; H0 `# n8 S# H' O
( f: q7 K+ t- d: t s: y1 o5 z# ^这不是因为他们愚蠢或慷慨，而恰恰是因为他们贪婪——扩大市场规模，赚到更多的钱。6 g3 f" h. k5 r+ C
因此，情况与技术推动财富集中化相反，技术的最终用户包括全球所有人。5 r7 c$ |; x4 G; b4 D& o' J$ N( X
这并不是说，不平等不是社会问题，但它并非由技术驱动。3 k; Q, ]/ S& w1 o$ d
AI 的风险可以用 AI 防御% N& d, C# g4 U& \) k
技术是一种工具。从火和石头开始，任何技术都可以游走在善恶之间。
3 T$ B+ C) J5 L( ]/ {有人提出应该尽早禁止 AI，但这并不现实，因为 AI 不难获取，它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI，每天都有开源项目不断涌现。AI 就像空气，它将无处不在。9 F5 J6 C h7 e6 X4 y
AI 的风险可以用 AI 防御。 e) X4 u2 o4 \# @/ c. X
6 n, h1 V4 F* D- ^# c, z& f2 o5 _; `/ K& ?- m8 g4 I+ }
% l7 Q3 o6 x# b. P+ x$ ?2 Z% A
例如，如果我们担心 AI 生成虚假人物和视频，可以通过加密签名验证真实内容。在 AI 之前，数字内容的创建和修改已经存在了，答案不是禁止 Photoshop 或者 AI，而是利用技术构建一个真正解决问题的系统。
: x: m" v& X+ K: c; }; ?放弃禁止 AI 的徒劳，把它用于善意、合法的防御目的，一个充满 AI 的世界将比我们今天生活的世界更安全。
3 @& Z- b) K% _. J" O, x 尽可能快速积极地构建 AI
+ J: K5 a Y- {( ]/ A: r. u! r J. x2 X- P应该允许大型 AI 公司尽可能快速、积极地构建 AI，但不允许它们建立垄断组织。' j6 r( v- ?* h& l' T
应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了，它们在市场上的存在，也将不断激励大公司做得更好。2 u& M/ q( o' Q: _, ]; `! h
# w: m4 @. }5 a4 _- _: x
3 w( K6 a. E9 `3 J
! s$ g. P1 h# J+ p! { x/ |6 G应该允许开源 AI 自由传播，并与大型公司和初创公司竞争。它们广泛的可用性，将造福学习如何构建和使用 AI 的学生，确保无论身份和财富如何，每个人都能从中受益。4 L, X( [, A* A
为了防止有人用 AI 做坏事，政府和企业应该积极利用 AI，最大化社会的防御能力。不只是应对 AI 风险，还包括解决疾病、气候等问题。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有账号？立即注册
×
|
|手机版|小黑屋|梦想之都-俊月星空
( 粤ICP备18056059号 )|网站地图
发表于 2023-6-10 07:36:35
