美国 FTC 主席莉娜 · 可汗：为什么必须监管 AI

莱阳妞妞

作者：Lina Khan
来源：https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html
& H( Y) n2 m/ @( W' g' v编译：美漪
编辑：靖宇
# z9 M" a# r% |% `$ B) A编者按：
7 [1 K: b( V; S- k从调查亚马逊，到单挑 Facebook，美国最年轻的 FTC 主席莉娜 · 可汗是全球科技监管领域的「铁娘子」。
由 ChatGPT 带火的最新一波 AI 浪潮兴起之时，可汗在 NYT 上写下署名文章，阐明对于巨头正在争抢的 AI 赛道，FTC 必须要加强监管。
3 y" T' I# z: j以下为莉娜 · 可汗关于 AI 监管的全文：
) Q7 o! j1 T+ f3 N/ ~$ h0 b6 I+ b与 AI 进行仿真的对话，既令人兴奋又令人不安。由于生成式 AI 的快速发展，我们中的许多人，现在已经体验到了这种潜在的革命性技术，它对世界各地人们的生活、工作和交流方式都产生了巨大的影响。
生成式 AI 的全部潜力仍有待讨论，但毫无疑问，它将是高度颠覆性的。
3 J0 ]6 C, B' U, W: Q3 b, @& \上一次，我们发现自己面临由科技带来的广泛的社会变革，还是 2000 年代中期，Web 2.0 时代的开始。像 Facebook 和谷歌这样的新型科技公司，彻底改变了传统的通讯方式，并为快速增长的用户群体，提供了创新的服务。
& D/ P# t; Q9 y! d5 x然而，这些创新服务是以高昂的代价换来的。
$ p5 x, z' k. S1 T3 A  b% @我们最初设想的免费服务，最终通过对使用这些服务的人和企业，进行广泛监控，从而完成了商业化。其结果是形成了一种「网络经济（online economy）」，而在这种经济中，提供越来越多的基本服务的前提是，广泛地囤积和出售用户的个人数据。
5 o- Z: J! H, o0 n* a6 N3 E) r1 i这种商业模式促使科技公司想方设法地来追踪用户，甚至不惜违法法律。少数的这几家巨头，使用用了一些激进的策略，像是收购，或封锁有潜在威胁的公司，从而巩固自己的主导地位。
一系列革命性的技术，最后却沦为对一些关键服务的加强，并定型成了以用户的隐私和安全为代价的商业模式。
但是，Web 2.0 时代的发展轨迹，并不是不可避免的——它是由广泛的政策选择所决定的。
4 C- ^6 j' L! m2 Y4 s而现如今，我们面临着另一个关键的抉择时刻：AI 技术的应用越来越广泛，政府官员有责任确保其发展不会重蹈覆辙。
7 o" d. [+ ]' i9 P( u% P5 t随着各家公司竞相部署 AI，并从中获利，联邦贸易委员会（FTC）正在仔细研究，如何才能最好地实现我们的双重任务，即促进公平竞争，和保护美国人免受不公平或欺骗性行为的影响。
4 f; D' W( U, ~  u+ ]( D随着 AI 技术的发展，我们将致力于尽我们的职责，维护美国长久以来的传统——维持开放、公平和竞争的市场。正是这样的市场支撑着突破性的创新，和我们国家的经济成功，绝不能容忍大规模剥削用户的商业模式或做法。
3 k: G: n' ?' Y# _3 \, Q虽然这些工具是新的，但它们仍受现有规则的约束。而且，即使在这个新的市场，联邦贸易委员会（F.T.C.）也会积极地执行我们负责管理的法律。
虽然 AI 技术正在迅速发展，但一些风险已经显露出来。
1 r7 A, P- y- p. R1 O% }首先是，随着 AI 技术的应用范围不断扩大，现有科技巨头的「主导地位」会得到强化。
这意味着，少数强大的企业，控制着其他公司和初创企业，开发和部署 AI 工具所必需的原材料，包括云服务（cloud services）和算力（computing power），以及大量的数据。
$ A# C( L5 }' F9 `; c这些占据主导地位的公司，可以通过控制这些关键投入，来打压下游的竞争对手，从而巩固自己的地位。对此，执法者和监管者必须保持高度警惕。
此外，企业用来制定各种价格的 AI 工具（从洗衣粉到保龄球道预订等），还会助长哄抬价格的合谋行为，以及各种形式的价格歧视。
% k& @0 k% t0 C- S- d9 m' a/ D6 S: A值得强调的是，执法者的责任是「双重」的。这意味着，我们不仅要防范 AI 技术带来的危险，还要促进公平竞争，以确保这些技术的市场合法发展。
$ D/ y! C3 e; V7 Y联邦贸易委员应当充分发挥法律管辖权，来处理快速发展的 AI 技术带来的问题，包括串通、垄断、兼并、价格歧视和不正当竞争。
其次，生成式 AI 还有可能助长欺诈行为。
虽然，它可能还没有准备好取代专业作家，但它已经可以比普通的网络骗子，更好地捏造一个看似真实的信息，使骗子们能够快速而廉价地生成内容。
聊天机器人已经被用来生成诈骗性质的钓鱼邮件（spear-phishing emails）、虚假网站和虚假消费者评论。AI 机器人甚至被命令使用针对特定群体和社区的词汇或短语。例如，诈骗者可以根据用户的社交媒体帖子，起草高度针对性的钓鱼邮件。除了制作换脸视频（deep fake videos）和语音克隆的工具外，这些 AI 技术还可以被用来进行大规模的欺诈和敲诈。
) T; m# w8 V  ~# Q7 t3 B3 i% `/ Z在针对这些 AI 诈骗行为执法时，我们不仅要打压部署这些 AI 工具的获得蝇头小利的骗子，还要关注这些工具背后的上游公司。
; v8 o) x2 c8 g% j' H" u3 t( L* C最后，还值得注意的是，这些 AI 工具正在接受大量不受检查的数据库的训练。
: b$ |, D5 G# t2 ^由于，训练数据可能包括充满错误和偏见的信息，这些 AI 工具就很有可能使「歧视自动化 ( automating discrimination ) 」——不公平地将部分人排除在工作、住房或关键服务之外。 这些工具还可以在私人电子邮件、聊天记录和敏感数据上进行训练，最终暴露个人隐私并侵犯用户隐私。
因此，针对 AI 技术，现有的禁止歧视的法律将继续适用；同时，禁止剥削性收集或使用个人数据的法律也将适用。
8 w- m5 k) k% K+ ?% y- G二十年前，科技公司的成长史可以作为一个「反面教材」，警示我们应该如何思考生成式 AI 的扩张。但历史也提供了科技技「造福社会」的经验。
20 世纪 60 年代末，面对反垄断审查，计算机巨头 IBM 公司，将软件从其硬件系统中分拆出来，促进了美国软件业的崛起，并创造了数万亿美元的增长。这时，政府要求 AT&T 开放其专利库，同样释放了数十年的创新，刺激了无数初创公司的发展。
7 c# V- ]3 x5 `. _$ i& l5 `8 l美国政府对「促进公平、公开竞争」的「长期承诺」，是使这个国家成为经济强国和创新大国的一个重要部分。
现在，我们再次处于一个关键的决策点。美国能否抵制竞相压价的商业模式和垄断性的资本控制，从而继续成为世界先进技术的「故乡」？
5 y+ I: {' F0 E: j答案是：可以的，如果我们做出正确的政策选择。
头图来源：NYT