OpenAI 联合创始人 sam altman 发表演讲：敦促国际社会共同应对人工智能的 ...

未有旳怀念

品玩 6 月 10 日讯，6 月 10 日，在 2023 智源大会上 OpenAI 联合创始人 sam altman 发表演讲。
感谢在北京人工智能学会的成员中的热情接待，能够与这样一群杰出的人工智能研究人员和计算机科学家一同出席这次重要而及时的会议，我感到非常荣幸。每次来到这里，我都能感受到令人惊叹的技术才华所带来的无限能量。正如你们所提到的，我们现在正在进行的世界巡回之旅已经带我到了近二十个国家，跨越五个洲。
8 x  e, _* k9 @& G* {+ u0 q' c我了解到学生、开发者和各行业对人工智能的需求和关注。这次旅行给了我很多启发。我们看到了全球各地人们已经在如何使用人工智能技术来改变生活的令人难以置信的方式，并且我们收到了宝贵的反馈意见，了解了如何进一步改进这些工具。
* y6 H$ v7 w3 I$ o我们还有很多工作要做。但是鉴于我们已经取得的进展，我对我们能够实现目标充满信心。今天，我想谈一谈未来，特别是关于人工智能发展速度的加快以及我们现在需要如何负责任地为其引入做准备。
科学史告诉我们，技术进步遵循指数增长的规律。我们在农业、工业和计算革命中已经见证了这一点。而现在，我们正在实时目睹人工智能革命的发展。
因此，我们所面临的挑战不仅是人工智能带来的巨大影响，而且是其进展速度。它正在加快人类想象力的创作速度。想象一下，在未来十年内，人工通用智能系统（通常称为 AGI）在几乎所有领域都能超越人类专业知识。
这些系统最终可能超过我们最大公司的集体生产力。人工智能革命所能创造的潜力是巨大的，可以大幅改善每个人的生活水平。但我们必须共同管理风险，共同推动发展。
我非常赞同这种未来，并且作为地球上的一员，我们需要投资于 AGI 的安全性以实现这一目标。这需要进行谨慎的协调。
这是一项具有全球影响的全球技术。来自记录开发和应用的事故成本将影响到所有人。有两个关键领域尤为重要。
  g9 ]. n7 `5 D* t首先，我们需要在国际范围内建立国际准则和标准，鼓励制定一致的政府政策和监管措施，涵盖所有国家的 AGI 领域。在这些框架下，我们相信人们有机会做出明智的选择。
, T0 l: f/ C  N/ {1 w其次，我们需要国际合作，在安全开发日益强大的人工智能系统方面建立全球信任。我并不抱幻想，这并不容易。我们需要作为国际社会付出持续关注和努力，以实现这一目标。
《论语》中有一句话提醒我们，千里之行始于足下。我们认为最具建设性的第一步是与国际科学技术界展开合作。特别是，我们应该推动机制的建立，增加对 AGI 安全技术进展的透明度和共享。
发现新的安全问题的研究人员应该为了共同利益分享他们的见解。我们需要仔细思考如何鼓励这种共享，同时尊重和保护个人的知识产权。如果我们做得好，这将为我们深化合作打开新的大门。此外，我们还应该促进并引导对齐和安全研究的投资。
: x* R$ Z+ E' _在 OpenAI，我们目前的研究主要集中在如何训练 AI 系统以充当有希望和安全的助手。这是一种基于人类反馈的强化学习方法。这只是多种后训练补充技术的例子，我们也在研究其他方法。
要做好这项工作并不容易。我们在部署之前，为了确保模型的整体安全性，我们在工程上投入了长达八个月的时间。我们认为我们在这方面已经取得了良好的进展。GPT-4 与我们以往的模型相比更加智能。然而，对于更先进的系统来说，模型与人的对齐仍然是一个未解决的问题，我们认为这需要新的技术方法和更多的政府监管。
- m0 r' y- t8 b; p+ m/ I5 J9 }' e' I想象一个未来的 AGI 系统，它有十万行二进制代码。人类监督员很难发现这样一个模型是否在做某些问题。因此，我们正在探索一些新的研究方向，希望能够取得突破。其中之一是可扩展的监督。我们可以尝试使用 AI 系统帮助人类监督其他 AI 系统。
例如，我们可以训练一个模型来帮助人类监督员发现其他模型输出中的错误。
' w* @6 w* P$ H* u+ [% i& j8 n第二个方向是可解释性。我们希望更好地理解这些模型内部的运作情况。我们最近发表了一篇利用 GPT 对 GBT-2 进行解释的论文。另外，我们还利用模型内部信息来检测模型是否有偏见。虽然我们还有很长的路要走，但我们相信，通过先进的机器学习技术，我们可以进一步改进模型的解释能力。
0 H) i1 i( {" F' M  ~& X最终，我们的目标是训练 AI 系统来帮助进行自身的安全研究。这种方法的一个有希望的方面是，随着未来的模型变得越来越智能和有帮助，我们将找到更好的方法来解决对齐问题。实现 AGI 所带来的非凡利益，同时最小化风险是当前最重要的挑战之一。
; H- r" |: {8 J% `) S我们认为，美国、中国以及全球其他国家的研究人员之间有巨大的合作潜力，共同实现这个共同目标，并致力于解决 AGI 的技术挑战。如果我们能够这样做，我相信我们将能够利用 AGI 解决世界上最重要的问题，大幅提高人类的生活质量。非常感谢大家。