OpenAI 离成熟商业公司更近一步

江湖险恶567

- ^% V3 e  M3 A% e1 F) a- D
8 ?9 G6 P9 t+ d0 C9 C5 m: I" c* O
发布 GPT-4 的同时，OpenAI 离成熟公司越近，离名字里的 “Open” 越远。
$ u% ?/ _. m3 n% U; j6 P+ T; kGPT-4 无疑是一个更好的产品。写散文、诗歌、代码，这些 GPT-3 已经会的技能，它可以完成得更好、更具创造力；而读图、雇人、数学等 GPT-3 表现很差或全然不知的领域，GPT-4 的表现称得上惊艳。（关于 GPT-4 新功能的细节以及它们是如何实现的，请参阅《晚点 LatePost》今天的长文《更强的 GPT-4，更封闭的 OpenAI》）
如我们之前所讨论的，在这场 “火鸡”（OpenAI）追逐 “雄鹰”（Google，其实也可以泛指掌握充沛技术资源的巨头）的故事伊始，OpenAI 靠着 “开发通用人工智能技术、专利和研究成果全部开放” 的宏大愿景，招揽到一批顶尖 AI 专家。创始人们都对人工智能的未来充满恐惧，假想敌是大公司（比如 Google）开发的邪恶 AI。
) A# \; f' F/ E6 K如今 OpenAI 也更像一家商业公司了：发布会之前提前向媒体和合作伙伴开放试用，等到正式发布时一同造势；为了保持自身竞争优势，同步张贴的 “论文” 长达 90 页，却没有介绍任何训练的技术细节；发布会上高管风趣的演示方式，跟市值万亿美元以上的硅谷巨头们没太大区别。
2 Q8 D/ g/ ~: k$ k7 T就像每次人工智能取得重大进展时一样，很多人都在 GPT-4 发布后担忧自己会丢工作。GPT-4 看上去可以轻松替代助教、初级编辑、客服助理，而一些看上去掌握更难技能的人也开始焦虑。
一位得克萨斯大学奥斯汀分校研究 NLP（自然语言处理）的博士在 Twitter 上分享了他对 GPT-4 的复杂情感：激动不已，但也因此质疑自己的研究价值。另一位软件工程师则说：“别再说 GPT-4 不会解 LeetCode hard 难度的题所以程序员很安全了，我特么也不会。” 评论区里不少同行表示赞同。
不过，OpenAI 的创始人和一些学者仍在提醒不要过分神化 GPT-4。山姆·阿尔特曼（Sam Altman）在社交媒体上说，它仍有缺陷、存在限制，并在熟悉之后可能不会像初见时那样惊艳。
  r+ X+ h7 R& z' h' l3 x艾伦人工智能研究院院长、华盛顿大学教授奥伦·埃齐奥尼（Oren Etzioni）称，虽然 GPT-4 取得了很大进展，但显然还不能被信任，“离放心让任何 GPT 运营一座核电厂，还有很长的路要走”。
# ~2 v" F/ H% S4 n& H; @OpenAI 的研究人员已经做了很多努力，帮助 GPT-4 拥有更高的准确率和更严苛的道德准则。OpenAI 称，与 GPT-3.5 相比，GPT-4 在回答事实性测试题时，评估得分提升了 40%；响应本该拒绝的用户请求几率降低了 82%。
0 b+ h6 ?( d2 v/ O8 g  w) N但基于其生成答案的底层逻辑未变（更多依赖统计和概率而不是对事物的理解）、训练数据仍来自公开世界，GPT-4 仍不可避免地会出错、会产生幻觉（hallucinating，指 AI 编造事实）、会被恶意利用、也会输出偏见，和创造它的人类一样。（邱豪）

塘沽火星人

一直成熟下去

糖糖班副

希望能被用来做更多对人类有益的事情，而不是完全替代人类[二楼]