打开支付宝首页搜“523966799”领红包,领到大红包的小伙伴赶紧使用哦!

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 454|回复: 0

隐形在中国大模型产业背后的理想主义者,看智源的另一个角度 ...

[复制链接]

1593

主题

729

回帖

6661

积分

论坛元老

积分
6661
发表于 2023-6-13 10:01:33 | 显示全部楼层 |阅读模式

& d7 V0 u6 S% a6 R. R0 `$ S# `/ O) F" W3 {6 `% p6 H, G, |
观点交锋% @; ?! v, W" e5 S8 c
中关村国家自主创新示范区展示中心里人头攒动,不少人甚至干脆挤在会场旁边的过道里站着听讲,这样热络的景象让你很难相信这是一场纯粹学术会议,然而它在 6 月 9 号和 10 号两天一直持续出现。0 O) a" V' K; Y) y. o( {- Q
智源大会已经走到第五届,这场由智源研究院主办的人工智能大会,从一开始就定位于专业高端,因此你不会在大会上看到任何商业性宣传和为了广告商特设的噱头论坛,哪怕当今涉足人工智能领域的公司每个都鼎鼎大名。
  N9 k! G4 b. d4 k6 m所有参会的嘉宾都是带着洞察和观点——换而言之,干货来的。- `% @& p" c' v/ j. L
这次出席智源大会的嘉宾,光是图灵奖得主就来了 4 位,包括 Geoffrey Hinton、Yann LeCun、Joseph Sifakis 和姚期智,此外还有张钹、郑南宁、谢晓亮、张宏江、张亚勤以及 Stuart Russell、Max Tegmark 等,每一位都在人工智能领域如雷贯耳。而风头正劲的 OpenAI 联合创始人、CEO Sam Altman 也在 10 号上午的 AI 安全与对齐分论坛上发表了演讲。
( {* H# \. D9 q) c"AI 内行顶级盛会 ",智源大会的定位名副其实。而大佬们的观点交锋则让智源大会的学术性和知识分子气质更加彰显。
3 B7 M0 h9 T. Q9 ~0 FSam Altman 显然是最受热捧的明星,他发表主旨演讲和随后与智源研究院理事长张宏江的一对一对话吸引了无数目光,他本人随后也在 Twitter 表达了对智源大会邀请的感谢。
1 n: i0 d7 A$ l; a. d4 B3 K8 K) D9 z1 `: x( |+ l5 }6 M

5 m& G- [# q4 U; b. x& ~/ k8 `- z. z
Sam Altman 和智源研究院理事长张宏江对话
$ P. Z4 M/ R5 G3 @8 ?  {$ b% fSam Altman 的发言围绕 AI 安全领域,呼吁国际协同应对 AI 快速发展带来的潜在威胁,Sam Altman 认为十年之内人类就将拥有十分强大的 AI 系统(AI system)。- y8 V" x1 a  x
ChatGPT 在全球爆火让 Sam Altman 的发言颇有分量,但这并不意味着大家都一边倒地认同 OpenAI 的发展道路。在 9 号上午的开幕式演讲中,图灵奖得主也是 Meta 首席 AI 科学家 Yann LeCun 直接表达了几乎完全相反的观点:自回归模型没有规划、推理的能力,要想抵达通用人工智能 AGI,则不仅应该在神经水平上模仿人脑,在认知模块上也要参照人类,Yann LeCun 给出的答案是所谓世界模型。( A# L1 j% R, V$ I8 B/ E% J% W9 P
8 M' n! s  b3 \( g4 Y# q2 t8 e

2 }$ A8 @& l! q  e) E3 [) H. X
' K6 Q+ v+ F8 h" SYann LeCun 在智源大会上发言
+ w- h4 F. j/ U" i而另一位最近因为从谷歌离职而颇受瞩目的大佬,被誉为深度学习之父的图灵奖得主 Geoffrey Hinton 同样在演讲中给出了自己关于目前 AI 发展的看法——人工神经网络很快将会超越真正的神经网络,人工智能对世界危险程度和紧迫性甚至可能超过气候变化。  b% H: J& Y4 ^! h- W! O

) `, e8 K% h1 ^* e  I. }+ v
6 _6 d# `$ F# O! ?1 B* m; Y2 p# ?8 z
6 I. m( c& k' UGeoffrey Hinton 在智源大会发表演讲# L) o, c5 `* e! A* y: d
类似这样的观点交锋在这两天近百场报告和圆桌讨论中屡见不鲜,它们无不围绕着有关人工智能最前沿的命题,最火的当然是大模型,除此之外开源和安全也是热议的焦点。% B+ ~. b" K, k: F7 b9 b0 b
整个中国你再也找不出第二个机构能组织如此高规格的会议了,正如智源研究院黄铁军院长所说:智源研究院是在中国开展人工智能研究国际合作的第一选择。" m- ]: o. _1 E
那么针对上述这些热点议题,智源做了什么呢?
$ R& z* }, s7 w& K2 {/ V多箭齐发的智源大模型系列4 i' H6 f1 @) h, Y

+ u+ {0 ]0 W4 v/ ^3 l1 W" p' h/ s
/ K! F) [. U3 N# U: V# G2 C) @& t0 c9 O! [* V9 |+ d0 H4 i
智源研究院院长黄铁军
% r5 X# t4 V7 w) Z黄铁军院长在开幕式上宣布了智源在过去一年所取得的阶段性成果。悟道 3.0 大模型系列进入了全面开源的新阶段。包括了悟道 · 天鹰(Aquila)语言大模型系列、天秤(FlagEval)开源大模型评测体系与开放平台以及悟道 · 视界视觉大模型系列。
' w" O! A: y& _! }其中,悟道 · 天鹰(Aquila)语言大模型支持商用许可协议,满足国内数据合规需求。在基础模型之外,还包括 AquilaChat 对话模型与 AquilaCode(文本 - 代码)生成模型。根据智源研究院副院长兼总工程师林咏华的介绍,在综合中英双语的多种客观及主观评测的结果(22 个评测集,随机抽取 2 万多个评测题目),AquilaChat-7B 在仅使用 50% 训练数据的情况下,目前已经超过同等级的国内外主流开源模型;在综合了信息分析、跨语言理解、判别评价、知识运用、修改润色、风格生成、代码生成、创意生成、安全与价值观等的中文主观评测下,AquilaChat-7B 目前达到 GPT-4 约 70% 左右的能力。
- k3 @$ R' A4 D: ?; q4 h  j7 H0 m5 m( y, \

2 @) N5 e: ~7 ~6 y1 C1 `8 ?0 K+ Q6 U& m
天秤(FlagEval)大模型评测体系及开放平台是为了方便全方位评估基础模型和训练算法的性能而搭建的,最终目标是实现对基础模型、预训练算法、微调算法在自然语言处理、计算机视觉、音频和多模态四个方面测评的全覆盖。
& d6 L. h2 v$ Q) T' _4 C6 `9 y0 L天秤(FlagEval)构建了 " 能力 - 任务 - 指标 " 的三维评测框架,目前已经有超过 600 个评测维度,包括 22 个评测数据集在内,一共有 84433 道题目。, f1 A' o, J/ O9 s: e/ @8 O
天秤(FlagEval)大模型评测体系及开放平台是为了方便全方位评估基础模型和训练算法的性能而搭建的,最终目标是实现对基础模型、预训练算法、微调算法在自然语言、计算机视觉、语音、多模态及认知能力五个方面实现测评的在全覆盖。( K, w; u" X0 @0 _2 j3 Z9 Z. ^
6 M  W3 @# t7 r# k, d8 n0 G8 m
1 b* @/ O" M. P6 G

3 A/ h8 U5 _$ [2 m0 Q悟道 · 视界视觉大模型系列系统化解决了当前计算机视觉领域的一系列瓶颈问题,包括任务统一、模型规模化以及数据效率等,包括:在多模态序列中补全一切的多模态大模型 Emu,最强十亿级视觉基础模型 EVA,一通百通、分割一切的通用分割模型,首创上下文图像学习技术路径的通用视觉模型 Painter,性能最强开源 CLIP 模型 EVA-CLIP,简单 prompt(提示)即可视频编辑的 vid2vid-zero 零样本视频编辑技术。
* g5 u, C3 d$ _9 T/ |8 S这些大模型的推出凸显了智源着力打造的大模型进化迭代流水线,这条流水线让大模型在更多数据和更多能力的助力下源源不断成长,持续迭代、快速升级,最终无论是技术研究团队还是产业开发团队,都将从这条迭代流水线的进化中受益。
' z" O  ?% Z/ ~' [* U8 G除了一系列这次首发的新模型,智源还升级了在今年年初推出的 FlagOpen 大模型技术开源体系,从模型到并行加速技术、推理技术,再到硬件测评和模型测评,最后是数据分析、清洗和标注工具,智源 FlagOpen 平台旨在打造全面支撑大模型技术发展的开源算法体系和一站式基础软件平台。
# W" y% w3 j) o) x. d0 d9 }- H1 r3 d8 w# v

& V0 s6 U( n0 B5 S! o( B% Y
% r0 i8 N; l2 o特别值得一提的是在数据集方面,智源已经开源了首个大规模、可商用的中文指令数据集 COIG,第一期开放了总计 19.1 万条指令数据;二期正在建设最大规模、持续更新的中文多任务指令数据集,整合了 1800 多个海量开源数据集。% O0 V- |; x3 A% P# C& d% b
观察智源在这次大会上推出的系列成果,不仅有各种模型,更有关于大模型核心生态和产业链上下游的各种工具。3 k) \% I. q  A0 N
尽管智源的大模型在性能指标上已经达到了相当先进的程度,但是在林咏华的眼里,这还不是智源最重要的使命。2 J. d3 n2 Z4 Z+ N/ H0 M
* K# J# b! _  k4 I: k  I

4 ^. s" @& C! z1 X& u! S4 ]  W& O
$ n& j4 l" @# s& [% y智源研究院副院长兼总工程师林咏华
9 b2 w) [( N$ N* t! _" 和大家比谁的模型更大、更强,这种追求不是智源的使命。我们的使命更偏底层,数据处理技术、数据汇聚、算法评测、模型能力评测,当然还有开源。这种偏基础的工作,是智源正在做而且目前应该只有我们在做的事情。只有我们在做的事情,就应该坚持下去。" 林咏华说到。" D  N- E- G( ?" x* x
这听上去几乎有些 " 理想主义 ",但智源研究院从成立伊始几乎就是理想主义的代名词。0 R. e7 z1 G7 H2 t: p/ u8 v8 D7 M! V
攀登人工智能高峰从来是一场长期主义的战争,在智源规划的路径里,它不仅包括以大模型为代表的信息智能,还有基于强化学习和物理身体的具身智能以及根据神经生物学仿照人脑的类脑智能三种。大模型出现的突破性进展第一次向人们展示了通往 AGI 通用人工智能的可能路径,但具身智能和类脑智能同样值得关注——谁能确保下一次的突破不是来自它们?
1 ?7 ]( S- p  |和这项充溢着理想主义与长期主义色彩的最高目标相比,一项大模型评分的优劣与否就显得渺小了起来。智源有着更远大的愿景。4 `7 d+ K. ]; y
人工智能理想主义9 W1 p% ^9 ^% B0 v2 D; I
4 ~. R$ Q0 U3 v" O" i" _0 k
. R1 A4 H3 B) x# G

1 Y; w" M. ?2 R9 J; c1 _仅仅训练出一个得分颇高的大模型是远远不够的,更重要的是训练大模型所用的算法和技术。
4 G' I- Z, x( Y, j$ G0 T飞快迭代的技术会让每一个模型都最终变得过时,但如果最终建立了一个丰沛深厚的科技土壤,让技术的飞轮能在其中飞速转动,不断推出先进的算法,联动整个产业链上下游有效降低模型训练的成本,实现对 AI 安全高度的理解与可控,那么人工智能的前景势必变得更为坚实有力,与这个宏伟的愿景相比,推出多少个大模型,或者某个具体大模型的评分高低这样的问题就显得渺小了。
6 P) F$ f9 C7 Z. T7 }2 A
" |4 X9 \/ D: H9 M1 g2 K* `6 m' J1 Q' b6 d: m
2 U" m+ L! S  ?
这种宏伟愿景,正是智源研究院所追求的。
+ y1 ~+ y/ t' ?$ G3 E2021 年 3 月,智源研究院第一次使用了 " 大模型 " 这个词,揭开了人工智能发展的崭新篇章。在短时间内,悟道大模型迭代到了第三个版本。
5 X: l0 j1 m2 q作为平台型、非营利的研究机构,智源力图营造人工智能的创新生态——大模型是资源耗费巨大的系统工程,如果一项技术被智源研究、验证并最终开源,那么整个产业都将随之受益。
7 i* K- O" w! u' s0 e, b智源正是这样做的。打造大模型基础基座,通过开源开放来促进整个大模型科研创新,也加速大模型的产业落地。为了这个愿景,智源甚至做了许多在外界看来有些 " 费力不讨好 "、甚至舍近求远的事。
2 e' n6 @; ?3 a. e( U1 N, Y( S比如智源的大模型采用的是商业许可协议,由于从算法到数据,智源都耗费巨大的资源实现了完全合规,因此企业能够放心采用智源的模型实现商业化。; }2 P2 l# Z& X7 f! ?
众所周知,大模型目前在版权领域有诸多争议,原因之一就是用来训练的数据其来源良莠不齐,智源的底层合规能力正好帮助企业规避了这一最大风险点,其正面影响是不言自明的。
$ C7 C1 P1 T0 }3 ?, T
8 e* }8 t! w8 G  I
/ m7 k5 g# `- K2 ]! d8 r9 b
1 h8 d, w$ ~& u2 k( U- m再比如,智源发布的许多开源项目,从 AquilaCode-7B 生成模型到天秤(FlagEval)开放评测平台,都同时支持英伟达和国产的寒武纪、昆仑芯等多种芯片架构,这意味着开发者甚至不需要调整自己的硬件设备就能直接使用它们,智源通过对多种架构代码和模型的开源,推动着芯片领域的发展和创新。
+ I3 G0 X; ?( p4 G, a+ `7 I3 N为人工智能下一个十年打造大模型的新 Linux 生态,这是智源在大模型领域对自己的定位,开源是其中非常重要、颇为有勇气,也是同业界许多人看法相左的一步。但智源的信心颇为坚定,开源开放既是人工智能生态建设的必然选择,也是推动科技加速创新、产业全面升级的必由之路。0 q2 O8 y* B$ f3 c4 ^3 ]) Y
智源在这条道路上已经走了五年,这份有关人工智能的浪漫愿景,吸引着同样理想主义的人才。作为中国最顶级的人工智能研究机构,智源拥有近百位顶尖人工智能专家组成的 " 智源学者 " 阵容,而智源社区更汇聚了逾 12 万 AI 业内人士。,这让智源研究院的科研实力在全球范围内广受赞誉。
. K0 e( G# i2 k5 N0 ^! Q( Q! e4 n. t; o% f/ \( _$ {' C
, J, U, S1 c& f4 Y8 _

" D1 {4 t$ c* @5 ]9 B  A而每年一度的智源大会则已经成为中国乃至全球范围等级最高的人工智能巅峰盛会,过去四年有超过 500 多位以图灵奖得主为代表的顶尖 AI 专家在大会上发表演讲、参与讨论,来自三十多个国家数万名专业人士注册参会。
/ b& _( g1 v/ T- D+ c智源会在大会上发布相关领域的最新成果,关于人工智能的观点交锋也从北京传遍世界,一届届大会过去,围绕着智源搭建的平台,中国茁壮生长的 AI 生态圈也蔚然成型,这为中国参与大模型之战提供了最强的助力,中国突飞猛进的大模型事业,智源正是其中或许不为人所熟知、却异常重要的 " 隐秘支柱。
6 a4 g1 g# D1 K7 \1 u4 z这何尝不是对理想主义最好的报偿。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
梦想之都-俊月星空 优酷自频道欢迎您 http://i.youku.com/zhaojun917
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /7 下一条

QQ|手机版|小黑屋|梦想之都-俊月星空 ( 粤ICP备18056059号 )

GMT+8, 2024-9-20 06:52 , Processed in 0.030369 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表