京东6.18大促主会场领京享红包更优惠

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 874|回复: 0

文心一言 VS GPT-4实测!百度背水一战交卷

[复制链接]

1647

主题

726

回帖

6767

积分

论坛元老

积分
6767
发表于 2023-3-17 10:34:34 | 显示全部楼层 |阅读模式 来自 安徽
编辑部 发自 凹非寺* z! Q+ T8 v# u) G
             量子位 | 公众号 QbitAI
+ y& L- ?+ F5 d7 R4 z8 }& q9 a             GPT-4发布一天之后,压力全部给到百度这边。/ E  h  T. _* L0 l) X  R
             就在刚刚,百度交卷。: }0 ^: M5 r0 w; w5 w
             文心一言,百度全新一代知识增强大语言模型,正式在百度总部“挥手点江山”会议室里发布。
7 e: _. T8 p3 R" B6 ~+ O! W$ m             在一片静寂的氛围里,李彦宏小步登场,语气里带着点紧张:8 t5 P% @$ a3 c' F0 I7 s; i. l
             大家的期望值,是我们对标ChatGPT,对标GPT-4,这个门槛有点高(笑)。
# X, c$ m! i2 H3 E& O, Q             十月怀胎,我们就带大家来看看这个AI大模型文心一言长什么样。6 M: u2 O5 s- P" z
                          4 ~6 M& D, f* s: p4 {
             此前,有人狂转meme图把百度比作GPT-4旁边的垃圾箱。* p: n  D1 U: V4 S
                          
( A3 `2 P& Y% ?. a  M             也有人鼓吹百度是全村的希望。5 c  V! a: l- E4 L
             而在发布会进行的同时,百度港股市值大幅下跌,相关话题还冲上了微博热搜。
( O1 C) T* }3 B8 {( M! w& j1 V                          
: f$ [* A1 E% q3 [& x             但直播弹幕中也有网友点赞:2 y* M! t5 z9 Q2 ]4 m' }
                          
7 Z! Z* R: n0 ~# y  e: c             那么这个中国版ChatGPT到底实力如何?
% M1 S0 o1 e; M2 d* O& W             咱们就用百度发布会演示的预录制Demo,对比一下崭新出炉的GPT-4,先凭实力说话。4 E1 Q( e: p4 T( J! x1 @; K
             文心一言 vs GPT-4
7 r" i) J; U& ^8 K             和GPT-4一样,文心一言是一个多模态大模型) H: `' i- D( h) V4 x/ L
             李彦宏开场就展示了文心一言具备的5种能力,包括文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成  W2 V1 u# k- ]( H
             文心一言甚至还现场秀了一口接地气的四川话,现场网友发出一片笑声。" A3 g1 M4 `5 ^$ g: Q" k& R
             其他能力如何?我们具体展开来看。) x3 j( ]5 W1 V# B$ \2 P* j) B
             文学创作
) u) z0 l5 @# G7 P% {- f+ C             在文学创作上,李彦宏一开场就搬出了《三体》作者刘慈欣坐镇。
/ o# Q, P4 R& |/ l9 T             先让文心一言介绍一下大刘,“毕竟我也是刘慈欣老乡嘛”:3 K) L. C- x4 ^: u
                          # C( g) o1 Y1 _3 n) W+ d
             看起来没什么问题。同样的问题问问GPT-4呢?
# c' J1 r; j% s; w0 Q                          
# F9 K1 }3 E$ z2 P$ p  u             嗯???直接把刘慈欣的老家挪到了湖北省洪湖市。湖北人狂喜(doge)% r/ P7 ]" Z0 y8 x0 r
             随后,李彦宏又展示了从哲学的角度对这段文章进行续写的demo:% Q$ @0 A5 K. R' c, t6 h3 |
                          # e0 n* V) J; O" r: d
             看起来中规中矩,比较理性。老样子,我们也来与GPT-4进行一波对比:$ N; h0 c1 g$ \+ y' ~0 x" T$ f
                          
  |/ @* D/ J$ v% n! Z5 b             这波你是想看GPT-4续写的《三体》,还是文心一言的?7 R: [2 C9 [9 y0 S, p1 G. `
             再来看看《三体》电视剧中扮演史强和汪淼的老搭档,于和伟和张鲁一,有什么共同点?
& L; o, Q5 d/ l3 y; d4 I                          
+ [0 p+ P" j8 S: X+ g, e. `             也没什么问题。: C( Y- Z" M6 S" }" F4 J
             就是看起来展示的速度有点快,比李彦宏的语速还要快上那么一点点(手动狗头)。7 ^' p4 j8 |, K3 k* g8 L
                          . \; r' k! d8 q8 ?1 [3 X* @( O& H
             商业文案创作
6 [! `3 N8 Y! U. @& d. f1 Y             接下来,李彦宏又展示了一下文心一言在商业文案创作上的能力。! h8 Q! A5 w# J6 s0 e% o4 V
             比如给新公司起个名字。
" W! B: z$ _" T& {6 F, V                          1 l' @- y% O- a# Y9 x
             并且这个名字它还不是瞎起的:, ?: r( a6 B9 ^/ j" V2 W
                          
4 m4 s5 M( r0 s- Y8 w# S             再来看看GPT-4起名的效果?3 |: V1 E' ~8 t# I" G, x: ~) P
                          2 Q( ?$ {+ W  d/ ~4 ]$ Y5 q. U
             看起来,GPT-4对中文的掌控能力相比之下还是少了一点精髓。( ?; s: ^1 H- P: Q4 E' r4 r
             至于写个公司成立的新闻稿?对文心一言来说似乎也不成问题:. G7 I- z0 c* |1 h' B
                          1 |) Y9 Q1 _+ \! S' l
             数理逻辑推算
9 c, r; L. X9 N) _) E: M8 K  ^2 j) w             数学能力,是考验生成式大模型的一大难题。ChatGPT刚上线时,也翻了不少车。
0 O+ I7 f# B9 }             不过在现场,文心一言处理的数学问题不算复杂,是小学数学竞赛常见的鸡兔同笼问题。1 j& F, \6 R. u+ S6 J( |7 p' w1 \6 y
                          
1 E! \6 Z1 A' n+ j: U% t             彩蛋是,李彦宏现场展示的第一题,引得文心一言说出了《狂飙》里高启盛的经典台词:这题出得不对。
, c6 i3 w# i8 `) d; ?: g                          - Y) g9 b3 g% m! ?6 M7 p
             修改一下题目,OK,再扔给文心一言试试:" F; a- o; Q3 k
                          ' l/ z3 c$ b/ E8 Q" W
             看起来,答案还算是有理有据,一步步逻辑推理出来的那种。+ l3 l: R) b" |+ Y9 K
             李彦宏表示,这些题“不敢说百分之一百能做对,但至少体现了文心一言的思考历程”。2 O' Z. w: ^# w7 F
             中文理解% }% W& o( i" ]3 F( u# R: Y
             接下来,李彦宏着重展示了一下文心一言对中文的理解能力,并特意强调:
; L% F! E( Y+ w8 f/ N3 r             文心一言对中国文化的了解,理应超出任何一个预训练大模型。
7 h+ `% k2 K( x1 o             一上来就是一个成语,“洛阳纸贵。到底有多贵?”
; ^0 G% N8 _% J3 v  ]% h                          
6 \7 V2 H& P1 s5 J: p$ g             这是文心一言的效果展示:: U4 j$ B& l6 q1 [% n/ {  X) |
                          
( E+ B, A7 |- @; n1 P; o7 i             还解释了一下这个成语背后的经济学原理:
& L# H' z8 j- ^; V8 P/ N                          , @' h. f$ C% R  R4 @/ @" ]
             那么,将这个问题抛给GPT-4呢?首先问问它,知不知道洛阳纸贵是什么意思:
* }; |* w/ b; H                          2 n! h8 C4 c. t
             接下来,再问问他对应的经济学理论是什么:2 i8 K- N9 u; ^/ b$ x6 K
                          , Z0 ~$ b5 Y1 p' b
             这波看起来,GPT-4的中文理解似乎也不输文心一言啊。
$ q$ \( X" w8 ?; n! `6 s             那么,再来看看二者写藏头诗的能力?- P0 q% q' ^# P  |- }
             首先是文心一言的效果展示:
/ o( v8 ~2 P5 z2 G5 |                          5 i& X; R' b2 i% d6 R# j
             接下来,我们再看看GPT-4怎么说:
: f( c% _" |. V9 o) |( H4 r                          
* }7 ~8 W& h; F1 V1 r2 B8 v             诶,看起来反而是GPT-4没有真正理解“藏头诗”的含义。
/ V( x: l. |2 A4 U( e: p" \% ~             这波文化理解上,属实是文心一言“小胜一筹”了。  s: y" q/ a' O) `7 m
             不过在英文上,李彦宏也承认,虽然文心一言也能处理,但能力是显著不如中文的。
) u5 m/ x" V! }4 v             这也和百度目前能用到的训练数据有关。4 l: P( p" {2 X% H! W
             多模态生成* t+ o4 K- x+ u+ k! ^: M3 Z
             最后,李彦宏还简单展示了一下文心一言多模态生成的能力。. J5 g: o% o. k! |
             首先来看看,为即将到来的2023世界智能交通大会创作海报——. V# ?6 O6 ~1 \, M5 E8 _$ W+ |
                          
' f: E# x: Z2 A; A  u! x             而除了前文展示过的文字转四川话能力,文心一言还能文字转视频
' z" W% ~  w$ f& g             李彦宏一句指令“将以上内容生成视频”,很快啊,不到几秒钟,文心一言就把字幕和视频做好了:# T8 @  C" Y: i0 Y; ?  \
                          * [% \8 c, ^* h# s+ D3 G9 s0 e8 d
             有些遗憾的是,在ChatGPT被频频称赞的编程方面,文心一言并没有现场展示相关能力。0 s& R) C5 c8 L$ g
             但王海峰透露,文心一言的训练数据中同样包括代码。
# ~3 L% x* E+ V' i, ~             文心一言如何“跑通”?
* L/ q4 e5 b8 |, ?: W0 X- C) ?             正如ChatGPT脱胎于OpenAI的GPT系列,百度这次推出的文心一言(ERNIE Bot),背后也正是基于文心大模型技术打造。
9 M( q. ~6 l! a. b+ Z             据王海峰介绍,文心一言主要脱胎于两大模型:$ O$ R5 ]1 I0 l& r" x7 G6 C
             百度ERNIE系列知识增强千亿大模型,以及百度大规模开放域对话模型PLATO。
9 l% \# x" a3 ?; r5 `; n/ S0 S             在此基础上,主要采用了六项核心技术
: V: p  w" ~( U' E+ W; b4 `             其中三个是广为人知的大模型技术,包括有监督精调、人类反馈强化学习(RLHF)和提示构建。' e% {6 c9 x2 o% }" V
             p.s. 人类反馈强化学习也是ChatGPT的关键技术。
" H& V7 B$ W* p+ z" V9 b             另外三个,则是“百度比较有特色”的技术,包括知识增强、检索增强和对话增强技术。0 Y2 E) T; W/ J; o5 ^4 S1 X
                          
: a, [2 S! m* \2 `" ^             首先来看与ChatGPT类似的技术:有监督精调、RLHF和提示构建。
' t' K- K1 i% d* j% ]1 [9 B             有监督精调,尤其指中文方面的数据精调。百度基于对中国语言文化和中国应用场景的理解,筛选了特定的数据来训练模型。1 l! I9 Y5 w4 m
                          1 |- c5 I( g0 Y5 ?3 z- T
             至于人类反馈的强化学习(RLHF)和提示构建,操作上也与ChatGPT大差不差。
6 Y$ U) Z6 k7 M5 y" y                          ; W) c0 F4 B/ S
             随后是百度提出的、用于进一步改善模型效果的技术。
8 ^! d$ M. i/ M' j4 N             知识增强,包括知识内化和知识外用两个部分。其中,知识内化即将知识“渗透”进模型参数中;知识外用指的是模型可以直接使用外部的知识。
( y4 {+ f7 e" U& I8 D0 o8 t8 [% W                          
. z$ A+ P9 D7 S+ V: I             检索增强,则与百度搜索引擎积累的检索技术有关。4 W' J; n: _# E2 w- A
             百度将把检索技术和生成技术结合起来,先对内容进行检索后,将比较有用的部分用于生成,再整合输出结果:! G0 P8 C! J1 H. J9 X) ~1 y" Z) g2 s# @
                          . q) S* n% w+ p# o9 i  K4 }
             最后是对话增强部分,包括之前百度积累的记忆机制、上下文理解和对话规划等技术:+ }' c; i' v# D4 b
                          
; D& q  a5 k( `2 q             概括来看,文心一言表现出的能力,被李彦宏称为“智能涌现”:0 c4 A  W; @. I
             当参数达到千亿量级,训练语料达到足够多的情况下,这种现象就会发生。
4 A  p: h2 f, \3 l  S% f             目前,百度拥有的AI技术可以分为四个部分,芯片(昆仑芯)、框架(飞桨)、模型(文心)和应用。# ~2 D0 e8 `8 d1 b) K" [! O! a" f, E
             之所以软硬件都要布局,百度称,是为了降低成本
! h4 c! q4 b6 o7 i8 g             生成式AI需求的算力非常高,费用相当昂贵。7 V, q* A+ h8 X, O. z; a1 i0 w( F
             因此,如果在四层架构之间相互进行协同优化,就能让它的效率比别人更高,从而显著降低成本。
' y5 X; S6 C/ ?0 {& }, U" r0 X             李彦宏认为,这也正是百度的优势所在:
5 d2 ~3 E$ Y% ?# E. a! d             四层都有领先产品的公司,绝无仅有。2 N1 `- |' y/ `( I3 Y3 H8 b9 I5 v9 K
                          ' j, t# ?% m5 v/ K4 y# Q7 U6 o
             这次文心大模型背后的硬件算力,也是通过百度智能云提供服务。" O" o6 {% w! K5 T5 d; @
             目前,文心一言已经接入百度搜索,目的在于提升搜索资源效率。5 w4 `) Y$ T1 {6 M9 N9 z! T. r# m
             同时,包括小度和自动驾驶Apollo等产品,以及爱奇艺等公司也已经接入百度的文心一言模型。  J- Q$ }+ q2 e- K! E. G
                          2 ]5 T# `, B0 L. X! X2 \
             网友:看来还不用提前退休
5 u" D9 Q0 G9 c- E# D& s             截至发稿,百度港股股价在一波明显下跌之后,有所回弹。
  a0 r% Z! v3 Q0 {                          4 X- w- }; ]. v+ [
             发布会结束,网友反应最多的是“提前录制有点败好感”:& E4 C+ f) w: k* \. e4 p
                          
/ g& C3 z/ B2 [9 j. I  E                          
6 U4 Y  B8 P/ h4 f4 p+ X             对于这一点,李彦宏的解释是,给出的问题都比较长,为了节约现场时间,所以才用了提前录制的形式。
0 b) M7 j  l7 x3 a$ _' @* c5 J             还有不少网友对文心一言展示出的能力不太满意。有人调侃,看完之后感觉“提前退休的日子看起来还可以缓一缓”:7 j9 Z0 d5 T2 @  j% V0 r$ z; b" m
                          $ }* k% {4 f; U2 d7 m5 P+ H4 Q
             离GPT-4还差了20个老胡。
; [$ l* Y8 @9 \: q" G; p" ~" e; r; a                          
( B7 s: @2 [! I  {8 q4 ~+ u. T5 D             还有网友感觉,文心一言的发布会像极了毕业答辩的自己(doge):
  G1 A0 Z  _) c( \4 t8 t6 f                          
9 Y1 O& f% q3 @( b! y" _             不过也有网友表示,希望能给国产产品一点时间一点耐心。
9 U% J5 ~9 {, R9 x% `                          
6 C# J9 i* z+ P: p( G0 i- {             发布会末尾,王海峰宣布,文心一言将从今天开始对外进行测试,包括个人用户和企业用户。% V$ c  C/ q9 W: J1 X) z
             是骡子是马,相信接下来,会得到更多验证。
" U. q: T, N  c+ h6 Q, K             One More Thing
3 o% Z3 ^, r& X             对了,有网友表示,已经拿到了文心一言的内测资格:
* h0 }' n1 z) O. E0 `7 j3 X             你好,感谢您体验文心一言,体验地址:
4 h- G  v$ z* {9 z3 t& ]! }             https://yiyan.baidu.com/welcome,希望您在体验当中给予更多意见,文心一言邀请码:KFCVME50RMB,2023年3月16日24:00前有效。
5 R! y8 Y+ J. K6 e             嗯,万物疯狂星期四(手动狗头)。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×

帖子地址: 

梦想之都-俊月星空 优酷自频道欢迎您 http://i.youku.com/zhaojun917
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /6 下一条

QQ|手机版|小黑屋|梦想之都-俊月星空 ( 粤ICP备18056059号 )|网站地图

GMT+8, 2025-8-26 21:49 , Processed in 0.036256 second(s), 24 queries .

Powered by Mxzdjyxk! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表