|
|
/ g, t( N- K( k# Z" D& I1 g
* b, L' M1 t2 {/ F
0 s' O- d: x7 ^0 J, F数据库,成为率先突围的关键技术。
. _2 K* ]" o7 `/ X文 | 华商韬略 熊剑辉
. z0 @: a2 _) e) Z2023年“两会”期间,最新组建的“国家数据局”,引发了人们的特别关注。
; E* @4 H) n( |4 _有人认为,它的成立意味着“数字中国”将进入快车道;更有人认定,以数据库技术为核心的数据安全领域,有望迎来“大提速”。/ y+ w4 B1 ^9 q/ v2 v7 a
显然,中国数据库正迈出“关键一步”。
& [5 O# P0 L* l5 D% V: y【从集中式到分布式 数据库革命悄然爆发】
- G/ |1 u6 h3 S; _* n* E: R作为数字经济的“根技术”,数据库的重要性不亚于芯片。
; l8 U: O. a4 n0 l5 X3 V! O一切数据,都必须在数据库中奔跑。
5 V; S4 A8 B+ Q2 l! m' O3 z6 R人们每天社交、餐饮、游戏、支付、打车等日常活动,离不开各种各样的程序应用。它们的背后,都离不开数据库。
" Q5 q% b" p4 m' P0 w+ X+ [而数据库技术的诞生与发展,即便顺应了时代的召唤,也充满了斗争与艰辛。
- e5 o* S& s8 o, n/ _上世纪70年代,IBM的天才研究员科德,率先提出关系型数据库的理论、模型,甚至把查询语言SQL也琢磨了出来。$ m6 D, u2 J% E( A9 P' _ @4 K
但当时的“蓝色巨人”,沉浸在大型计算机巨大的商业成功里,对数据库软件兴趣寥寥。8 I+ a$ `8 f u& o. l
结果,“硅谷大忽悠”拉里·埃里森,抓住了逆天改命的机会。7 r3 h1 W- T0 T' J4 z/ Z6 g
3 c* \' d: p; b) B( {' N$ `
; f* k3 M3 y2 G' n
- c9 h! ?( X! Q- D% A9 R
他认真研究了科德的论文,觉得极富商业价值,并在1977年创立了数据库公司甲骨文(Oracle)。早期的Oracle相当不靠谱,但在埃里森的巧舌如簧下,美国海军、中情局、国家航天局等一帮“冤大头”,依然为Oracle买了单。2 x- `$ l7 X& q+ n& o7 C' L8 J) B
# a, F$ V1 l* C* h
▲1977年中国第一届数据库年会8 r1 n! R4 b: u8 ^2 G2 r
, N' ]+ \# j. w
彼时,神州大地万物复苏,中国计算机学会敏锐把握到了科技的脉搏,在黄山召开了第一届数据库年会。
" q" Y; N% k7 ~( b可惜的是,这个时代中国的数据库技术,始终囿于高校和科研机构里。
% l0 X' ~; V; o* F' q- K但拿到“第一桶金”的甲骨文,很快走上了正轨。
, V* i- I7 ^6 w6 J9 h" e5 u80年代,美国数据库市场迎来井喷,甲骨文的Oracle、IBM的DB2、微软的SQLServer等,如雨后春笋般冒了出来。
+ x2 V1 u: F- l1 N% M, V. p% T% [产业的风口,让甲骨文迎来了发展的春天。它不但创造了连续12 年销售翻番的奇迹,成长为全球第二大软件公司;连埃里森本人也一度问鼎“硅谷首富”,与比尔·盖茨不相伯仲。
' C7 ^/ Z: s, X" ?3 f6 W不过1996年,诞生在瑞典的免费数据库MySQL,给巨头们带来了一丝挑战。但在霸主甲骨文坚持不懈的猎杀下,2009年MySQL也臣服在甲骨文麾下。
0 O/ x% l1 G4 z$ M美国的数据库产业在高歌猛进,中国的数据库技术却尘封在象牙塔里。结果90年代,当甲骨文们来到中国,基本是大杀四方的状态。- _1 \2 L9 D6 h/ g9 C
1995年,邮电部提出“九七工程”,使得国内第一批数据库企业有了发展的土壤,在少数大学和国家机关得到应用。
. l4 t$ L! z" @0 J( X1 u1 y- c7 o但最终,还是甲骨文乘着工程的东风,接连拿下东北邮电、中国电信等超级大单。+ r* j* \( I6 r7 g. b+ ]
至此,中国的金融、电信、航空等领域,逐渐被“IOE”(即IBM的小型机、Oracle的数据库、EMC的存储设备)横扫。+ x7 N* v- y) z) S
据全国人大代表、合肥工业大学应用数学所所长檀结庆调研统计,2020年之前,甲骨文、IBM、微软等巨头把持了87.7%的全球份额,处于绝对垄断地位。( x: f3 f3 P! V! s1 e% ^
关系型数据库统治全球40余年,成就了甲骨文们的黄金时代。( V0 \% L6 |# W% c
( Q6 [ C4 L* Q
* Y+ s0 |1 T) m: N
( M7 M& j, w9 ?* G8 K但2008年,时代的洪流突然急转,NoSQL(非关系型数据库)诞生了。
6 l% }6 x( }. ?2 ?! K0 q驱动这场变革的,是亚马逊、阿里等互联网电商的崛起。
# j, @! Q P" h4 [- p3 H5 C2009年,淘宝跃升为Oracle全球居前的超级应用集群。但集群的CPU跑得冒了烟,依然抵挡不住“双十一”的超级洪流。+ @' s% ]# d7 G' e
与此同时,通信技术不断向3G、4G、5G演进,让图片、语音、视频等非结构化数据,呈现指数级规模的暴涨。
% @$ N" U. v2 |! s: } L战无不胜的Oracle,怎么就扛不住了?这来自于关系型数据库和非关系型数据库的区别。
# A6 G3 X* _- d0 {0 p我们可以把关系型数据库,看成一家“火锅店”。在Oracle支持下,它每天能招待1000位客人,很不错了。: F8 O$ _( l& q b+ e( p/ p; ^) {
但现在,店里突然涌进了1000万客人。他们不但要吃火锅,还要泡温泉、做美甲、放烟花、坐过山车……1 i+ k+ L9 `5 R" l4 t/ }+ w
在天量的、爆发式增长的非结构化数据面前,传统的关系型数据库的天花板被冲破了。) h) f5 F2 I/ v% ^
“火锅店”,必须升级成云端的超级“游乐场”。
. l# z. {$ U! p* i% w, M: i# H于是,一场由关系型向非关系型、由集中式向分布式转型的数据库革命,爆发了!
1 O9 d, U+ Q S* f在分布式数据库的世界里,数据库不会再集中于单机或一地,而会将查询、存储、事务管理等核心功能,扩展到多机或多地。7 B' U- G4 P$ t# A+ S
于是,200万人在A区吃火锅,300万人在B区泡温泉,400万人在C区做美甲……
; n5 U* I* K% }3 Y! n/ j7 {1 I另外,云计算还能通过存算分离、弹性分配等手段,打破资源瓶颈,让分布式数据库自由伸缩、无限扩展。7 h' Y( r+ v: J! l! f9 q8 x
也就是说,哪怕“游乐场”突然闯进1亿人,分布式数据库“遇强更强”,照样能铺开。3 ^: H' n8 Z/ s1 ~- h" i& o
这是传统的关系型数据库,根本无法比拟的。3 e) ^. E% _( ]4 ~( ]) C) F
因此在Gartner看来,云化、分布式数据库将主导未来,引领数据库技术的新趋势。预计2023年,75%的数据库会运行在云端;2024 年,全球数据库市场规模突破千亿美元,分布式数据库将成为最主要的市场增量。
' s) |" ~1 T; E. H+ h1 V如今,再造一个Oracle,做不到也没必要。云化、分布式数据库,成为中国数据库“换道超车”的唯一机会。
- E+ T5 p) L+ @* S【率先破局的关键技术 造就数据库断代史】
; G2 g5 k7 ]1 f. C机会永远属于敢于破局的人。
- f, D3 H1 G& | `3 Z2022年4月,中国邮政储蓄银行(以下简称“邮储银行”)的新一代个人业务分布式核心系统成功上线。- ?6 Q8 _1 ]; o* E* p+ o& J
这一出手,就建成了全球最大的银行分布式新核心系统。其中,华为云GaussDB功不可没。: M1 U4 M7 i" {8 }2 O6 ~ B/ x0 L7 w
众所周知,核心系统是银行的“大脑”和“心脏”,不但承担至关重要的任务,而且在亿万次存储、计算中不容丝毫闪失。
( b( A- W- Y4 T) T: j1 C以往,这是只有Oracle才能染指的“禁区”。
! r' j& u! u) g6 N5 W邮储银行的老核心系统,使用的正是关系型、集中式Oracle数据库。但伴随金融服务在线化,交易频次越来越高,容量瓶颈、性能支撑、业务负载的挑战越来越大。一旦碰到交易高峰,系统资源缺乏弹性,拥堵成了家常便饭,严重影响用户体验。
/ }: W& d5 t" k/ Q# C4 Q如今,以华为云GaussDB等为代表的中国分布式数据库打破了这个“铁律”。
/ G0 h- v6 h% F% H新系统上线后,邮储银行一举实现日均20亿笔、峰值6.7万笔/秒的超强交易处理能力。即便面对6.5亿客户、4万多个网点的数据冲击,依然游刃有余。2 i1 B: m' W7 u/ N! C9 c4 E
全天联机平均耗时从93毫秒减少到65毫秒,批处理时间从4.5小时缩短到3小时,较老核心系统提升30%以上性能。
$ b' N0 X+ D% ~. d3 ?8 |8 I$ x% g. o2022年三季度,邮储银行迎来结息大考。过去耗时140分钟的任务,新核心系统仅用25分钟完成,性能、效率大幅提升,充分验证了中国数据库在安全可控上的承载能力。2 X% w6 ?: T' Q1 C1 `
实际上,在海量数据、任务并发的情况下,要实现数据处理“不出错”,是一件非常非常困难的事情。$ t# X0 b9 X W: d
这就像在1000万人涌动的“游乐场”里,要求游客不踩掉鞋、不走丢人、不传错菜。5 S- n8 C% x. f. C
听起来,这是一个几乎不可能完成的任务。
0 z6 f4 o( c8 k. \; j; q* U9 N" F但在银行、电信、电力、航空等系统中,就是苛求“不出错”、“稳定压倒一切”。
% E, v, j; Y$ H. V/ ?( B o华为云GaussDB做到了。, Q( n3 `- X8 A2 o! v4 X M7 e& s% B
! Q( f( _% b0 e: M5 `( y( ]8 X- L. H& x1 u* @6 N
' J8 e) t% Y% R
2022年,中国首个数据库行业最高安全认证-国际CC EAL4+,花落GaussDB;同年,高分通过北京国家金融科技认证中心的“分布式数据库金融标准验证”测试。
5 Q; {4 B6 m/ S' M与此同时,GaussDB再次通过中国信通院防篡改、智能化、分布式事务基础能力三大专项严苛评测。) j, g$ Y( q5 E: x e6 s
所谓防篡改,就是在极端情况下,数据库依然要具备识别风险、防止篡改、备份还原的能力。
6 f; @" L+ {& V( }0 u所谓智能化,就是数据库不但要提供智能运维,而且通过趋势预测算法,帮管理者智能决策、推理预警,让系统更加安全可靠。: p0 e f9 |' R
所谓分布式事务型数据库基础能力,就是一旦出现大规模数据需求,数据库要能迅速反应,就近调集分布式的CPU、内存、存储等系统资源,高效处理海量数据的能力。
& G/ l( r, ^+ ^( Z; }如此强悍实力的背后,则是华为云GaussDB在全球范围内累计获得的700多件专利,在提供有力的支撑。
" z" |6 ^. k- H' d即便在数据库综合要求最严苛的金融业,GaussDB在包括工商银行、邮储银行、建设银行、华夏银行等规模落地,以及拥有永安保险、甘肃医保、一汽集团等重点行业客户。! r0 ~) G! z1 f9 z$ Q
华为云GaussDB的崛起,同步带动了中国自研数据库影响力的提升。4 s" u/ s( f$ p" \9 d
IDC发布的《2021年上半年中国关系型数据库软件市场跟踪报告》显示,在传统部署模式市场中,华为、阿里、达梦、人大金仓的市占率,分别为14.7%、5.7%、5.7%、5.0%。
3 ~& Q* h$ S' [3 t1 N+ p
) F B7 s6 T K+ P3 n: v
3 O3 p* H) X; e& M2 l( b$ P
8 o) o' L7 s) W! K7 @' \在IDC最新发布的《2022年上半年中国关系型数据库软件市场跟踪报告》中,在本地部署模式市场中,华为云数据库凭借GaussDB以16.59%的份额排名国内第一。自2020H1以来,GaussDB已经连续五次蝉联第一,在国内关系型数据库市场持续领跑。
4 r6 G; j* T6 U/ o# h今天,中国的分布式数据库正趋于成熟,获得市场认可。只要假以时日,就有望在时代的大潮中崛起。4 `* ~1 d& K/ C( ]0 C+ _( P
【积于跬步,方能行至千里】6 Y8 g7 {+ s8 J5 T. C
数字时代的蓬勃发展,也将中国的分布式数据库不断推向前台。
+ y/ X' a+ O( s' [* D1 m4 BIDC数据显示,全球每年的数据量呈现爆发式增长,预计从2018年的33ZB增至2025年的175ZB。
+ A( a; ?. E* Z/ E- n中国的数据量增速更领跑全球,预计从2018 年的7.6ZB猛增至2025年的48.6ZB。6 k0 [8 M9 y/ D- q( E* x/ l
数据的计算载体,早就从大型机、小型机、PC,演变成云、边、端的联网计算,高并发、低时延的交互计算。
2 Z4 [ u. T% I3 C8 q# k% m% D$ @: K面对这样的未来,华为云GaussDB早有准备。
+ L3 z2 m3 ^6 w; s y比如,大部分云数据库,只能在数据的传输态、存储态中进行加密。+ X& K5 K& k) z5 ]0 E0 Y: s/ ]
而华为云GaussDB却实现在内存中的运算态加密,从而成为业界第一款纯软全密态的数据库,实现了对数据全生命周期的完整保护。
L' W$ |7 f8 e- T ]: h0 }3 a7 }7 g& a! B8 b" g
k6 R* \2 D/ }
% E6 i5 g, R$ O7 y另外,在原生分布式数据库领域,中国数据库也更顺应企业的诉求和发展的趋势。
* @/ l" c; m- t, a4 k; S比如有的互联网企业,坐拥海量数据,极易患上数据库性能不足“恐惧症”。
0 y; f# o% C7 x2 |- \9 M. o/ p但华为云GaussDB,直接打通了软硬件“任督二脉”,将数据库性能发挥到极致。
7 q2 m. F! d( ~, _- [9 U& L硬件上,GaussDB拥有鲲鹏处理器的多线程、原子指令、SCM的字节寻址持久化等能力;软件上,又实现了动态编译、SQL By Pass等。
8 {2 v# H# z0 E% L) G* `" {+ @于是,基于鲲鹏两路服务器,GaussDB 32节点处理能力达到了惊人的1500万tpmC(即每分钟系统处理新订单个数),百亿数据量查询“秒级响应”。
* O. D8 W D& W. [# d( f有的企业,依然对数据迁移心存顾虑,担心到最后才发现数据库不合适。1 j" N- U8 L# Z- L9 x: {; [
对此,GaussDB开发出一系列强悍的迁移工具。如数据库迁移工具UGO,实现了异构数据库对象和应用迁移,语法转化率达90%以上;数据在线迁移工具DRS,可实现数据的在线迁移、数据校验。
- [8 e4 A# |5 Y* _2 i& Z此外,由于是“自己人”,GaussDB完全能够为企业量身打造“数据库架构+应用+数据”一体化的迁移方案。1 g5 t/ T; ?+ N) H% m, o. R
这才是以华为云GaussDB为代表的中国数据库真正的机遇所在。: q# s' m& T* z# T6 v: p! O
而伴随大国崛起,国人对中国数据库更应该抱有一种开阔、包容、自信的气度。
3 D3 r! W- s2 i" |因为历史证明,好数据库是用出来的。
9 @5 I) k7 c2 ]) s, i E1978年,Oracle在美国第二次石油危机引发的“滞胀”下诞生,草创之初Bug频出、骂声一片。美国海军、CIA、NASA硬是顶着“被骗”的压力,让Oracle闯过了生死关。- i7 @% b. N, q# m# Z3 E# G
此后,又经过全球用户40多年不断的实践、反馈、打磨、培训,Oracle才拥有了成熟、稳定的口碑。% |2 ]: g j9 q9 d$ r5 S* K. t# W* b
显然,中国数据库不可能一夜成熟,也必然要经历漫长打磨的过程。但只要今天播下宽容、创新的种,对襁褓中的中国数据库多采购、多使用、多呵护,明天才能收获卓越、成熟的果。7 c1 {5 k1 y, }( O* [: c1 L$ v
积于跬步,方能行至千里。. t" _8 E8 j$ {& r: m
在新一轮科技革命的大潮中,这条漫漫长路显然才刚刚开始。" K' W# M- l: I0 o) C3 i, p5 r
欢迎关注【华商韬略】,识风云人物,读韬略传奇。; b1 e" E% G% K9 \
版权所有,禁止私自转载
; p) G& R/ `1 V部分图片来源于网络( G, Q; `' g$ q" y# F
如涉及侵权,请联系删除
; |# A# @4 R/ O5 f$ J( l: {" ? |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|