8 ~, x; l- u2 n3 T. h; K/ E9 l随着互联网的不断发展以及通信技术的不断升级,将会催生并累积大量的用户、业务数据,而这些数据也将成为国家、产业以及企业的基础性资源,是价值巨大的“金矿”。IDC预计,2018年全球数据量达33ZB,未来全球数据总量年增长率将维持在50%左右,到2025年,全球数据总量将达到163ZB。! [0 N F5 \9 z, z! e
! t7 Y' H# q5 Y' \8 n4 ]6 M* n) ]5 t4 ^4 n0 e& @; v( @
然而,据统计,这些海量数据中只有10%~15%的数据是被经常访问的,而绝大部分都会在产生之后逐渐变冷。这些数据虽然访问量低,但是仍然需要保存和备份。如果将数据不进行分类而按照统一的存储方案进行存储,将会造成资源和成本的极大浪费。因此,海量的数据在给存储厂商带来巨大机遇的同时,对存储技术的要求也变得更加苛刻。
- r; G3 m! J% C8 `
- l. T# q5 ^# B+ F" ^( p. i8 k X9 d大数据时代存储面临的挑战有哪些? / H( { v9 h9 w' c
* A, c( o+ c9 q( O5 m
1、成本问题:海量的存储数据,必然导致存储成本的上升,如何优化存储解决方案,实现成本最优化,是存储厂商在激烈的市场竞争中不得不面对的问题;# H- c8 b) `4 y( J5 Y
' X! k4 X6 u8 x' Z+ v( N
% E |/ o* q. g8 w2、数据的分类:目前,业界根据数据访问频率将数据粗略分为热数据、温和数据和冷数据,然而,关于数据分类的具体定义方案,至今业内仍没有统一的标准;; o) J: g' U# m9 T4 \. x3 t# \
: I- \) |: q( a$ ` @4 ]8 M
2 R! { p) d: }( C
3、存储数据的维护和搬迁:在数据维护过程中,定期对存储介质的健康情况进行检测,保证数据的完整性;在存储设备使用寿命完结时,如何对数据进行搬迁,也是数据管理者必须考虑的问题;
' h3 q. m# ~' V5 b% i0 @/ }0 A3 C0 X! u z/ h$ V
% b$ B' R# l. U* V+ ~9 E4、数据价值的体现:毋庸置疑,数据价值的重要性已经不可否认,然而对于存储厂商来讲,如何让长期存储的海量数据,在被需要的时候充分、及时的服务人类需求,体现其价值也是同样重要的;& @# r3 Q. R6 N" B8 R. w+ z
6 K9 Q9 r: _/ v: ?3 q
( o0 \4 H# r* W" D. B8 q5、数据安全:一方面是指数据的安全性,保证存储数据不丢失,这是数据存储的基本要求,这不仅需要存储介质安全可靠,还需要不断的设备维护、检修;另一方面是指数据的隐私保护,如何保证数据信息不被窃取和篡改,也是存储工作面临的挑战。
: U5 x0 w Y. S4 C! j4 Z \
* n( O& p4 h4 e# v! _9 G% m9 H+ H: H K
当然这些挑战,不仅仅是靠存储厂商单一力量能够解决的,还需要云服务商,系统平台厂商甚至企业客户共同配合解决。单从“存储”这一角度出发,全球核心存储厂商早已不止局限于存储介质的研发,更是从存储架构本身着眼,推动产业朝着更大容量、更低成本及更高性能的方向发展。 [! N; p* z4 E! j, \1 P5 i
" ` @+ F5 K0 {8 N o& k5 u, r- b1 V* c- |$ z( t
传统存储架构瓶颈, H3 L. B# s1 t$ H. t
% V' _+ N( S& j" q/ n8 c7 Z% I. ^" {
目前,传统的存储架构主要分为三层:内存、SSD和硬盘,面对5G和AI的发展推动产生的海量的待存储数据,现有存储结构瓶颈将会日益凸显。从产品层面看,不得不克服的难点主要有三点:首先,大量的数据分析需要大内存,现有的内存容量不能满足;其次,SSD层面速度不够快,不能及时调动SSD或者存储在更下层硬盘或磁盘中的存储资源;再者,内存及SSD价格昂贵,企业要面对巨大的存储设备投资。
# s# [0 t/ H/ C( D y0 U, c' r" l5 D3 Y5 Y$ v [( b; b
+ W4 J3 G' t9 L
海量数据存储,性能及成本问题均需优化,异构存储或将成为大数据存储的最优解 6 f1 k7 L' S. j$ x0 I5 k' S
: u. N% D- }# U L+ P5 T在竞争激烈的存储产业中,从不缺乏技术创新和产业突破,以3D NAND为例,从2014年三星量产32层128Gb TLC闪存颗粒,到2019年全球六大核心原厂均实现96层3D NAND量产,且铠侠(原东芝存储器TMC)成功量产96层QLC 3D NAND(1.33Tb),单颗Die的容量增长逾10倍,时间却仅仅用了5年的时间。
$ E( }7 N% h7 f# ?3 U! p/ }
6 k" }6 A( |, \9 R2 W/ H6 _9 [0 x2 u2 z q4 `2 V) p
在竞争激烈的存储市场中,产品的先进性和优化的产品成本一直都是各大厂商在激烈的市场竞争中角逐的核心武器,因此在面对海量数据存储需求带来的更高产品性能和更优存储成本的要求时,如何在降低TCO的前提下,保证产品性能,成为大家共同关注的问题,这时异构化存储概念逐渐进入大家的视线。& O! ~. w7 P& i+ P- S" }$ N) z# p
8 i3 X# ]' |- S4 ~. q* K
8 J' p( y* r# |/ C: H8 T什么是异构化存储?2 @ ~! L7 S1 R
2 _( F* q+ T M8 d' s+ ?6 M6 x. f5 [. z1 u( t: o
异构存储就是根据各个存储介质读写特性的不同发挥各自的优势,将不同特性的数据存储在合适的存储介质中。
s+ E5 z5 U G1 y: u" v! E O) V* `6 b+ Y/ w; O
8 g$ p0 w6 {0 m% Q
所谓不同特性的数据,通常是根据访问频率的不同,分为热数据、温数据和冷数据,目前业内尚无明确定义的标准。
+ V( A2 l! K$ y5 V+ \9 {2 C4 K2 R5 t7 O. X- g( Z) E
# R( q& i/ g) ~1 T* R, r2 @! n常用的存储介质为四类:DRAM、NAND Flash、HDD和磁盘,其性能依次减弱,对于访问频率较高的热数据,可以选择性能较高的DRAM,其次是以NAND为介质的SSD产品进行存储,而访问频率不高的冷数据放在成本较低的磁盘中,比如HDD、磁带等,发挥存储介质优势的同时优化存储方案的成本。
) b9 z" d0 H# |' \) y6 [
4 m8 {0 H5 k. b8 U) t8 |. h/ [: a _当然,异构化存储是一个很宽泛的概念,细数目前国际六大存储原厂:三星、铠侠、西部数据、美光、英特尔和SK海力士,在异构化存储上均有布局,但是每个公司的发力点又各不相同,我们将六大核心原厂的异构化存储布局分为纵向和横向两大维度分别说明。 p& @* m9 |2 x0 u; {) {. {2 S
9 Q6 R" g6 S! s9 R
8 Z3 W8 r" f7 ^3 M2 e$ q& ^5 o/ \) Y
- i6 a, H9 Y* E2 Z& D7 b9 X
/ A" {! m# A$ w4 V纵向异构存储:存储级内存(SCM)市场增长已获得越来越多关注 / b m- {4 y5 c
6 l! H7 x0 i0 z$ g+ D6 A
存储级内存解决思路:在内存和闪存存储层中间插入若干层缓冲层,减少每一层间的速度差,使存储结构更加平滑,填补了原有层级间的空白,在数据中心存储领域形成合力。
$ ]4 W# C' K% r( M1 {% }
2 }* l1 j9 X$ v4 \! d: ~; L
2 E, _: E$ R4 p! O7 t* V存储级内存(SCM),具有如下几个突出特点:
) A5 H: ~# g" J+ Q' u* I: v1、非易失性* v" d2 y8 X" B$ t6 A
2、高性能,极短的存取时间(DRAM-like)
- D' ^8 P. h, E) }3、大容量,固态,无移动区(SSD-like)
0 k6 t/ w! \1 u+ D# w6 S4、致力于降低总存储成本
6 g2 q! |8 l l+ o M! J( C$ F4 y& D4 X' ~# M
% I8 p9 w$ Q; g/ J$ h$ T" K: g. D
英特尔率先布局,三星、铠侠跟进,美光亦看好内存级存储!
! I4 Z. p( F' F- n, C% A+ c , `" _3 O! o1 ~* q0 A
谈到存储级内存(SCM),不得不提及英特尔,英特尔在六大存储原厂中是率先布局存储级内存市场,自2015年就宣布成功研发3D Xpoint技术,主要布局傲腾系列产品。
- L( ?6 ]6 @9 X$ R: W( r: f3 j& X' p a3 d! G/ @1 x1 r% F
" I, R* v- T9 [% k英特尔在DRAM与SSD之间新增三级,包括傲腾DC持久内存、傲腾固态盘(3D XPoint)和QLC 3D NAND固态盘,每一层的速度差仅为10倍。除了在存储架构上发力之外,英特尔配合处理器资源优势,形成组合拳,用来满足企业不断增加的大数据分析需求。
6 v( T8 V L! d3 L) m( L % l/ L" b3 \- M" N" v$ P
" s( g; w+ Z# N5 I
近日有媒体报道,继英特尔与美光分手后,英特尔独立开发了新一代3D Xpoint,新一代技术存储单元层数翻一倍,从原来的两层增加到四层,Die容量从128Gbit(16GB)翻倍到256Gbit(32GB),随着芯片的存储密度的提升,这必然会降低每GB的成本,从而降低终端产品的价格。) j6 W4 W- F2 U" X
1 n7 C" D& E4 o3 D& {; R
; d3 r8 ?+ V! ]# o V# r* b4 S, `5 |7 `1 E' t) S6 [. ^
报道称,新一代3D Xpoint技术,由Intel位于新墨西哥州的Fab 11X工厂负责开发,不过生产依然由美光所负责。
. [! m7 q5 n, S5 s
! H7 T$ e- h+ D/ u! s3 K5 R2 @8 v. A" N$ |! |7 ^7 b0 m
除英特尔大力发展之外,三星、铠侠(原东芝存储器TMC)也相继发布了布局数据中心市场的Z-NAND和XL-FLASH,其产品也是定位存储级内存(SCM),用来解决内存和闪存之间的性能鸿沟。关于这三种产品详情请点击: 三星、东芝、英特尔形成三足鼎力之势,抢占下一波数据中心商机!/ B3 S6 Y- Y$ F3 ~4 m4 K
& w3 f3 U8 C3 ^; G* Q
a6 F& P7 t# ~. x- y
凭借低廉的成本,更高的容量,QLC SSD或将在读取密集型应用大放异彩!
2 r$ J& T' O. i+ A ( _8 ?6 m) p1 @! F. I/ o
除了在内存级存储(SCM)层面的技术研发,在SSD层级中存储厂商也在不断追求更高的存储容量及更低的产品成本。
1 h* m% B( L' I+ @& K; P3 R! m6 D8 {, t
4 L6 a4 U4 O" h9 C2 yQLC技术作为还未被普及的更低成本、更高密度存储解决方案,由于其寿命问题及可擦写性低,理论可擦写性只有150次(TLC理论擦写1500次)被长期诟病,然而,近期,三星、美光及西部数据开始强调QLC在读取密集型应用方面的优势。1 P& l( G$ [; c
3 m F0 ~. f* ^% S: P4 J
( z, y& ?: D3 J0 m
其中,三星表示,十分看好QLC在针对读取为主要应用场景的应用潜力,因为在成本角度看,QLC SSD主要优点是在全生命周期TCO的产品相当于万转磁盘的1/3。6 z1 n2 d, W2 T
, A: `1 F. t$ d3 O0 W& J/ ^1 J2 E$ d& u
# Z& ]+ G6 G \& F+ f* i
; l! J" t- y: {! ^( J8 j0 P. a
为了满足不同场景下日益增长的需求,三星从单一的SSD产品现在已经构建了从Z-SSD到QLC SSD的全方位产品线,除了SSD产品之外,三星也在积极打造存储级内存(SCM),目前SCM产品已经通过标准化认证。& @: ?" X3 a* c+ q9 M
! B6 A0 y$ E8 g* G" A$ }4 O9 c' S
, J" ]+ k8 G4 M$ Q) b+ r) H
( N5 l4 B0 R( o( t! t2 G3 T* j% C纵观美光产品线,目前美光是业界唯一能满足各方面需求的厂商,从低延时高性能的DRAM、3D XPoint、到高密度QLC NAND SSD方案,用来满足下一代数据中心需求。 2 x7 q2 B) b: }7 x( F' |6 M0 i
' R0 S% ?. h+ y% ]/ ~5 @# j
9 F* z0 y2 q% M5 }& i* }! }8 F1 F
0 p4 v2 @1 Y* ?8 a0 A5 g 图片来源:网络
5 G( t5 j# f# H4 z+ p
* h& `) ?" q4 I1 ]' Y3 W4 ]& J H' A: F( H: t' m
美光科技于去年5月份与英特尔共同宣布成功出了首款商用64层3D QLC NAND产品,开始生产和出货,新的QLC NAND技术可以达到单Die 1Tb的存储密度,从而为读取密集的云存储应用带来显著的成本优势。
. U4 R: ?, G; K$ p
# p6 Q! I' z3 J2 y
3 w( w+ L0 v" Z# m/ S4 ~: q此外,美光采用QLC NAND技术的SSD(5210 ION)也已经开始对战略合作伙伴的客户出货,美光该系列产品有更低的成本、更高的容量,用来满足AI、大数据、商业智能、内容交付和数据库系统等读取密集云存储需求。
3 U8 o3 R! L3 W' R
6 _3 N: v& A& G U3 O$ W A
3 ?- L- z! d0 F. f( ]' o3 I7 S; T日前,美光表示,对于读取密集型应用来讲,QLC NAND存储产品的可靠性比HDD更高,读取密集型应用应该将下一代存储设备切换为QLC NAND产品。
7 N) v" z6 k. u+ b$ ]7 h
; l$ k# D4 u7 R& j _4 y+ }' v. {" b* _% h7 J, t" V' S; m
美光表示,对于需要大量数据读取的应用来说,其对访问速度要求较高,而固态硬盘的工作寿命是与写入周期数进行定义的,因此可以相对延长使用寿命。9 b% w, M3 O1 E h5 s
+ e8 \4 Q V! S" O2 g8 r" c
~4 R$ J+ W( U2 N西部数据于2018年Q4量产QLC闪存颗粒,并进行送样。西部数据认为,如果解决产品的写入限制问题,QLC产品可以经济高效地实现存储密度的深度扩展。西部数据的分区存储技术,成功实现了对QLC写入寿命损失的有效管理、同时大幅提升产品耐久性,进而诠释系统存储效益最大化和数据中心TCO的最优化。5 y+ E& O$ o8 i+ T, M( a. g
' `* c. c) d" ]: d4 b" H
# v8 o- W7 V5 c/ S& [9 j: F横向异构存储:去集群化分区架构,实现工作负载的合理优化,降低成本 . }1 B2 y3 o2 L0 }
! P1 ]) X W/ Q* C2 u- P
分区存储解决思路:利用可编程的去集群化的基础架构,划分数据区域,有效提高数据中心服务器存储效率,对工作负载进行合理优化,从而提高性能和效率,实现总体拥有成本最低。
5 Y4 M- k; m, D* L
$ e6 i/ g7 h" W0 t5 |% J+ O9 z
3 e3 L+ R' V* T* f/ L& w提及分区存储的代表企业,西部数据当之无愧,西部数据认为,目前存储产业主要通过增加存储密度的方式提升存储容量,如采用提升3D NAND的层数,目前3D NAND的层数已经提高到96层,但是这样的提升挑战也越来越大。4 ?- \9 J" |, i; D6 x" I' c
2 l, S5 N H* Z4 N3 R* W7 B9 d& l- }- B7 }! j* l7 t V
西部数据认为,提高存储能力不应仅仅停留在存储介质本身,要重新看整个数据的基础架构,通过开源、通过标准化,和业界各方携手共同推动问题解决。6 N3 s: I8 H( E6 Z* E2 C" L/ ^
# @0 w- V+ p3 D% C$ i! y
' X+ l' A P# U- t0 j5 L今年6月份,西部数据推出分区存储技术,其核心是实现SMR-HDD、ZNS-SSD同一架构下的数据存储和访问,为此,西部数据发布了libZBC、libZNS共享库,以及开发工具,支持文件系统和内核模块设计,从软件栈的角度,为SMR-HDD应用扫除障碍,同时兼顾SSD的需要。
( F( l6 N# {" ?) `$ O+ O 7 i: D& E' ], c2 G( b
6 y: _6 c" b( c, A2 w) H! L
图片来源:西部数据3 H! p( |' A7 O7 i& F0 s& \
# K: s5 _# l4 m2 Y2 W2 j6 M+ \
- q w2 ]" y5 l9 c5 u( O5 l
7 p* H0 z) i6 s, M2 ~为了推动分区存储技术使用,西部数据采取了开源策略,开发者、生态合作伙伴可以通过ZonedStorage.io 访问来获取这些开源的信息。
1 V1 T8 X7 W- `; j [9 `5 R/ b* d* u4 W& K. d- e: l2 L
" U/ Y1 @8 M0 N1 j6 _5 C( d除西部数据之外,SK海力士也看好分区存储解决方案,今年3月份,SK海力士推出下一代企业级标准的ZNS SSD解决方案,SK海力士预计在2020年初完成开发并推出ZNS SSD商业产品。
& S- U v+ B# D" h5 R; A* C
+ }9 j+ E( `5 @5 V+ D8 D! g3 S3 @9 N
SK海力士该解决方案包括SK海力士开发的ZNS SSD软件,比现有的SSD快30%,改进后增强4倍的使用寿命,是下一代数据中心的理想解决方案。: e, Q3 c" _& R/ h! z+ W& l! g! U# @6 A
7 ]; \/ i9 ?, }! x1 [
6 R9 b& \3 H5 t& M4 e; {! V% h毋庸置疑,在科技发展日新月异的今天,存储产业的未来一定是光明而璀璨的,但是在前进的道路上,每个人可能选择的路不同,然而“市场”是检验一切方案的试金石,谁能在残酷的市场竞争中脱颖而出,仍需要时间给出答案。
6 d" }+ T: o* U% Q0 ~: a
) }+ @2 {4 S& U! d
9 l+ v. ]: X4 L# `. L
/ U* y0 g1 _3 \7 {公司简介www.chinaflashmarket.com 中国闪存市场致力于为客户提供最新资讯、产品报价、数据汇集、产业分析、专题报道,以及最专业的存储产业咨询服务。3 B5 q! c: m* B W& ?0 u+ a
邮箱:Service@chinaflashmarket.com
. P7 |- m; O; N$ J: ~* M( R5 J8 l( x! `5 D9 M5 |
来源:http://mp.weixin.qq.com/s?src=11×tamp=1571038204&ver=1911&signature=zuy0XCKpIOiNvC4KgtIbsrXX1olbzpItPDWqagHGQHGkS8PMg1mzVK1qk6WNVuoke98snLEBPMeX5MswpiwEXrlZU8wUOJxi7*S9VR3ONagl9AVJofj40sxSecNsA4xe&new=1
5 q/ [7 i; E* ^" V m0 Y3 Q免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作! |