|
|
% M6 k4 e( n; h
( o3 M! O! q0 a8 J9 W7 \# X1 \6 W
# S; F5 U# j9 }4 g4 x) x& E
10月23日,在北京召开的2019 Arm技术峰会上,Arm正式发布了全新的Ethos-N77/N57/N37系列NPU IP,进一步加码人工智能(AI)计算。与此同时,Arm还推出了针对主流移动游戏市场的高能效的Mali G57 GPU和针对主流及入门级市场的单位面积最高效的Mali-D37 DPU。
9 v: S. v, l' v9 ]) B1 m
+ k; y% F' l6 M3 e! w; i- }7 r% i7 ]; o, q* c4 Y# Q1 ^
ARMv8及后续架构将不受限制的继续支持中国合作伙伴!
6 R( k T0 a T/ s6 F' P* ^1 p, r+ p, a1 W# g
8 _. c) U. x, j6 y
今年9月25日,Arm中国在深圳召开媒体沟通会,针对此前外界盛传的“Arm断供华为”一事,Arm表示与华为仍是合作伙伴,ARMv8及后续V9指令集可继续授权!5 q6 [' K2 j1 ?% d, m3 E
7 V1 O4 @6 o+ v' z2 z$ S+ ~8 k/ w7 f \7 I
10月23日,在2019 Arm技术峰会北京站上,Arm董事长兼CEO吴雄昂在开场致辞当中再度重申,经过法务严谨的调查及相关调整,目前无论是ARMv8,还是后续的V9架构都是源自英国的技术,将可不受限制的继续支持中国的合作伙伴!
) S) ~9 S X" f0 b' h' ]/ k1 p$ o9 j3 H9 U3 {% i
* N/ e' K! `5 o9 z
2 H3 M" l5 F1 ^4 ?% K) x6 ^
$ }2 K5 `4 ~- l2 K# e9 }) _ m
- b; t6 ~+ z6 l; X0 ]
此外,吴雄昂还指出,Arm在中国的合作伙伴已经超过200家,中国合作伙伴出货的基于Arm架构的芯片已超过了160亿颗,国产SoC芯片95%都是基于Arm架构的。
" Y2 `- B% a, [# l8 h* Z% ]: G! `! Y- a, ?' r0 N& w7 `/ S
i2 e. Q5 a" [: M吴雄昂强调,Arm是唯一非源于美国的主流计算架构。Arm中国承接Arm在中国的业务和技术,在Arm标准之下自主创新、赋能产能,把中国工程师能力调动起来打造知识产权。这些知识产权将不只是提供给中国产业,还要通过统一标准面向全球。
4 p: |! ?( ?, |1 `: c& U
+ O$ l* N7 e4 P
( ^. ^/ e& c9 x5 T6 U; h加码AI计算,Arm发布Ethos系列NPU IP
6 E7 R, r% Z% k" H8 K1 N
N2 N* E0 v- V; O8 i f
7 O+ t" Y& |% C1 H# O根据Arm及研究机构的预计,到 2028 年,移动设备的数量将从现在的17亿台增长到 22 亿台,智能的IP Camera将由现在的1.6亿台增长到13亿台。在终端侧具有人工智能的设备将会由现在的3亿台增长到32亿台。足见人工智能市场增长之迅速。& ?4 a4 K- P n# l0 E) `+ V4 \& i
2 h; m9 L2 X; Y7 S9 A, [+ h
! X7 L; K# \* F# b! W而随着AI技术的兴起和广泛应用,AI对于芯片的算力也提出了更高的要求。作为全球最大的处理器IP供应商,Arm的Cortex CPU和Mali GPU在以智能手机为代表的移动终端市场占据了极大的市场份额,但是在AI计算领域,Arm此前一直都是依托于其Cortex CPU、Mali GPU及相关软件开发工具来提升其AI计算的能力。 d7 u4 t& |' C# ]- r g
) d P+ h C; _' U8 Q( H( N" w/ ^7 t/ \0 N+ H) w2 V, o
但是,传统的CPU、GPU核心并不是AI计算的最佳载体。因此越来越多的芯片厂商开始推出了AI专用芯片,或者在SoC当中加入AI计算专用的NPU内核。比如华为2017年就率先推出了集成NPU内核的麒麟970处理器,同时苹果推出的A11处理器也首次集成了NPU内核。此后,高通、联发科、三星、展锐等手机芯片厂商也纷纷开始在SoC当中集成自己的NPU内核。$ z1 `0 o2 `( k# v D8 C. k- R
% x- b* k \( w) P. l
' b$ J; U& M! C' M4 ]3 Q在此趋势之下,为了应对市场对于AI内核的需求,Arm在2018年年初也公布了针对AI的Project Trillium项目,其中就包括了全新的机器学习处理器IP、目标检测处理器IP和神经网络软件库。经过了近两年的时间,现在Project Trillium项目的成果也开始正式产品化。
) q6 F' y% E" n. O t; S; T" t9 r0 l) J5 M3 S% Z. J z) E/ t
# F: ?' f; @ \* p; k$ O) v
4 e' z1 Y3 {. r$ D
( H& U e- N4 y/ X0 S9 n, ]9 J2 w6 M1 v
7 ?. i" w5 M0 _* | 0 Q1 {2 K( @1 i) f$ I
今天,Arm市场营销副总裁Ian Smythe 在Arm技术峰会上正式发布了全新的Ethos系列NPU IP,包括针对高端市场的Ethos-N77、针对主流市场的Ethos-N57和低端市场的Ethos-N37。
L1 _2 d# B3 s7 G6 \& j
% V& C& g& K. e, b. B; ^
! v* @6 Q( }7 T2 W, ] ( v8 h; ]- e. `

, v2 [4 q" b2 K& l7 R2 h! e* w0 G- T9 n5 E
# D- f: M7 V1 j- H% NEthos-N77实际上就是Arm去年公布的Project Trillium项目中的那款机器学习处理器IP,其内部集成了可配置的1-4MB的SRAM,在1GHz主频下,7nm工艺下,可以提供最高4 TOPS的AI算力,每瓦性能高达5 TOP。另外,之前Project Trillium项目公布的数据显示,Ethos-N77的单位面积算力为4.6 TOPs/mm²(最新发布的可能有进一步提升)。那么Ethos-N77的这个性能在市场上处于什么水平呢?
! ?, O+ w6 n3 V $ a0 b- e. ] H4 r! q+ x- N- W V0 T q
根据资料显示,华为麒麟970 NPU是基于寒武纪1A IP,算力是1.92TOPS。而苹果A11的NPU算力仅为0.6 TOPS,A12的NPU性能为5TOPS。而根据此前高通骁龙855发布之时的数据显示,其整体(包括CPU+GPU+DSP等)的AI算力(超过7 TOPS)是华为麒麟980的两倍,照此估算的话,麒麟980的NPU性能大概在3.5 TOPS左右。另外据芯智讯了解,华为麒麟980的NPU是基于寒武纪IH8,是针对低功耗场景视觉领域的NPU内核IP,而寒武纪IH8有 4 种可选的配置1T、2T、4T、8T OPS@1GHz,麒麟980应该是4TOPS的版本。而麒麟990系列的NPU并未公布具体的OPS数据,不过其采用了全新的达芬奇架构以及两个大核+一个小核的配置,性能应该更强。
- Y. w. X# c& a$ d) }* g4 q# C$ I- T5 h" c6 e" H7 G
" ^) F" P) l+ ]0 h9 m4 r
9 j1 g' [+ n5 g1 C% i1 o Q
在单位面积的算力方面,根据芯智讯此前的估算,麒麟970的NPU的单位面积性能大概是1.48 TOPs/mm²,而麒麟980和990没有相应数据可以参考。而根据TechInsights的拆解,苹果A12的NPU内核的面积为5.79mm²,也就是说苹果A12的NPU的单位面积算力约为0.86TOPS/mm²。- I' ^% v2 H. u j2 [
& ~4 h) g, j* h2 E8 _7 a1 h) ^
: s& n+ ` z# z0 |( U6 W在每瓦算力方面,华为公布的资料显示,麒麟810的每瓦算力可以达到6TOPS。苹果的NPU未有相应数据。寒武纪新的NPU内核1M在7nm下每瓦性能为5TOPS。
, D1 A4 c) z- b, P7 H
7 [, y+ e- e7 I9 \+ R& v2 o" h U8 k
从上面的数据对比来看,Ethos-N77的AI性能与苹果A12和麒麟980的NPU相当,相比麒麟990系列的NPU性能可能要弱一些。在单位面积算力方面,远高于苹果A12和麒麟970的NPU。在每瓦算力方面,也是远高于苹果A12的NPU,略低于麒麟810。综合来看,Arm Ethos-N77各方面都还是比较出色的,达到了目前旗舰级NPU的水准。% g2 g+ \ T- B, D
# I- o# ~1 k, ], [2 u, e2 r
: |* |: I+ R- o c& p需要指出的是,4 TOPS的性能是单个Ethos-N77核心在1GHz主频下的性能,如果配置双核的话,那么性能无疑将进一步提升,当然功耗和面积会进一步提升。- z6 J9 Q* g3 v* u" t
/ D( ^: E: M# ~& g. M
, j8 ?$ i+ Y4 H& HArm此前就表示,Ethos系列IP是具有高可扩展性、兼容性和可编程的,可以提供计算性能最低从2 GOPS到超过70 TOPS的产品。
! N( M1 V! [# O9 I; R" r; L
+ o/ n% D* @2 S/ ^5 h& ?' M/ E; u- t" ~+ u
另外,Arm还推出了针对主流市场的Ethos-N57,内置了512KB SRAM,在1GHz主频下,算力最高可达2TOPS;而针对低端市场的Ethos-N37,是为了提供面积最小的ML推论处理器(小于1mm²)而设计,其同样也内置了512KB SRAM,在1GHz主频下,算力可达1TOPS。
% @+ y( ~/ i$ J. M% A# ]$ R$ O6 s# D7 |& ]6 [
" h# {+ C$ ?2 r; B$ H ^ wArm表示,Ethos-N57和Ethos-N37针对Int8与Int16数据类型的支持性进行了优化,通过如创新的Winograd技术的落地,使性能比同类NPU提升超过200%,并且配备了先进的数据管理技术,以减少数据的移动与相关的耗电,在ML在性能与成本、面积、带宽与电池寿命之间达成了比较好的平衡。
* ^4 E: r3 ^& ?0 Y# i$ B# `, q# U! ^9 R) ^; L! [6 ^
% h0 p! K3 Y& {7 q* l; T+ G2 ~
据芯智讯了解,除了移动市场之外,Arm的Ethos系列IP未来也将会开始进入物联网、工业、汽车、网络以及服务器市场。$ z& H7 p! b! `' {/ f4 H7 |
) |: d$ Z; y3 [+ E3 U* j
D) ?' p. k/ \! c G3 X# S; m s! y' F开源的AI开发框架Arm NN
, m' }" r4 N- l# K3 T9 {5 ]
" g6 n- k% s/ e
- m- `5 A* L9 G% k! L我们都知道,此前高通骁龙845/855系列都并未内置专门的NPU内核,但是其仍然提供了较高的AI能力,而这一切得益于其神经网络引擎Neural Processing Engine的助力。即采用更为弹性的异构的机器学习架构,在通用平台内做内核优化,使得AI计算合理的分布在CPU、GPU、DSP等每个单元上,从而可以针对不同移动终端提供弹性调用各个处理单元来进行AI计算。% C1 Y5 l5 k/ P2 n; f7 I0 h* L% {
3 N, a7 V7 {; h6 _8 F$ W: O; m
$ d: I# J% h$ v2 a而Arm此次在发布Ethos系列NPU IP的同时,也推出了开源AI开发框架Arm NN,强化异构的AI计算,进一步提升整体的AI性能。
6 `6 J/ i9 i; M
( ?# I% B: L& Q' A9 b* }$ b1 c
" Z5 s9 c9 E9 Q6 W& G7 b* b, G! f0 M( W ; m0 q2 Q/ A4 l3 M$ t6 Q3 _7 Q
' I2 R2 Z* w) Z7 C0 F9 B
8 K% s* [& L& k! K4 _. W0 u1 o据介绍,Arm NN是属于偏底层的架构,而且在其基础之上,可以支持其他的更高层级第三方的NN框架,并提供完整工具链,可实现在AI计算上对于Arm CPU/GPU/NPU内核的合理调用,实现更高效的异构的AI计算。: Z1 B2 G( j; ^5 l9 Z! \ _
3 `* L7 ~, ]: x* B' K+ q$ k( d
6 E! v) R7 B) V' V5 q- N
Arm表示,由于不同的SoC对于AI的加速方法是不一样的,因此第三方应用及开发者要用到片上系统的加速能力是比较困难的。而开源的Arm NN的推出,将降低开发者调用Arm内核的难度,进一步提升开发人员的体验。
# N3 ^" k) k6 O$ u( l9 _; ]+ c- X; b1 p6 }; G
1 N7 s3 J j4 u7 J5 b

b2 k' M# g' J% M" c+ ~# }
h4 X8 `: Y2 `. }* Z9 T
2 S3 V3 C( [4 Y% a j此外,为了推进基于Arm NN的内容创建和开发,Arm还与Unity(Unity最目前主要的3D引擎,50%的3D游戏,75%的VR内容都是基于Unity引擎开发)达成合作,进一步优化Unity引擎,使得基于Unity的开发者能够更容易的访问和更高效的利用Arm的内核,在Arm CPU/GPU/NPU之间获得更好的性能。可以实现一次开发,即可获得Arm全系列的内核的支持(即可支持众多基于Arm不同类型的内核的SoC),无需再重新编译。8 ^ o4 a4 A, a- b b4 v+ \6 |
: i. P8 I0 ?, ]: \% A! i) s
1 i( E+ t1 V, L2 c3 E
Mali G57 GPU:为主流市场带来智能与沉浸式体验
! w$ E3 L% C4 ?0 y) v4 j! r E; m8 t/ n/ l0 o
; ]2 y$ C; A# T
今年6月,Arm针对高端市场推出了首款基于全新Valhall架构的GPU——Mali-G77。今天,Arm针对游戏市场推出了第二款基于Valhall架构的高性能、高能效的GPU内核——Mali-G57。(Vahall架构进一步提升了并行执行的能力,同时在代码上也做了尽量的简化,从编译角度来讲也更加友好。)( {8 @+ s! \ l0 T- N+ d7 F: O& Q
" w" L( r4 s7 C7 P. ^2 y1 f7 T
) M9 \# G* n! J! i1 I
! U& t" d' E* y# ~9 L0 G5 s1 D$ \3 e+ A; k6 t# D9 T0 w; I5 E. X
" ^+ H1 e' y% j) `4 S2 c" U: W
据介绍,Mali-G57的性能相比上一代的Mali-G52在能效上提升了30%,性能密度提升了30%,机器学习性能提升了60%。并且Mali-G57还加入了针对虚拟现实(VR)提供注视点渲染支持,再加上机器学习性能的提升,可以支持更复杂的XR实境应用。而且,Mali-G57还支持1-6个核心的配置,可以满足不同市场定位的智能手机的需求。" f% x I! |+ l @$ N: B
8 U! I" q6 h# n8 i# [1 L- u5 s8 S ~0 h5 q) ]
Arm表示,Mali-G57可以将优质的智能与沉浸式体验带到主流市场,包括高保真游戏、媲美电玩主机的移动设备图型效果、DTV的4K/8K用户接口,以及更为复杂的虚拟现实和增强现实的负荷。
* z* o8 N, Q- s" M! ]0 K
* D& o& F3 ?' E. t) w
% {" G: i3 |. `6 j ^- [Mali-D37:Arm单位面积效率最高的DPU
, o* M- {' }$ M" F) @, o; @, L9 `& F3 X. ?
. @. u+ z: @1 F4 @, f' a. p. \5 S7 L在今天的技术论坛上,Arm还推出了目前单位面积最高效的显示处理器Mali-D37。
0 q6 a% t$ l2 u- \$ T; b& @! U5 d7 o$ h
o( N+ y" {6 l1 k( z" |# F, S
5 f$ n1 T$ o8 i7 J7 f
$ Y$ N, g) p& u' i7 K
6 `$ l( F' r- S5 }# q; `; S据介绍,Mali-D37是Arm第一个面向主流市场的基于Komeda架构DPU,拥有极高的单位面积效率,在支持全高清(Full HD)与2K分辨率的组态下,16nm制程的面积将小于1mm²。
7 e9 h* U1 h4 W$ a4 t
" ^3 ] {+ U; Z( J. K8 w8 {" `& d
' D7 @; _& z# X5 A% t5 n+ s5 m在性能方面,Mali-D37保留了高阶的Mali-D71关键的显示功能,包括与Assertive Display 5结合使用后,可混合显示高动态对比(HDR)与标准动态对比(SDR)的合成内容。另外,Mali-D37其通过将部分GPU核心显示的工作负载卸载到Mali-D37来工作,以减少GPU的工作以及对于内存的访问,使得系统的功耗可以降低30%。" J. K; ?3 W# l7 h
w ]/ A2 ~! Y, G$ K
! [! I2 y3 M8 z* }2 j2 x) BArm表示,Mali-D37可以支持入门级智能手机、平板电脑等成本较低的设备,获得2K级别的视觉效果与性能支持。
/ P0 ~! ]$ j& ?8 i5 e2 b6 E) M# d/ Y& z7 U! a0 v
* |) b5 n! G8 [9 `/ oArm的通用型NPU能否获得成功?
) m( Z* ~& [5 O6 j+ s7 ^3 u
* x# k: P5 n8 t& B! P2 b; k6 q Y8 i, p5 I H; U
从目前的市场趋势来看,AI芯片正越来越向专用化的方向发展,越来越多的算法厂商也都纷纷基于自身的算法推出了自己的AI芯片。同样,正如前面我们所提到的,目前华为、苹果、高通、三星、展锐等众多的手机芯片厂商也都有推出自己的NPU内核。那么Arm的“通用型”的Ethos NPU IP真的有市场吗?
' m/ M3 S( J$ D$ I Q6 B" b. P) @) E5 \6 E
9 K8 P9 ]# k% G1 f# p对此,Arm市场营销副总裁Ian Smythe表示,Arm的Ethos NPU IP并不是孤立存在的,其主要的优势在于,在其本身提供出色的AI性能的同时,可以更好与Arm的CPU、GPU进行协同,以实现异构的AI计算,从而进一步提升整个系统层级的AI性能、降低功耗。而且,目前AI市场还是在初期,很多的AI算法仍在快速迭代,选择“通用型”的NPU是比较安全的做法。
9 U5 u- n* N a" ^! Y! `+ P# `4 U: Z! O
# r8 D( h2 M1 U* ^0 \
7 U0 g" l8 y( W7 }" [
" m0 a' g) z3 o' J: w5 X+ T6 c
4 X# g n, I# r$ o0 E+ w
在采访当中,Ian Smythe向芯智讯确认,Arm的Ethos NPU IP也可被集成于比如RISC-V等其他架构的SoC当中,但是Ian Smythe也强调,这样并不能发挥出Ethos NPU与其它非Arm CPU/GPU在AI计算上的协同优势。
2 N# s7 \8 K% d! u0 m9 Z+ }9 c0 o9 n% F$ K0 |$ J: s7 T0 {
; X* b% d$ W1 c$ T' G' T另外,Arm的Ethos NPU IP还实现了对于高中低阶的全面覆盖,但是目前众多的芯片厂商主要还是在其高端SoC当中集成了NPU,而随着AI计算向边缘侧部署的趋势,未来市场对于NPU的需求也将会越来越大。Ethos NPU IP的推出,将可帮助芯片设计厂商更简单、更低成本的获得不同档位的NPU内核的支持。
2 v% x; ~8 M. b: @) U
. C1 d$ y4 S/ @1 A: ~) X. D
( P6 U: g& u) a3 ] V9 C另一方面,目前的Android应用生态基本都是基于Arm架构的处理器,因此,如果采用Arm的Ethos NPU IP,结合开源的Arm NN框架,应用开发者将可以更简单、高效的调用Arm的CPU/GPU/NPU内核,可以为用户带来更为出色的AI体验。而且,可以实现一次开发,即可获得Arm全系列的内核的支持(这也意味着,可支持众多基于Arm不同类型的内核的SoC),无需再重新编译。而对于其他的芯片厂商的NPU来说,开发者要想实现灵活高效的调用NPU,充分发挥其AI性能,则需要针对性的进行优化,而且还需要其提供相应的权限和工具。即便是开发者开发应用实现对于A厂商的NPU调用,同样的应用要想实现对于B厂商NPU的调用,可能需要重新进行编译。显然,对于应用开发者来说,Arm的NPU所具备的生态优势无疑是其他厂商所无法比拟的。9 e" o, P, G: r0 D: [8 l
# d5 z7 q: |$ I* @* F/ U, ], {( Y; M7 g
最后,Ian Smythe强调,Arm对于AI性能的提升是多维度的,一方面会持续推出更高性能的NPU IP,同时也在不断提升Arm CPU/GPU的AI性能。 I. \, n4 W0 m6 F0 A& N* d. n/ E
5 g" `: e( n2 p" ~- _) y3 ~+ t! s9 P0 ?+ B" J8 I0 K
; c. F- S* T! V- |0 o" _, y
- j7 O" o( P4 f' k/ T8 P
" H- D% ? M; {. y) z7 }
值得一提的是,Ian Smythe在演讲当中透露,Arm在下下一代的大核架构Matterhorn当中,加入Matrix Multiple(MatMul),令其ML(机器学习)性能与前代CPU相比提升一倍。& O. i# @- I3 Q9 I- x" t
$ f2 k3 u4 f9 q
: k9 d7 }! ?. a4 _8 r- q% h- T编辑:芯智讯-浪客剑/ `/ X+ r4 c" ]" _
往期精彩文章2 W/ ~4 B$ S# C7 N1 ~3 B
VR市场迎来第二春:5G+VR云化将成最大推力!
0 R3 P; `6 L# ~6 f4 c! h" @ {8 B
2019生物识别论坛成功落幕:这十大看点不容错过!4 k/ ^+ Q2 B3 E: a) Z2 l- w+ y
阿里平头哥正式开源RISC-V架构MCU芯片平台
# b0 H! A2 ~' |' b首度杀入3D人脸识别门锁/门禁市场,英特尔为何选择与小钴科技结盟?! d$ Q& h% E. t) s, t
d" [; _, w2 U3 K L
展锐再推4G功能机芯片虎贲T117,意义何在?5 z# s% l! }$ \7 t9 F+ N
2 N9 h6 `/ `" _
历史首次!华为海思4G芯片Balong 711对外销售!
, e1 d7 M- Y0 x1 k6 h# G, B X0 p. l' Z
不惧美国打压!华为已获得65份5G商用合同,5G基站发货超40万个!5 W$ ~# a; w& \
' R- K0 f: o; a; t巨额债务违约+资金链断裂?手机ODM厂商海派关厂裁员!6 o1 I+ V$ n' y; R1 W% P& @7 ~
5 W+ d6 @+ U4 n. t
可穿戴巨头Fitbit宣布撤出中国!- Q n& `( I. A. l1 H
- ]% L1 }3 S6 q& M
收购Intel基带芯片业务涉嫌违规?苹果遭市监总局启动问询
2 ^5 K9 T& \1 D7 v: v5 P: _$ h* m% W5 Z3 U* }- j- |: o! C# _
禁令之下,安防巨头海康与大华的应对之策!
7 X; x7 ~5 G+ \6 a6 I% \; @) }$ @) E: u3 b/ C3 |) r9 T" v
为应对RISC-V挑战?Arm CPU引入自定义指令功能!
: U* W4 j) c" ]( D$ d6 B行业交流、合作请加微信:icsmart01
! C* A1 g9 t5 ?. y% K. Q芯智讯官方交流群:221807116 9 N) U! t( |+ I3 Z
7 }; }# L/ K7 S$ K
来源:http://mp.weixin.qq.com/s?src=11×tamp=1572103805&ver=1936&signature=jeCKwe1UBQzC*Pzs8GoY9TZBvEs1rdMAvR4c22h3Cpdg-qQ*TOrpE2uZ4YvRMx7pQMFu5Q-as9lkvJgPIZqWm1WA-*ncmgAC2Ls6p79VafFsjOW9cM78m6hG7c-lzR2Q&new=1
+ @/ ?* h; Z6 S# n- A" B免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作! |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|