做人当如平头哥|阿里最强AI芯片发布

hkrhtkh

9 h1 z5 G9 Q0 Q2 H' r
: r7 Z; M3 }) i/ ]- h+ {
5 w. e0 B" H5 S. B: @" 
  x) x2 |, n% g/ F
- D* F4 [: h1 V5 R5 V2019年9月25日，一年一度的云栖大会又在杭州拉开帷幕。
+ }& P2 [3 `6 r! N% F, A2 n% L, \, J大会上，除了谈数字经济，达摩院院长张建锋现场还发布了阿里巴巴第一颗自研芯片“含光800”。张建锋介绍，在业界标准的ResNet-50测试中，含光800推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。目前，含光800已开始应用在阿里巴巴内部核心业务中。


                 作者：半佛仙人来源：半佛仙人（ID：banfoSB）

  d. Q8 h  G1 e3 _3 c图片来源：IC photo
0 `4 q5 [; R' d2 S有一句俚语，非洲乱不乱，平头哥说了算。

! l! q5 v4 S+ @# w# A
9 B" X. ~. P2 }  l. q8 [平头哥是一种动物，学名蜜獾。由于脑袋是平的，并且头顶有一撮白毛，像极了一个剪了平头又做了挑染的人，所以又被叫做平头哥。
2 g0 D1 Z/ L( o# t
: X$ {* v; L" Z4 _9 M! I/ \在生存竞争激烈的非洲大草原上，蜜獾属于无法被忽视的动物，其无所畏惧，虽然身材短小，但面对任何敌人，从来都是直接动手，并且主动攻击。

坚持与皮实，蜜獾在和对手进行搏斗的时候，持久力非常恐怖，打一整天是常有的事情，一定要打出一个胜负。最后就是聪明和合作，蜜獾是少见的懂的利用工具以及和其他生物配合的动物。

0 K" ~: D$ q3 X2 u* \这是一种非常硬核的生物。

2


! W  {' `- m4 H4 ]6 R! E草原与丛林中的对抗是直接的，血腥的，赤裸裸的， 我们人类生活的所谓文明世界，其实本质上与非洲草原丛林没有什么区别，我们一样充满了残酷的竞争与厮杀，一样充满着对有限资源的掠夺。
) h/ C) G5 ^+ S* G
0 W! w8 v3 H* j5 I6 x3 F只不过我们是人，人类独有的文明让我们习惯用相对温和的表象与手段来解决问题，但这掩盖不了竞争残酷的本质。

历史没有给失败者机会，败者往往会成为胜者前路的铺路石，时间是上百年，或者永世。

尤其是底层科技和硬件科技领域，只要出现底层技术领先，就会出现降维打击。
. H, ^" J$ u% \& f- F
- Y$ Y1 ?) y1 A9 x6 A. S' d; r; |- _APP做的再花哨有什么用？算法做的再精妙有什么用？都只是应用层的小东西。
* @$ V" ?! h# Y3 j$ G
真正的技术底层，是芯片架构设计。

网络服务器的芯片用的是谁？手机芯片用的是哪家？手机芯片底层使用的技术是谁授权的？机器学习跑运算的芯片用的是谁？

( |. N( s8 e+ W0 t% Q  \如果有天我不给你供应了，不给你授权了，你用什么来跑你的应用层的小玩具？
7 Q) n  ]5 [! W) L8 A
科技从来没有共赢，科技只有赢者通吃。

科技，是这个年代的第一生产力与最强大的武器，现代社会的国家竞争本质上就是科技的竞争，尤其是基础科学和芯片制造。

号称世界顶级的技术公司，一场断供有可能直接从云端滑落谷底。

( h* @: D+ ]+ I$ g8 x, }这样的科技繁荣，是虚假的。我们在虚假繁荣中沉迷了太久，以至于失去了先机。
( P# v5 |/ V- L) B
' R  [2 x! o  J) `4 s; w但战斗才刚刚开始，先笑的不一定能笑到最后。

6 C' j- X. O" S$ l7 z不服输，是战斗的第一步。
0 n' W" w. O$ X( g
3


在国内做底层芯片方案设计，属于典型的吃力不讨好，芯片设计的大前提一定是生产出来的产品有人买，或者说，能被软件生态所拥抱，有人用。

0 I9 o  _2 l& v' h0 h没人买也没人用的东西，做的再好，做出来没有用。
, @2 U+ P# z9 g  K! U1 p( e
但依然有公司不服输，叫杭州中天微。

: A" Z6 ]" Q5 A1 ?中天微的历史，就是不服输的历史，因为他们做的是底层芯片方案，这个赛道早就有了垄断者。

' O( E2 [9 E& q9 E$ MIntel的X86体系和微软windows组成的Wintel联盟，只要是PC生态，就绕不过他们的技术。

Arm通过授权技术方案霸占了移动市场，Arm技术架构是当下移动设备绕不开的基础，苹果华为三星联发科，都是基于Arm的IP授权进行研发的，虽然都有自己的核心技术，但终究是运行在Arm的规则框架内。
# T/ p" @2 U" b, U+ P2 n
# K& O$ e" b  a5 S3 B中天微不服输，他们选择另起炉灶设计底层芯片方案，做与Arm同为最底层的方案，主攻iot和物联网领域，创造属于自己的世界，定立属于自己的规则。
$ A) l& C1 g/ _3 m
实事求是的讲，他们选择的路用不太好来形容都算保守了，基本算找死，但杭州人自古被称之为【杭铁头】，撞了南墙也不回头，而是一直撞，撞到死为止。
, ~+ c/ _% X: x, E" G
这和平头哥的性格非常像，不管面对多么强大的对手，先干再说。
; a+ V% P+ g! M! T* o
经过10余年的不服输，杭州中天微是大陆唯一长期从事指令架构研发、CPU微体系结构与系统芯片产品研发，且成功开发多款CPU IP核，量产芯片销售10亿+的公司和团队。

这个成绩不能说差，但和上述几个巨头的差距稍微有点大。

中天微的法人叫做戚肖宁，1984年在杭州电子科大（时名为杭州电子工业学院）就读，本硕连读。
3 u+ g# G0 z: f/ U" N6 n2 Q. p
戚肖宁就读杭电的那段时间，杭电有一个青年教师，教英语。
; }7 d  s6 N8 m
青年教师叫做马云，他在杭电度过了难忘的执教时光。

& z* b6 O, v1 m# z9 s' `2017年10月，阿里巴巴成立达摩院，立足基础科学、颠覆性技术和应用技术的研究，计划3年投入1000亿。我们基础科学落后，但马云和阿里巴巴不服输。
; U% s2 i3 P7 _
不服输的戚肖宁和马云走到了一起。

2018年4月，阿里巴巴全资收购杭州中天微。
- |9 J( {! ~3 o2 G0 a' S& t; q
3 b9 _$ B& }/ t% L2018年10月，阿里整合中天微与达摩院，成立了独立的半导体公司
2 Q* G1 W$ l5 L9 P5 @% U
: ?( K% C& A& K% G3 @8 }, V两家不服输的公司要改变基础科学和芯片落后的格局，公司就叫平头哥。

芯片领域，绝不后退，绝不妥协。

生死看淡，不服就干。

! {5 z9 o  ^# {1 I$ d5 F/ Z2 j0 g4

. }+ z" H7 |! d: z: H5 R/ p
当你走进这家半导体公司的时候，如果不知道的话，你可能以为误入了传销窝点。

70%的员工钉钉头像都是蜜獾，各种狂热的标语挂满了办公室。 
2 h( a0 t. U+ C' R  K) g; _  H
" p3 M5 x# j& \+ ~9 j/ w, q这种小而伟大的精神，完美契合当前国内芯片业的现状。
& i8 z* B/ R8 U8 W/ J; r1 |% I
小，但伟大，而且不服输，不怕死。
2 ^/ s+ v2 @/ ~' q3 Z
4 u+ E2 w5 v, _; l6 Z4 L要么打死各位，要么被各位打死。
* C3 q  j) _, G( O# g. u6 @  O( J
( g# d* X% `) \$ a+ [8 x# z4 D平头哥半导体成立的时候，阿里就对外吹出过牛，要做属于自己的神经网络芯片，Ali-NPU，要做就要做到世界做好，尽管前路上的霸主不计其数。

但平头哥从来不问对手有多少，不问对手有多强，只问对手在哪里。
. X9 r) l2 G0 e! [
当然最重要的，是整个团队如平头哥一般的意志坚定。
' m) L5 l- |( N7 b1 Z  u, d
0 I, B! ~8 o7 o3 N/ o3 ^平头哥在组建团队进行招聘的时候，HR最担心的是在国内做半导体招不到人才，毕竟待遇和基础差距摆在面前，这无可否认。

但来自海外的邮件几乎塞爆了招聘邮箱，大量的海外华人与愿意降薪回国，抛下海外的一切，只为能在中国为中国制造属于自己的芯片。

那些年少时发誓要当祖国科学家的孩子们，抛弃了已有的荣誉与金钱，回家了，几十年前，他们的前辈也是如此。

$ }( x6 X1 w" A2 z4 w5 s( A; W芯片研发不是光靠情怀，硬实力是绕不过的坎。
( C2 Z! ~! K( G
3 f( M3 X7 f/ z$ s8 n# X* P4 }达摩院一众学术界的大神加上中天微十多年的芯片设计积累再加大量海归的芯片尖端人才，以及阿里无上限的预算投入，阿里生态体系沉淀的海量数据，世界三大云之一阿里云的算力全部开放，这一切，为芯片研发插上了翅膀。 
6 S# _' T9 ~2 w. c! U2 ?
这一切的威力，在于2019年5月，玄铁910发布时得以一窥。
  D3 z, {3 X. w7 {& n! x% O1 F5 m' A
( |: g7 o  k7 o这是平头哥的第一款产品，高速，高能，平台化。

. l/ U9 I# \2 \, L  e5 v3 ~玄铁910是与ARM高端Cortex-A7X系列性能一致的底层处理器方案，相较于只有大公司才能使用且场景有所局限的Arm方案，玄铁910对于中小开发者们更为友好，不需要很高的技术成本，中小开发者就可以基于玄铁910来设计契合自己业务场景实际需要的CPU。

玄铁910绕过了手机和PC两大血海，聚焦于下一个时代的万物互联与IOT，能耗比和计算效率才是他们的核心痛点。

2 s3 U- t9 A/ E! H0 Y并且最重要的是，玄铁910是开放的，代码是透明的，成本更是友好的。

+ R' @5 h: B# M# M阿里的平台思维展露无遗，先让大家用起来，大家都用的时候，生态就有了，有了生态，就有了一切。

+ g! z( |7 L3 l! Q# i  F1 c4 G小试牛刀，初战告捷。
+ H; t1 E; d4 Z! `4 T( j7 o0 }
* M1 d8 q! t! l! k5


玄铁910开了一个好头，但不够，远远不够。

, u: k+ n5 S, s! ~# Y下一代的技术核心在于AI，人工智能已经是不可绕过的落地场景，人工智能将赋能所有传统产业完成转型，在强大的机器学习支持下，世界会变。
) h2 S; U; z# i
谁掌握了这里面的芯片技术，谁才能真正卡住未来的咽喉。
4 T- X+ z" J5 j$ Y
1 p; k- _3 q- M1 B  K' x  ]! c- ?PC时代，英特尔的授权费割了全世界。
- u, _! F0 c7 x( T
# C- |) j  n8 X  X* ^8 o: V移动时代，强大如华为苹果曾经也要向Arm购买授权才能开发芯片。
6 Z0 d$ e9 F: ^7 b
, G8 o. }+ k: r4 t: C" H; m: m' UAIOT时代，我们不应再低头，这块阵地无论如何也要拿下。
; X# o; D( q* C+ J' W: H
. g6 \+ ~* |. n9 h+ T$ zAI芯片的核心是算力与能耗，从本质上讲，机器学习就是无限的算术试错，最终试出一个可能性最大的最优解。
* D4 L8 E/ N7 x6 ?
8 }6 _( S# a  t6 \, p深度学习和神经网络，都是算力黑洞，没有足够的芯片支撑，无法达成有效的产出。

各类AI应用落地场景的核心技术，万物互联，自动驾驶，矿产发掘，人工医疗，智能安防等等等等，每一个应用都需要海量的算力。
/ g4 W: e7 a7 Y- q; y0 Y
; C* T8 q: x* O$ L' o9 d$ K一开始大家都是用CPU来跑机器学习，后来发现GPU跑机器学习效率更高，能耗更低，再后来，有厂商发现了这个市场，推出了专门用于机器学习计算的芯片。
( ~# G( V9 [. M8 O1 L& L9 m* ~
当前市场上占有率最高的专用芯片是Nvidia（英伟达）的tesla P4及P40两款，平头哥成立之初就立下过誓言，要作用效果强40倍的AI专用芯片。

PC和移动芯片已是血海，并且有夕阳的苗头，但AI的应用正在冉冉上升，各家巨头也意识到了这一点，在这个竞争下一代技术领先地位的节点，每一家都在全力以赴。

( Q, j- m+ S# w  z, P2 Z对于平头哥而言，这是时代赋予的弯道超车的最好时机，平头哥这代造芯人，心里背负了太多的委屈和不甘，面对这样机会，没有人会放弃。 

时间不等人，因为落后太久，所以要用百米冲刺的速度开始跑马拉松，赌上性命。
0 r) C4 `6 i/ e7 c- P7 |
没有动员，每一个员工自发陷入了疯魔的工作状态。
+ a# Q; K# C5 f; v
他们不是在工作，而是在和过去芯片不甘的岁月作战。
: `0 A) W% b5 p8 P
5 |$ H$ G5 M4 m7 N! j) b; t有的工程师头发半年白了二分之一，大部分时间都在公司，都是妻子在照顾孩子，丈母娘生气地从老家跑到杭州了，结果一看是在做芯片，老人默默地留在杭州帮助照顾。
- \6 v. [3 |  f/ f
  v0 p- o* @7 P' L, F) v" e有的工程师蹲在供应商的工厂里面现场修改设计，问题不解决谁都不让走，工厂的设计师气得直骂，但后来理解到这个芯片的重要性，习惯了朝九晚五的员工们默默开始工作生活不区分。

大家心里有一团火，火里是一些往事。

% ^2 D0 S  H! y% \5 f" Y3 E: p6

' d- U/ O2 i! r2 A: I' G
芯片设计是一个复杂的系统工程，单纯完成设计并不意味着就可以流片成功，这是行业的深水区，假如流片失败，就意味着硬件设计需要推倒重来，这比软件出BUG问题更加严重。

一般芯片公司需要做两次（engineering sample、production sample）或多次才能流片成功。
$ A4 K. t$ h$ f  ^6 k' t6 t+ Q
但是平头哥更快，更强，更猛。
6 C# O( `: L( f  {1 p, I
& l, P! b8 c2 S9 p头哥用最短的时间完成了核心AI芯片的设计、流片整个过程，7个月完成前端设计，之后仅了3个月就成功流片。

9 v" U! _4 J7 n3 [' \速度的背后，是无数最顶尖人才的血泪。

; B( `0 K' H6 j! |  y0 H2 O" p第一次流片回来的时候，一群工程师忐忑在电梯口等老大带着芯片出来。
* B; E9 s0 u0 d
门开了，老大比了个“v”,突然有人哇哭出声，10个大男人都没忍住，瞬间崩了。
/ u$ _8 g/ y( S6 l- G( Q( Q  |7 ], s: f
0 Q' }1 b# b: X! B. T+ s但他们成了。

3 _  N' `% g. C% b3 l) `玄铁910之后，【含光800】出世。
5 G+ j$ k) Z8 a8 X+ \6 N5 j& g

图片来源：IC photo

含光属于当前世界最强的AI芯片，晶体管数170亿，打破业界记录，性能以及能效比均为全球第一。

在芯片测试标准平台Resnet 50上验证，具体跑分性能高达78563 IPS，是第二名（15012）5倍。
3 A3 u0 y3 w4 H8 Q. `3 r3 j" o8 K
能效比500 IPS/W，是第二名（150）3.3倍。
$ e3 w. u+ V/ s# v( }+ f
2 M' U! j* E1 I" R如此极致的性能与能耗比，是因为该自研架构穷尽所能的采用了多种密集压缩的计算、存储、数据复用、流水线等技术，能够使全部网络一次性装在在芯片上运转，并极大地增加了动态载入数据的有效利用率。

吃光最后一个比特的骨头，平头哥从不浪费。
$ W2 Y* M( u) X3 s1 T* }1 p: y
& a* E  D' ~1 n" ~# q! Z/ r以数据横向对比，含光800展现性能，是英伟达最新T4五倍，是应用最广的英伟达P4的46倍——超过去年设计之初吹下的“牛”。

, E" k' M2 N( @2 {* Y! e7 U' U1块平头哥NPU，相当于10块GPU的算力，平头哥虽小，以一当十。
3 k) p: [* Q8 G% n含光800，是以中天微为代表的10几年芯片研发经验，也是国内外引进的前两代芯片人的集大成呕心沥血之作。
/ O7 {0 K( ]2 B$ X; z4 z% A
更关键的是，阿里平头哥成立一年来，走过了软件架构（处理器IP、SoC平台）到硬件流片的完整流程，这为未来的芯片研发打下了坚实的基础。
5 Z* P# `; e  T" e- O. L: h9 s, `
这是真正领跑世界的技术实力，并且即将全面应用于世界三大云之一的阿里云，承载国内云基础设施的运算，承受阿里生态的实战检验。

" |% N& U, C* E% Q! `8 I( q4 A  G  M金融，支付，电商，物流骨干，云计算，都是算力消耗大户，而且对于稳定性有极高的要求。

, Z) s2 v) o0 |然后全面铺向市场，给世界一个更好的选择。

7 h) V2 Z& s  M1 s十年磨剑，而今一剑封喉。
2 ~8 ^  c: i# p% M: X5 Q% l8 M- l
8 H4 b' Z3 k# i7

, B0 x4 p9 Q) q: N# |
纵观当前的互联网世界，各种创新的商业模式，全新的交互操作，新奇的玩法层出不穷，大家在如何帮助用户更快速的Kill Time这件事情上投入了无比巨大的兴趣和精力。

无数聪明的脑袋都在聚焦于此，并创造了各种财务自由的神话。

但这在只是游轮上的表面繁荣，水下是技术垄断的冰山。

2 R- g% k9 F' {4 A4 J& l  A& A) @当前的很多互联网公司，说穿了很多时候只是应用层的繁荣，而不是底层基础技术的繁荣。
6 B9 J8 H9 w' J$ }! _! Z
, Y) o$ l8 e  `; W一旦底层技术和芯片出现问题，很多应用就没有了施展的空间。

- O* h/ x: D7 x" k/ Z# U9 a, u& E一个被断了电的游乐场，即使别出心裁设计出再多新奇有趣的项目，又有什么意义？

一个再强大的下棋高手，也只是基于棋的规则的最强者，一旦规则被改变，棋手一身精湛的棋艺就没有了发挥的余地。
- O, `3 U5 E9 D$ W/ B8 i. g
应用层是骑手，底层技术和芯片是棋盘规则的制定者。

失去应用，失去很多。
$ K% \! u9 O* V4 r
$ }) u) G. k. a4 ^1 M+ t" u失去底层，失去一切。
$ ]0 [; ~( F) s
' P2 _# ?+ ]- f很多号称自由的经济学家，通过各种论述试图说明自主研发芯片是一件ROI（投资回报）完全划不来的事情，而且我们当前落后别人多少年，很难赶超，所以干脆不要发展基础，只做应用就好，买对方的技术把。
7 g3 V4 F' N" c
这不止是怂，而且是鼠目寸光。

8 ]! u$ [( y$ {# n8 l一时之间赶不上，就不赶了么？

/ G1 e9 N7 G! P藏在自己的舒适区，把掌握命运的武器交到对方手里，尽全力配合对方的要求，祈求对方施舍技术给自己，然后祈祷对方永远不会动用技术优势来针对自己。
+ p3 D+ H( l5 o' ]. f7 F
何其愚蠢和懦弱。

天天想着造不如买的那些人，天真又可怜，读了这么多知识，但是忘了读历史。
3 h% y" e' Z! {. A7 a% o0 ~' g0 b
( r" D% Y! n" N. f纵观人类历史，哪里有什么公平正义？有的只是弱肉强食，历史由胜利者书写。

" @" Q5 i9 l* r, T哪有什么技术无国界？

如果非说技术无国界，那只是利益或者危机暂时没有达到这个警戒线而已，而非不存在。
0 d* ^+ l' c. S
' O" W) R, ?! Q3 A3 P( E* H1 p技术就是有国界，不要忘了我们是活在社会丛林中的。
9 d, a+ e# z8 H; t+ Q* Y; T
在丛林中把自己生存的命脉交给别人，不管在什么时代，都是找死。
7 q* F$ M" ?  c
真以为我们的崛起是靠什么西方贸易吗？
- B9 L- a: x5 C( f* l
我们靠的是几十年前两弹一星的前辈们拿命拼出来的底子，没有这个，什么操作都是白给。

现在轮到我们这辈人来继承前辈们的遗志披荆斩棘了。

从含光800，从5G，从云计算，从独立芯片，从独立生态开始，走自己的自主技术之路，虽然前路漫漫，道阻且长，但又有什么可怕的？还能比几十年前更难吗？ 再说难，有难的价值。 难的事情一旦做成，带来的收获才是更大的。 前辈们在那个年代那种客观条件下都能逆转命运，我们又什么理由后退？凭什么后退？ 吾辈当如平头哥。 耗尽自己的汗水与血泪，才有资格笑着对后人说这些事。 我们做到了，现在是你们的时代。


) P3 X, Z, n" |1 W1 s/ D% K
8 C5 X, j1 N  B你可能还想看：
6 N/ T/ W9 N4 X7 e# D; _6 N3 n8 K  P地球上最黑暗的秘密
中国互联网公司亏损能力排行榜
. A% }4 r: r2 _3 U. h9 H
9 x% a4 _) T0 M3 E; W8 Y清华大学教授吴国盛：一个丧失自由维度的民族和文化，不可能真正拥有科学精神

北大教授吐槽反人类设计！我们的城市建设，简直让人寸步难行！

在越南淘金的中国人
垃圾分类背后的数据和真相

未来50亿年科学预测
8 ?$ I, B( c' w

粉丝可添加论坛君微信

进入粉丝群

（添加时请备注简要个人信息，昵称+学生或某公司职位）

0 D& J5 f8 S& r& A$ `2 l2 J
, i4 ^( r2 s9 L3 ?% A2 J8 o# z
欢迎关注公众号：世界科技创新论坛（ID：bdqqcxlt），为您提供一手科技资讯、产业转型升级案例分析、新奇有趣的创意想法…… | 编辑：Sugar


来源：http://mp.weixin.qq.com/s?src=11&timestamp=1569418204&ver=1874&signature=b53Ap52kLkabh5jxaKJfeKTR2cOvN*1fKDDjIS*qF2hiGoBKt1yoZdmrqsMKJ650KJZkXtDmyFKnAwkf75oHYGX-BJTDFhyUmtP--TGzD8gD0DSrLIEu0Fj16HlGTLhg&new=1
7 C8 Y. p' \" M9 r1 k) d- @3 s, D免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！