量子位 宣布 | "大众年夜众号 QbitAI
历时4年,壕购4家创业公司,花费超过5亿美元,终于发布第一款AI芯片。
这便是芯片半导体巨子英特尔,今日搞出的大新闻。
该AI芯片取名Nervana神经网络处理器(NNP)。两个方向可用:NNP-T用于演习,NNP-I主打推理。
算力性能也有竞争力,但发布后惨遭网友神吐槽:分分钟搞出一个过期的芯片。
详细详情究竟如何?我们先看货、再评价。
英特尔首款AI芯片神经网络演习处理器NNP-T中的“T”指Train,也便是说这款芯片用于AI推理,处理器代号为Spring Crest。
演习机器学习模型是开拓AI过程中计算量最大的部分,这部分包含大量的矩阵和矢量数学运算发生时,正是英特尔CPU能力欠缺的部分。
NNP-T将由英特尔的竞争对手台积电(TSMC)制造,采取16nm FF+工艺。
NNP-T有270万个16nm晶体管,硅片面积680平方毫米,60mmx60mm 2.5D封装,包含24个张量处理器组成的网格,核心频率最高可达1.1GHz,60MB片上存储器,4个8GB的HBM2-2000内存,它利用x16 PCIe 4接口,TDP为150~250W。
每个张量处理单元都有一个微掌握器,用于辅导是数学协处理器的运算,还可以通过定制的微掌握器指令进行扩展。
NNP-T支持3大主流机器学习框架:TensorFlow、PyTorch、PaddlePaddle,还支持C++ 深度学习软件库、编译器nGraph。
在算力方面,英特尔表示,这款芯片最高可以达到每秒119万亿次操作(119TOPS),但是英特尔并未透露是在INT8还是INT4上的算力。作为比拟,英伟达Tesla T4在INT8上算力为130TOPS,在INT4上为260TOPS。
另一款是用于AI推理的芯片NNP-I,代号Spring Hill,它采取英特尔自己的10nm工艺,基于Ice Lake处理器。
对付这款芯片,英特尔主打的是其能效比,在数据中央推理事情负载中,它的效率达4.8TOPs/W,功率范围可以在10W到50W之间。
NNP-I接口为PCIe 4 x4/x8,如果说NNP-T从外不雅观上来看像显卡,那么NNP-I则像是一块SSD。NNP-I的特点是集成了12个推理打算引擎(ICE)。
ICE由深度学习打算网格、可编程矢量处理器、高带宽内存接口、超大本地缓存几个部分组成,支持FP16、INT8、INT 4/2/1。
在ResNet50上,NNP-I在10W的功率水平上每秒可以完成3600次推理,每瓦每秒可以处理360张图片。
针对紧张数据中央推理事情负载,NNP-I能做到在很宽的功率范围内具有可扩展的性能、不影响能效比的高度可编程性,从而在单位功率上实现最佳性能。
NNP-I支持的深度学习软件有:ONNX,nGraph,OpenVINO,C++。
NNP-T、NNP-I这两款芯片都是用于数据中央。
英特尔副总裁、AI奇迹部卖力人Naveen Rao表示:
“数据中央和云打算须要访问高性能和可扩展的通用打算,以及繁芜AI运用程序的专用加速。在未来的AI愿景中,须要采取从硬件到软件再到运用程序的整体方法。”
英特尔NNP的发布,意味着企业在谷歌、英伟达的硬件之外又有了新的选项,AI硬件行业的竞争越来越激烈。
从英特尔的官方数据来看,NNP-I在推理上的速率已经超过英伟达Tesla P4的水平,虽然和V100仍有差距,但是已经缩小到50%以内,而不再是数量级上的差距。
不仅为了在硬件上取得打破,英特尔收购Nervana还有软件上的考量,Nervana这家公司有深度学习模型的Python软件Neon,还有一个全栈的AI云端平台Nervana Cloud。
多年积累英特尔早已将AI芯片业务看作未来发展的大方向。
2018年,英特尔的AI芯片部门收入达10亿美元,英特尔估量这一市场还会以每年30%的速率增长,从2017年的25亿美元,到2022年增长至100亿美元。
而在AI芯片领域的排兵布阵,开始得更早。
为了在与英伟达、高通和AMD等公司的竞争中立于不败之地,英特尔这家半导体领域的巨子不仅每年投入上百亿美元的研发资金,还履行了不少颇具计策代价的收购操持。
2015年,英特尔收购了现场可编程门阵列(FPGA)制造商Altera,之后推出了基于FPGA的专用深度学习加速卡。
2016年,并购深度学习芯片公司Nervana Systems,补充其在硬件平台产品的空缺,并为全新一代AI加速器芯片组奠定了根本。同时,Nervana的首席实行官兼联合创始人Naveen Rao也加入了英特尔,成为英特尔AI计策的总策划师。
同年,英特尔还收购了Movidius,这家公司专门为打算机视觉设计低功耗处理器芯片。
2018年,英特尔又将开拓AI模型套件的创业公司Vertex.ai收入囊中。
研发并购双头并进,于是早在2017年,英特尔就宣告其正在研发两款AI芯片,并在2018年1月的国际消费电子展(CES)新闻发布会上进一步详细先容了Nervana神经网络处理器(NNP-I)。
而在去年的英特尔人工智能开拓者大会(AI DevCon 2018)上,英特尔首次演示了开拓中的第一个商用神经网络处理器(NNP)产品Spring Crest,与初代NNP芯片Lake Crest比较,这款产品的演习性能提升了3-4倍。
英特尔副总裁、AI奇迹部卖力人Naveen Rao表示:
有超过50%的美国企业正在转向基于英特尔至强处理器的云办理方案,以知足他们在人工智能方面的需求,这肯定了包括英特尔至强处理器,英特尔Nervana和英特尔Movidius技能以及英特尔FPGA的方法,知足了人工智能事情负载的独特需求。
不久之前的百度AI开拓者大会上,Naveen Rao也亲临现场,宣告与百度携手打造用于演习AI的神经网络处理器。
又遭“挤牙膏”评价一公布,英特尔就在推特上收成了数百赞。
面对英特尔在AI芯片领域的年夜志,有网友用表情包解释统统:
但也有网友并不买账:
只有英特尔能分分钟搞出一个过期的芯片。
由于NNP-T利用的是台积电的16nm工艺,而英伟达V100早已用上了12nm工艺,还没上市开卖就已经掉队,芯片核心面积上,V100也比NNP-T大20%旁边。
我只想问7nm CPU呢?
看来背上了“牙膏厂”名声的英特尔,想要挽回大众的信心,并没有那么随意马虎。
— 完 —
诚挚招聘
量子位正在招募编辑/,事情地点在北京中关村落。期待有才华、有激情亲切的同学加入我们!
干系细节,请在量子位"大众号(QbitAI)对话界面,回答“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技能和产品新动态