首页 » 智能 » 英特尔首款AI芯片宣告:演习推理两用4年花费5亿刀买来4家公司_英特尔_芯片

英特尔首款AI芯片宣告:演习推理两用4年花费5亿刀买来4家公司_英特尔_芯片

乖囧猫 2024-08-29 17:10:01 0

扫一扫用手机浏览

文章目录 [+]

量子位 宣布 | "大众年夜众号 QbitAI

历时4年,壕购4家创业公司,花费超过5亿美元,终于发布第一款AI芯片

英特尔首款AI芯片宣告:演习推理两用4年花费5亿刀买来4家公司_英特尔_芯片 智能

这便是芯片半导体巨子英特尔,今日搞出的大新闻。

该AI芯片取名Nervana神经网络处理器(NNP)。
两个方向可用:NNP-T用于演习,NNP-I主打推理。

算力性能也有竞争力,但发布后惨遭网友神吐槽:分分钟搞出一个过期的芯片。

详细详情究竟如何?我们先看货、再评价。

英特尔首款AI芯片

神经网络演习处理器NNP-T中的“T”指Train,也便是说这款芯片用于AI推理,处理器代号为Spring Crest。

演习机器学习模型是开拓AI过程中计算量最大的部分,这部分包含大量的矩阵和矢量数学运算发生时,正是英特尔CPU能力欠缺的部分。

NNP-T将由英特尔的竞争对手台积电(TSMC)制造,采取16nm FF+工艺。

NNP-T有270万个16nm晶体管,硅片面积680平方毫米,60mmx60mm 2.5D封装,包含24个张量处理器组成的网格,核心频率最高可达1.1GHz,60MB片上存储器,4个8GB的HBM2-2000内存,它利用x16 PCIe 4接口,TDP为150~250W。

每个张量处理单元都有一个微掌握器,用于辅导是数学协处理器的运算,还可以通过定制的微掌握器指令进行扩展。

NNP-T支持3大主流机器学习框架:TensorFlow、PyTorch、PaddlePaddle,还支持C++ 深度学习软件库、编译器nGraph。

在算力方面,英特尔表示,这款芯片最高可以达到每秒119万亿次操作(119TOPS),但是英特尔并未透露是在INT8还是INT4上的算力。
作为比拟,英伟达Tesla T4在INT8上算力为130TOPS,在INT4上为260TOPS。

另一款是用于AI推理的芯片NNP-I,代号Spring Hill,它采取英特尔自己的10nm工艺,基于Ice Lake处理器。

对付这款芯片,英特尔主打的是其能效比,在数据中央推理事情负载中,它的效率达4.8TOPs/W,功率范围可以在10W到50W之间。

NNP-I接口为PCIe 4 x4/x8,如果说NNP-T从外不雅观上来看像显卡,那么NNP-I则像是一块SSD。
NNP-I的特点是集成了12个推理打算引擎(ICE)。

ICE由深度学习打算网格、可编程矢量处理器、高带宽内存接口、超大本地缓存几个部分组成,支持FP16、INT8、INT 4/2/1。

在ResNet50上,NNP-I在10W的功率水平上每秒可以完成3600次推理,每瓦每秒可以处理360张图片。

针对紧张数据中央推理事情负载,NNP-I能做到在很宽的功率范围内具有可扩展的性能、不影响能效比的高度可编程性,从而在单位功率上实现最佳性能。

NNP-I支持的深度学习软件有:ONNX,nGraph,OpenVINO,C++。

NNP-T、NNP-I这两款芯片都是用于数据中央。

英特尔副总裁、AI奇迹部卖力人Naveen Rao表示:

“数据中央和云打算须要访问高性能和可扩展的通用打算,以及繁芜AI运用程序的专用加速。
在未来的AI愿景中,须要采取从硬件到软件再到运用程序的整体方法。

英特尔NNP的发布,意味着企业在谷歌、英伟达的硬件之外又有了新的选项,AI硬件行业的竞争越来越激烈。

从英特尔的官方数据来看,NNP-I在推理上的速率已经超过英伟达Tesla P4的水平,虽然和V100仍有差距,但是已经缩小到50%以内,而不再是数量级上的差距。

不仅为了在硬件上取得打破,英特尔收购Nervana还有软件上的考量,Nervana这家公司有深度学习模型的Python软件Neon,还有一个全栈的AI云端平台Nervana Cloud。

多年积累

英特尔早已将AI芯片业务看作未来发展的大方向。

2018年,英特尔的AI芯片部门收入达10亿美元,英特尔估量这一市场还会以每年30%的速率增长,从2017年的25亿美元,到2022年增长至100亿美元。

而在AI芯片领域的排兵布阵,开始得更早。

为了在与英伟达、高通和AMD等公司的竞争中立于不败之地,英特尔这家半导体领域的巨子不仅每年投入上百亿美元的研发资金,还履行了不少颇具计策代价的收购操持。

2015年,英特尔收购了现场可编程门阵列(FPGA)制造商Altera,之后推出了基于FPGA的专用深度学习加速卡。

2016年,并购深度学习芯片公司Nervana Systems,补充其在硬件平台产品的空缺,并为全新一代AI加速器芯片组奠定了根本。
同时,Nervana的首席实行官兼联合创始人Naveen Rao也加入了英特尔,成为英特尔AI计策的总策划师。

同年,英特尔还收购了Movidius,这家公司专门为打算机视觉设计低功耗处理器芯片。

2018年,英特尔又将开拓AI模型套件的创业公司Vertex.ai收入囊中。

研发并购双头并进,于是早在2017年,英特尔就宣告其正在研发两款AI芯片,并在2018年1月的国际消费电子展(CES)新闻发布会上进一步详细先容了Nervana神经网络处理器(NNP-I)。

而在去年的英特尔人工智能开拓者大会(AI DevCon 2018)上,英特尔首次演示了开拓中的第一个商用神经网络处理器(NNP)产品Spring Crest,与初代NNP芯片Lake Crest比较,这款产品的演习性能提升了3-4倍。

英特尔副总裁、AI奇迹部卖力人Naveen Rao表示:

有超过50%的美国企业正在转向基于英特尔至强处理器的云办理方案,以知足他们在人工智能方面的需求,这肯定了包括英特尔至强处理器,英特尔Nervana和英特尔Movidius技能以及英特尔FPGA的方法,知足了人工智能事情负载的独特需求。

不久之前的百度AI开拓者大会上,Naveen Rao也亲临现场,宣告与百度携手打造用于演习AI的神经网络处理器。

又遭“挤牙膏”评价

一公布,英特尔就在推特上收成了数百赞。

面对英特尔在AI芯片领域的年夜志,有网友用表情包解释统统:

但也有网友并不买账:

只有英特尔能分分钟搞出一个过期的芯片。

由于NNP-T利用的是台积电的16nm工艺,而英伟达V100早已用上了12nm工艺,还没上市开卖就已经掉队,芯片核心面积上,V100也比NNP-T大20%旁边。

我只想问7nm CPU呢?

看来背上了“牙膏厂”名声的英特尔,想要挽回大众的信心,并没有那么随意马虎。

— 完 —

诚挚招聘

量子位正在招募编辑/,事情地点在北京中关村落。
期待有才华、有激情亲切的同学加入我们!
干系细节,请在量子位"大众号(QbitAI)对话界面,回答“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技能和产品新动态

相关文章

CAN接口异常分析指南_波形_波特率

CAN总线运用环境繁芜多样,可能会涌现各种非常情形。本文列举了常见的CAN接口非常情形及办理方法,帮您更加高效地剖析及办理CAN接...

智能 2024-12-26 阅读0 评论0

IT程序开发,技术创新驱动下的产业变革

随着互联网、大数据、人工智能等新兴技术的快速发展,IT行业已经成为推动我国经济社会发展的重要力量。作为IT行业的核心,程序开发在技...

智能 2024-12-26 阅读0 评论0

IT窍门,介绍高效工作与生活的秘密钥匙

在信息化时代,IT技术已经成为我们工作和生活中不可或缺的一部分。面对繁杂的IT应用和日新月异的技术变革,如何高效地运用IT工具,成...

智能 2024-12-26 阅读0 评论0

IT算法结构,介绍现代科技背后的逻辑密码

随着信息技术的飞速发展,算法在各个领域发挥着越来越重要的作用。从搜索引擎的排序到自动驾驶汽车的决策,从金融市场的风险管理到社交媒体...

智能 2024-12-26 阅读0 评论0

IT管理新时代,数字化转型与创新方法

随着信息技术的飞速发展,企业数字化转型已成为必然趋势。IT管理作为企业数字化转型的核心驱动力,肩负着保障企业信息安全和提高运营效率...

智能 2024-12-26 阅读0 评论0