相同问题在边缘端AI芯片中也存在。因此，为了能够更直不雅观地展现芯片性能，云天励飞在2019深圳高交会期间发布首款5AIoT芯片Deepeye1000时从AI芯片最关键的性能、带宽、本钱与海思NNIE进行了比拟.结果显示，Deepeye1000均匀性能提升了10倍，均匀带宽降落40%，均匀本钱降落60%。
不过，云天励飞并不是想证明其AI芯片业界最强，更关键的是Deepeye1000是云天励飞芯片即做事的一个主要节点。
AI性能全面超越海思NNIE
NNIE（Neural Network Inference Engine ）是海思媒体SoC 中专门针对神经网络特殊是深度学习卷积神经网络进行加速处理的硬件单元。云天励飞之以是选择比拟NNIE，道理与云端AI芯片比拟英伟达GPU一个道理，用更直不雅观的办法展现其DeepEye1000的AI能力。而之以是选择海思，是由于在视频监控芯片领域处于领导地位，用这样的比拟能够更直不雅观地解释DeepEye1000在AI视觉领域以及边缘打算中的能力。
云天励飞董事长兼CEO陈宁在发布会上先容，我们的第一代芯片叫做初芯，经历了三年的奋战终极推出。功夫不负有心人，DeepEye1000流片回来一个星期就跑通了人像识别、人脸识别的全链路算法，一个月后就亮相了去年的高交会，并且跑通了完全业务的Demo，两个月的韶光跑通了100万人像的4K以及基于4K的200个人像抓拍和识别的全功能。
云天励飞董事长兼CEO陈宁
据悉，云天初芯DeepEye1000专注边缘和端侧视觉运用，采取22nm工艺，基于多核异构并行打算架构设计，内置四核神经网络处理器，可支持INT16 / INT12 / INT8稠浊精度量化数据，采取存算领悟体系架构和可重构打算阵列，可以灵巧、高效的实行各种深度学习算法模型的推理打算，峰值算力达2.0Tops。
个中，DeepEye1000神经网络处理器由云天励飞自主研发，深度定制指令集，定制指令多达160条以上，支持主流神经网络模型。神经网络处理器采取可重构打算阵列，支持灵巧可编程打算流，打算效率超过99%，同时采取存算领悟体系架构，使得DDR存储访问带宽低落77%，功耗低落60%。
CPU采取RISC-V指令集的平头哥玄铁810，事情频率达到1.2GHz，双发射10级流水线，性能高于2.5 DMIPS/MHz。还集成了双核视觉DSP处理器，内置硬件加速运算子ACC，支持超过20个高效算子，每秒可跟踪1200张人脸。其余，还支持H.264和H.265解码，可支持4K@30fps视频、4路高清视频并行的实时剖析。
关注AI芯片的人都知道，海内清微智能的芯片也采取的可重构的架构，两者是否相同？云天励飞副总裁 芯片产品线卖力人李爱军接管雷锋网采访时表示，云天的实现办法是从PE的维度进行可重构，可以理解为是运算单元的可重构，通过工具链实现芯片的灵巧性。因此，采取的办法和维度会有所不同，但终极的效果该当是异曲同工。
这种灵巧性是否能够知足所有场景的需求？李爱军表示，在我们覆盖的场景里，能够知足客户超过90%的需求。
不过，AI芯片除了要找到灵巧性和性能的平衡点，还须要办理卷积打算带来的高带宽寻衅。对此，云天励飞是通过构造的设计，并且合营软件工具链，只管即便提高数据的复用程度。更近一步，李爱军表示，通过软硬协同，AI算法映射到我们的神经网络处理器时，CI和CO我们做的非常好，这样就可以实现很高的并行度，并且，我们的架构设计还能实现多核之间参数和数据的复用。
终极，Deepeye1000实现了在AI算法和算力相同的情形下，比NNIE均匀能够节省40%的带宽。雷锋网理解到，Deepeye1000采取的是云天励飞自主研发的第二代神经网络架构，第一代架构由于AI市场的快速发展以及需求还不足巨大等缘故原由，只是通过FPGA进行了商用，并没有流片量产。
AI芯片的指标该当是有效算力
AI芯片的峰值性能并不代表其实际能力，在实际运用中的均匀算力对付才更有参考代价。须要指出，云天励飞给出的Deepeye1000比拟NNIE的10倍均匀性能提升并非峰值性能而是算法实行性能IPS（Images Per Second Per 1Tops）。
陈宁表示，在人工智能时期，我们更加关注的是面向场景的有效算力，由于人工智能本日还处于非常早期的阶段，还没有进入通用人工智能时期，更不存在通用的AI芯片。有效算力=算力X效率XAI性能，对应的便是芯片、工具链以及算法运用。
云天励飞供应的芯片工具链是DETVM，具有5大特性，分别是高可用、全自动、高性能、可编程、完备性。这个中值得关注的是这个工具链兼容TVM开源生态，由于大部分AI芯片供应商更多的是在强调其芯片的性能以及工具链的高效易用性，但大都没有兼容开源生态。
“我们认为，AI之以是能发展这么快，与开源有着密不可分的关系。云天励飞选择开源社区，是希望能促进神经网络处理器硬件的快速发展。”李爱军表示。
DETVM对付开源社区的意义在于，云天励飞基于TVM，打通了CPU、DSP、NNP，一个统一的软件框架把这些架构整合起来，不须要再去面对DSP繁芜的编程，并且遵照接口标准就能够很随意马虎的集本钱身设计的深度学习加速器。
至于更上层的算法，李爱军表示，“如果用传统的芯片和算法由不同的公司来做的方法，芯片的效率将会大打折扣，因此云天励飞是面向场景做协同设计和协同事情，为的便是让AI的效果能够达到预期。其余，算法公司要将算法移植到一个平台上，必须经历平台的学习韶光，这可能须要花费半年乃至一年的韶光。”
据理解，为了加速开拓者的进度，云天励飞不仅已经能够供应合营芯片的硬件模组，还供应算法共享平台ARCTERN，这个平台自带100种以上的算法，与Deepeye1000高度适配。并且这些算法还支持Android、Linux，它是一个非常开放的SDK。
基于云天励飞发布的芯片，他们还发布了芯片即做事-人工智能“星云”生态计策，与海康威视、优必选科技、深圳超算中央、阿里巴巴平头哥、TCL、京东、深圳巴士集团、迈德威视等8家首批互助伙伴，共同开启“星云”生态，加速AI向家当渗透。
双11开放AI生态操持
不过，云天励飞还有更远大的目标。云天励飞首席科学家王孝宇提出了“双11开放AI生态操持”，他表示，云天励飞过去5年投入1亿美金的研发成果，将共享给互助伙伴，致力于帮助互助伙伴办理AI开拓周期长、投入大的问题，“我们将本着降落AI门槛的目标，为互助伙伴供应‘双11’的AI开拓能力，也便是说，我们将帮助互助伙伴在1周完成硬件、1周适配算法、1周对接手事，终极在1个月内完成AI能力的从无到有。”
云天励飞首席科学家王孝宇
王孝宇认为，AI大大规模运用有三个门槛，第一个是芯片本钱太高，一块GPU就须要几千美金，二是算法须要投入大量的人力，三是云做事须要大数据人才。
可以看到，云天励飞将AI芯片的本钱从几千美金降落到了10美金，且芯片功耗更低算力也足够知足边缘运用需求，还供应了ARCTERN算法共享平台。但还短缺云做事，因此，云天励飞开拓了云做事平台商簿Vesionbook，商簿家族由1 个大脑-AI数字阛阓大脑和1 个平台-AI Campus场景管理平台构成，支持30种以上的业务场景。紧张的事情便是完成从终端到云真个业务标准化。云天励飞把准化的协议叫做SIK（Service Integration Kit），通过几条指令就可以和云端通信，不须要再去开拓。
王孝宇补充表示，如果客户的业务场景没有包含在这30种当中，还可以通过Open API构建自己开拓定制化的场景。
既然场景定义定制，算法是否也可以定制？“我们和深圳超算联合发布一套系统AIOS，它是无门槛一站式算法研发平台，点击鼠标点击就可以完成AI算法的研发，不仅可以把AI算法研发的本钱从几百万降到一万以下，还能把算法的研发周期降到一个月。” 王孝宇先容。
AI运用零门槛
从芯片到工具链，从算法到场景，从芯片即做事到双11开放AI生态操持。云天励飞的更远大的目标是让AI运用零门槛。这个目标是可实现的吗？雷锋网认为云天励飞选择的路径值得期待。成立于2014年的云天励飞首先用过两年韶光打造了环球第一套动态人像识别系统，而后迅速家当化落地。如今云天励飞的视觉大脑在北京、上海、深圳、杭州等近100个城市都有家当化的落地，覆盖了机场、地铁、社区、大型商超、火车站等聪慧城市的生活场景，也做事了G20、APEC、港珠澳大桥等一系列主要会媾和主要工程。
人像识别系统更多的让云天励飞深刻地理解了AI落地的场景，积累了算法能力，并且基于对场景和算法的理解开始芯片的自主研发。积累五年之后，以系统公司的办法为市场供应全栈的办理方案，这样的能力既能够做事有场景但是没有技能积累的公司，也能够做事有算法但没有芯片的公司，通过全面、多样的产品最大程度降落AI的落地门槛，可以看到，云天励飞在智能安防以及新商业领域取得了不错的成绩。
为知足更多场景的需求并且供应稳定的打算平台，李爱军透露云天励飞的芯片将保持一年到一年半更新一代的速率，下一款AI芯片估量将会在2021年上半年推出。目前，Deepeye1000芯片选用的工艺能够知足工业市场的需求，未来也会运用在ADAS。
更长远的未来，云天励飞也可能会推出云端AI芯片。
云天励飞副总裁 芯片产品线卖力人李爱军
这样的实力也是云天励飞能够成为唯一一家企业能够承担科技创新2030“新一代人工智能”重大项目的关键。云天励飞还得到了国家科技部、发改委、工信部三大部委人工智能芯片重大项目“大满贯”！
雷锋网小结
站在5G商用的元年，5G和AI将会带来许多意想不到的运用，但可以遇见的是新的运用将会对芯片的算力提出更高的哀求，而更主要的是能够更加随意马虎的落地。云天励飞Deepeye1000 AI芯片的推出，只是其全栈办理方案中核心的一部分，基于这个核心的能力，云天励飞可以构建具有足够竞争力的AI办理方案，我们也期待AI运用零门槛的目标早日实现。
