2019年，海内AI芯片玩家正环绕落地展开新一轮的冲刺。
一边是华为、百度、阿里等科技巨子和几家独角兽轮番秀出云端AI芯片新进展，另一边聚焦于边缘与终真个多家AI芯片创企陆续登场，揭开其第一代或者最新一代芯片的神秘面纱。
与此同时，人们评判AI芯片的标准，也由看算力、功耗等硬指标，转向看量产规模、看客户、看生态。
这不，海内AI芯片落地的排头兵地平线，刚刚亮出新剑！
本日上午，地平线推出第二代边缘AI芯片朝阳二代和一站式全场景边缘AI芯片办理方案。其芯片等效算力达4Tops，范例功耗为2W，算力利用率超过90%，如果合营高效算法，在同等TOPS下可处理的帧数比GPU的10倍还多。
据悉，朝阳一代已做事数百家客户，营收数亿，交付数十万套方案。
在此之前，地平线已经创造了多个记录：中国第一家AI芯片创企、发布中国首款边缘AI芯片、征程芯片上岸美国助力国际顶尖Robotaxi车队、朝阳一代落地首年环球出货量达六位数、发布中国首款车规级AI芯片。今年3月，地平线宣告完成B轮6亿美元融资，估值达30亿美元，成为环球估值最高的AI芯片独角兽。
经由4年的积累，地平线在AIoT领域已经形成一套独特的打法。除了推出新品之外，今日地平线还聚焦于其AIoT产品的整体布局，展示其在芯片、整体方案、开放生态体系、落地能力等方面的核心上风，并公布其AIoT系列芯片的路线图。
AIoT时期面临哪些核心寻衅？为什么今年AI芯片企业的势头有所衰减？如何在碎片化的AIoT市场中构筑竞争壁垒？会后，地平线联合创始人、技能副总裁黄畅，地平线副总裁、智能物联芯片方案产品线总经理张永谦，接管智东西等媒体的采访，就这些问题逐一分享了他们的见地。
一、朝阳二代：算力达4Tops，算力利用率超90%朝阳二代边缘AI芯片（以下简称“朝阳二代”）面向智能物联网，具备强大的视频构造化能力，可对多类目标进行履行检测和精准识别，今年3月已完成流片，靠近量产阶段。
该芯片采取台积电28nm工艺，面积不过14mm x 14mm，内置双核A53处理器和两个基于地平线第二代BPU架构（伯努利架构）的BPU。
BPU架构由地平线基于AI算法实际场景需求设计而成，以最大程度提升算力的有效利用率，同时保障芯片的前瞻性、迭代延续性。
朝阳二代的等效算力达4Tops，范例功耗为2W，单路可实时处理4K@30fps，4路可实时处理1080P@30fps。地平线联合创始人、技能副总裁黄畅强调说，该芯片范例算法模型算力利用率超过90%，这在业界险些是绝无仅有的。
如果合营高效算法，每TOPS算力可处理的帧数将高于标称4Tops算力的AI芯片，比同等算力GPU处理帧数的10倍还多。
在朝阳二代上的实际测试结果表明，分类模型 MobileNet V2的运行速率超过每秒700张图片，检测模型Yolo V3的运行速率超过每秒40张图片。
针对物联网场景下的紧张目标群体“人”和“车”，朝阳二代进行了大量的算法优化，在边缘端即可实现全视频构造化能力，可高效灵巧地处理多类AI任务，包括10～30万人前端识别，密集人群时空属性行为剖析，多种非机动车、机动车检测分类。
前期客户验证表明，朝阳二代可完备知足商业、办公、社区、园区、教诲等物联网场景需求。
以通畅门禁考勤方案为例，相较朝阳一代，朝阳二代芯片方案可将最大人脸库容从最快200ms提升至100ms，并由原来只支持安卓系统进化为支持安卓/Linux系统。
目前，朝阳二代支持MXNet和TensorFlow框架，估量明年年初支持PyTorch。
黄畅向智东西先容，地平线环绕其核心BPU定义一套自己的指令集，随着指令集的扩充，未来朝阳芯片还将支持更多框架。
现场黄畅还透露了朝阳系列芯片的路线图，朝阳三代将于大约一年后推出，作为完全SoC方案，供应多种算力配置和多Camera输入支持，更好地整合多路的视频接入、视频处理、ISP、视频编辑码压缩等技能。
▲朝阳系列芯片Roadmap
二、解读地平线AIoT五大上风比较传统芯片大厂，地平线拥有更加开放的生态体系，落地能力也更加灵巧高效，能大幅提升开拓效率，并确保客户投资安全性。
总体来看，地平线AIoT有五方面的上风。
1、软硬协同输出极致效能
地平线率先提出，将天下领先的深度学习算法集成在自主研发的边缘AI处理器及平台上，通过软硬协同的办法将发挥效能上风发挥到极致。
经典芯片性能评估办法是PPA（功耗Power、性能Performance、面积Area），AI芯片真实性能常用Tops/W与Tops来呈现。
而黄畅认为，此类评估办法并不完备准确，AI芯片的真实性能应是能效、利用率、算法能力的乘积。这意味着不仅要对芯片和算法进行优化，还要对连接两者的编译器等中间环节进行优化，终极达成全面的优化。
以编译器优化所带来的利用率提升为例，即便有架构自动优化，有编译器比较没编译器的情形，单帧带宽花费可从每帧141.9MB降到每帧34.4MB，单帧打算延迟可从43.77毫秒降到25.1毫秒，而打算资源利用率可从57%提升到95%。
黄畅先容说，地平线充分考虑到未来主要运用处景的关键算法的打算特性，对趋势进行预判，前瞻性地将打算特点融入到打算架构设计中，使AI芯片随着芯片演进趋势，能始终保持相称高的有效利用率，从而真正意义上受益于算法创新带来的上风。
2、完全的方案能力
地平线拥有丰富的算法样例模型，能够为客户供应以芯片+算法+工具链为核心的完全方案，知足多样化场景需求。
地平线供应完全开放的朝阳芯片办理方案及“天工开物”芯片工具链，包括丰富的模型和运用示例、可视化性能剖析工具、可快速上手的BPU API、高度灵巧的HR Runtime API和Platform API，供客户根据需求选择。
这些工具链可供应可视化调试调优工具，帮忙开拓者快速剖析定位问题，还供应丰富的例子、文档，支持客户快速产品落地。
3、开放的生态体系
基于边缘AI芯片，地平线致力于打造一个多层次、多维度、多样性的开放生态体系。
▲地平线开放赋能生态体系
在家当链赋能方面，地平线坚持底层技能能力研发，加速普惠AI时期到来；在开拓者生态方面， 地平线通过工具链做事降落开拓者门槛，助力上层运用产生，以此丰富全体AIoT运用生态。
此外， 地平线也正通过与行业开放社区互助的形式降落开拓者门槛，比如地平线加入96Boards社区，并在前段韶光，推出基于96Boards SOM规范的边缘AI开拓套件BOOTPRINT X2，该套件具有高算力、高效能、感知接口丰富、可扩展的特点。
4、落地能力比同类型产品更灵巧高效
地平线主打软硬协同，其芯片具有高MAC利用率，实际任务处理表现更好。
其芯片方案支持新模型优化，如 MobileNet、Faster RCNN。同等算力下，X2 在MobileNetV2之类的新模型上，比海思高端芯片（4Tops 算力）有更好的表现，实际性能更强，且功耗、本钱更低。
其余，海思只支持Caffe，而地平线还支持更主流的演习框架TensorFlow。比如科达选择地平线很大程度上源于朝阳二代芯片支持TensorFlow。
5、在设备投入和运维上降落本钱
得益于边缘打算具有高度可靠、实时处理、灵巧支配等特性，地平线可在两方面帮助客户降落本钱。
一是设备投入，无需购置大型做事器或占用较大宽带网络。
二是设备运维，进行日常掩护，更新迭代方便。
三、一站式全场景边缘AI芯片办理方案随后，地平线副总裁、智能物联芯片方案产品线总经理张永谦发布朝阳二代AI芯片及办理方案Horizon Hero，包括三类边缘AI芯片办理方案：地平线HeroSights智能摄像机办理方案、地平线HeroSpark通畅门禁考勤方案、地平线HeroStream智能剖析盒办理方案。
张永谦提到，AIoT产品化存在五点寻衅：
（1）开拓多种形态AI产品，知足不同场景需求；
（2）最好的智能与图像场景效果；
（3）快速开拓上层智能运用；
（4）快速完成硬件设计；
（5）快速完成系统级整合。
针对这些寻衅，地平线将办理方案从芯片、根本算法上推，使得客户可以更快、以更小投入、最低本钱去快速完成产品化。相较于市场上的AI方案，Hero在以下方面拥有明显的落地上风：
1、边缘打算：本地端即可完成打算，数据无需上传到云端；
2、软硬结合：算法与芯片协同优化，使方案兼具高性能、低功耗特点；
3、端边结合：方案覆盖智能摄像机，面板机以及智能剖析盒；
4、全场景一站式方案：完全办理方案支持客户快速运用开拓和量产。
图像搭配语音，从像素级感知到时空语义建模，以“人”为本的Horizon Hero AI全场景能力集的全场景能力正在快速形成。
软件方面，地平线有非常强大的智能算法团队，供应了从最底层像素级的、最根本的原子的智能化处理，到语音识别、身份识别、人体属性剖析，再到对人体感知时空的剖析，有一整套完全的算法能力集。
针对客户不同的运用，地平线在算法凑集的根本之上，还供应算法策略能力集，以缩短产品开拓韶光。
为了使客户能够快速地开拓运用，地平线打造了端边一体AI嵌入式软件架构，只要在真个模块上加上算法配置和通道管理模块，就可以迅速形成边缘侧的软件架构。
其软件框架跨OS、AI全场景、模块化组件开拓框架既支持安卓，也支持Linux，客户可在常用的几类端设备和边缘设备上快速集成他们的运用，这些运用也都具有很强的可复制性、可迁移性。
硬件方面，地平线供应完全硬件交付与参考设计，包括芯片、套件以及标准主板，同时地平线也供应完全的事理图和PCB Layout的设计。
地平线的芯片既单独向外发卖，也通过整体办理方案的办法对外供给。如果客户想选择更熟习的元器件，地平线也可以帮助他们在元器件上做整合和集成。
地平线还会供应整机警能效果集成支撑能力，包括模块化参考设计、构造与散热设计、原型机重现等。
这是由于光有核心设计仍不足，整体方案的效果还与光照、间隔等外部成分有关，针对不同场景，地平线会供应多套不同的产品设计，并为客户集成各种他们须要的模块。
目前，地平线面向安然城市、聪慧社区、聪慧办公、聪慧园区、聪慧校园、聪慧商业等六大行业供应办理方案。
四、数百家互助伙伴，营收数亿据张永谦先容，截至目前，朝阳一代芯片已做事数百家客户，营收数亿，交付数十万套方案，实现线了局景做事数千万人口。
▲地平线在 AIoT 领域部分可公开互助伙伴
在地平线商业化加速过程中，有商米、多度、小米、永辉等许多优质客户落地案例。
聪慧零售方面，基于地平线针对零售场景的AIoT芯片办理方案，商米推出了AI识客摄像机，可在本地端主动识别进店顾客并进行丰富的属性鉴别，办理商家“看店难”问题，助力精准营销。
聪慧社区方面，基于“AI芯片+算法”的一站式AIoT办理方案，地平线与多度联合打造了聪慧社区AI智能产品及办理方案。
除了视觉外，地平线在语音领域也有颇多建树，能供应包含麦克风阵列、旗子暗记处理、唤醒、语义理解、语音识别、语音合成的全链路办理方案。其语音方案在海内已拿下多个大单。
例如，智能家居方面，地平线为小米一系列语音交互智能设备，供应自主研发的增强语音抽取（Enhanced Speech Extraction，简称 ESE）方案，使得小米音箱在繁芜的噪声环境中亦可实现随时打断、随时唤醒，交互体验更为精准、流畅。
地平线的方案将各个环节算法和芯片架构充分结合，通过端云结合，能在端侧更好地办理繁芜场景中的语音处理问题。黄畅相信，很快地平线就可以在端上，拿出一个和做事器能够做到的性能相媲美的整套云链路，并将进一步在语音处理与视觉领悟上发力。
五、AIoT应关注两个闭环，拼落地须要综合打法会后，地平线联合创始人、副总裁黄畅，地平线副总裁、智能物联芯片方案产品线总经理张永谦，接管智东西等媒体的采访。
▲地平线副总裁、智能物联芯片方案产品线总经理张永谦（左），地平线联合创始人、副总裁黄畅（右）
在采访期间，黄畅和张永谦还多次强调，地平线不是纯挚的芯片公司，而是通过“芯片+算法”的模式以挖掘更好的性能。比较其他方案，朝阳二代芯片全体办理方案的代价最大化在于软件，芯片是技能能力中的主要基石，而在AIoT长尾运用领域的核心本钱也是算法。
1、AIoT面临的两大寻衅
谈及AIoT的寻衅，黄畅认为，我们该当关注两个闭环，一是业务闭环，二是数据闭环。
在AIoT领域赋能传统行业时，很多困境来自缺少开放性，对自我认知不敷，对边界剖断不清晰，导致各方无法专注于自身核心能力的打造。如果不能有效地构成业务闭环，就无法让信息进行流动联通。
数据闭环的难处来自于跨行业。传统行业每每很难将与业务场景强干系的数据分享出来，因此对付地平线这样关注根本AI能力培植的公司来说，能否持续去获取真实场景中的数据，经由不断迭代形成一个感知平台，广泛赋能各个业务场景中的一些根本AI任务，这个能力本身也非常主要。
2、真正落地须要一套综合打法
其余，今年的安防展中，AI芯片厂商身影彷佛要比往年少。对付这一征象，黄畅并不以为奇怪。
在他看来，AI芯片间隔真正商业化落地还很迢遥，过去两年，海内呈现一批造芯热潮，但个中一部分处于PPT造芯，自然今年的声势会弱下去。如今大家更看重落地，地平线也是如此，并不仅仅关注布局一个更加开放的边缘AI打算平台，同时也非常关注面向垂直领域的一站式办理方案。
要做到真正落地须要一套综合打法，是个动态切换、调度的过程。在这个过程中，地平线始终保持较为灵巧的姿态和开放的态度，和家当界进行充分互助，根据客户需求进行自我调度。
黄畅表示，相信环绕地平线的核心能力，他们能够去创造代价、提高效率，从而反过来去证明自己共性的代价。
3、多种感知领悟成提升交互体验的新趋势
既然自动驾驶AI芯片和视觉AIoT芯片都已推出第二代，那么地平线是否有涉足语音AI芯片的操持？
对此，黄畅见告智东西，初期地平线曾考虑过这一问题，后来创造传统语音终端芯片中，现有的DSP 、Arm CPU等模块已经足够好，如果延续传统的语音算法，不认为自研处理器会有上风。
地平线看到的契机是通过更高的算力去显著提升语音交互的体验，通过不断将语音算法放到新架构上，从算法层面上加以改进。其余近几年呈现多种感知算法相互借鉴领悟的趋势，其语音与图像的运算、处理的办法越来越趋同。
结语：从地平线看AIoT芯片落地三趋势人工智能和机器学习的爆发，给边缘打算带来了巨大的机会。而地平线选择的自动驾驶和AIoT两条主线，前者被公认为代表人们出行的未来，后者更是广泛运用于人们生活的方方面面。
如今已进入AIoT芯片拼落地的时期，从地平线身上，我们可以看到当前AIoT芯片发展的几个趋势：
1、单芯片性能不再是唯一指标，软件成提升性能的关键手段，通过软硬协同终极带来整体性能提升。
2、芯片开拓的易用性更受重视，打造芯片的同时，也通过搭配工具链等办法降落开拓门槛。
3、AIoT芯片正走出只秀性能的固有模式，开始同落地紧密结合，供应更方便易用的一站式办理方案。
而这些趋势指向的同一目标，都是尽可能最大程度地方便开拓者及企业的需求，通过供应更加开放的赋能做事，吸引更多互助伙伴，为自身生态培植奠定根本。
