随着AI芯片进入深水区，人们更关注的不再是纯挚的算力，还有对运用落地和商业化的支持：进入了哪些场景？互助了哪些客户？有没有软硬一体化方案？是否已经有实际案例？……“AI落地难”已成行业共识，浮华过后，AI芯片接下来将进入市场考验真理的阶段。
AI芯片为何落地难？
首先，我们来看下当前AI芯片的格局。目前市情上AI芯片紧张分为云端AI芯片与终端AI 芯片，云端AI芯片紧张支配在大型做事器中，可支持图像、语音平分歧类别的AI 运用；终端芯片则被放在音箱、摄像头等硬件设备中。由于云端芯片起步较早，且所须要协同的CPU/GPU等硬件本钱投入规模高，该领域已被英伟达、Intel等巨子瓜分殆尽；海内一众AI从业者大多选择发力在终端芯片领域，如自动驾驶、安防、零售、智能硬件等。但AI芯片终端市场细分解、碎片化、运用处景不明确也是一大难题。
至于AI芯片落地难的缘故原由可能有无数个。例如，芯片研发比AI措辞的更迭速率慢，当芯片面市时，其采取的AI措辞可能已经由时了。这种问题首先表示在量产，但归根结底，缺少杀手级运用处景才是最致命的。AI芯片厂商高投入研发过后，却不知道自己的产品要卖给哪些客户或者说运用到哪些产品上，无法找到可持续性的落地场景。
地平线的联合创始人兼副总裁黄畅表示，缺少杀手级运用使得现有的AI芯片大多没有清晰的定位，无法高度优化PPA。做半导体的都知道PPA有多么主要，尤其是Performance。AI芯片须要针对运用处景进行设计，以此来辅导研发调度优化方向，勾引客户进行精确选择，同时能够促进行业有序协同向前发展。
再者，用户接管度也不高，AI运用所须要的数据闭环难以形成。须要明确的是，AI运用开拓模式与传统软件开拓流程不同，传统软件开拓可清晰定义功能，通过编程就能实现；而AI运用则要通过示例（数据）来定义功能再进行开拓，须要形成数据闭环，且自动迭代。
“AI是一个全新领域，AI芯片须要支撑的不仅是AI打算，更要面向场景，实现完全的功能。芯片公司多年的积累不是紧张抵牾，其紧张抵牾是如何将软硬件结合起来，开拓出一个高效能、低功耗、低本钱，同时能够又快又准的完成自主机器人的任务。AI芯片的成功不止于将ISP调的好，能够看清楚；也不是将传统的语音算法做的更精进，更不是说一个传统的车规芯片公司把CPU和DSP升级成一个NPU，AI芯片没有那么大略。”黄畅如是说。
在纷繁繁芜的碎片化终端市场中，最须要什么样的AI芯片？黄畅认为：“须要的是能极致优化PPA的AI芯片，这个PPA的提升需是数量级的，要能适应未来数年的算法演进，同时充分考虑算法发展，从而能真正替代GPU。”
但黄畅也见告半导体行业不雅观察，目前AI芯片也有其可取之处，例如，大多数AI芯片的工具链都能对场景深度学习框架有比较好的支持，也培养了一些开拓者，在开拓本钱上有一定的降落，减少了对付Cuda之类的编程生态的依赖。
谁来定义AI芯片的“好坏”？
都说AI芯片难落地，客户难评判，那么一款AI芯片的“好坏”究竟如何来评估呢？是TFLOPS？是TOPS？还是MLPerf？AI芯片界彷佛依然没能找到完美表示真实性能的衡量标准。
为何这么说？目前业界惯常利用的芯片评测标准有两种，一是峰值算力，但这只反响AI芯片理论上的最大打算能力，而非在实际AI运用处景中的处理能力，具有很大的局限性；二是目前行业较为有名的基准测试组织MLPerf，但其采取的模型少且更新速率滞后于算法演进的速率，无法及时反响算法效率的提升以及各种精度下芯片能够达到的打算速率，因而无法描述芯片AI性能的全貌。
针对当前AI芯片评测中存在的问题，地平线提出MAPS（Mean Accuracy-guaranteed Processing Speed）评测方法，针对运用处景的特点，在精度有保障的条件下，原谅所有与算法干系的选择，评估芯片对数据的均匀处理速率。为行业供应一个评估芯片AI性能的全新视角。
“评估芯片AI性能，实质上该当关注做AI任务的速率和精度，即‘多快’和‘多准’。”
黄畅先容说：“MAPS评测方法，能关注真实的用户代价，将每颗芯片在‘快’和‘准’这两个关键维度上的取舍变革直不雅观地展现出来，并在合理的精度范围内，评估芯片的均匀处理速率。这个方法具有可视化和可量化的特点。”
MAPS 聚焦“快”和“准”两个关键评测维度，用最优帧率精度所围面积直接表示 AI 芯片的最强能力
按照黄畅的说法，这个全新的MAPS评估办法对行业来说有六大创新之处：
第一，它将芯片的Benchmark通过图形变得可视化，表达更精准；
第二，该办法关注真实、面向结果的需求，只在乎精度和速率，不在乎中间任何关于算法的取舍和选择；
第三，可以统一表示精度与速率，关注主流精度区间；
第四，隐蔽与终极结果无关的中间变量，包括模型、输入大小、批处理的量是多大；
第五，通过MAPS评估方法可以在算力之外帮助用户理解这个芯片到底能跑多快以及多好；
第六，留有最大的空间勾引客户利用最优的办法利用某一颗芯片，这一点非常主要，是去真正辅导客户利用这个芯片的最佳实践。
芯片是个生态系统，单独依赖一家之力是玩不转的。地平线的MAPS评估标准最主要的意义是让行业能够形成一种协力，让大家更好的协同，不管你是买方还是卖方，大家都有一个相对清晰的目标，随意马虎形成共识、形成协力，这样才好康健地去推动全体行业往前发展。黄畅表示。
AI芯片花开两朵：“朝阳”东升，“征程”万里
有了好的评估标准之后，AI家当向好，经历过大风大浪的AI芯片，终极将落在哪些场景中呢？作为一家以“为客户供应的智能化代价”的人工智能公司，地平线将其AI芯片的种子洒向了AIoT和自动驾驶航道，花开两朵，同心旭日。
“做AI芯片须要企业有很强的洞察力，要在三五年前找到落脚点，以创造真实的代价为导向，本着长期主义的精神坚持不懈的走下去。”黄畅谈到。
自动驾驶被看作是AI芯片的杀手级运用的潜力市场，近年来伴随智能驾驶渗透率的提升，环球芯片巨子也在纷纭向汽车这个家当靠拢。汽车AI芯片市场未来仍是各大巨子竞争竞赛之地。目前在AI自动驾驶方面，国外的英伟达、英特尔、特斯拉，海内的华为、地平线、寒武纪以及芯驰科技等一众厂商都在深耕这个领域。
地平线是中国最早进入AI芯片领域的人工智能企业。2015年，在海内AI芯片仍未进入大众视野时，地平线公司成立，率先提出软硬结合的BPU芯片架构；2017年，发布中国第一款边缘AI芯片：朝阳一代和征程一代；2018年，征程芯片助力国际顶尖Robotaxi车队；2019年，宣告正式量产中国首款车规级AI芯片征程2。
这几年，地平线在商业化的道路上越走越稳。就拿征程2 来说，该产品可全方位实现车内场景化感知，并基于感知结果为用户供应更精准的智能推举以及智能车控等做事。
今年3月份，地平线征程2上岸长安UNI-T前装量产，使长安UNI-T成为首款搭载国产人工智能芯片的智能汽车，而且也让它走在了天下前列，成为环球首款智能人机交互SUV。
众所周知，车载AI芯片是人工智能行业的珠穆朗玛，也是自动驾驶实现大规模落地的条件。车规级芯片产品的开拓周期长、难度大，是硬科技、长跑道的创新。在汽车芯片如此高标准以及长供货周期、与主机厂长久的互助关系下，汽车芯片一旦能够量产，其供应格局相对来说就较为稳定。
虽然，比较市场前景更大、场景更为繁芜的自动驾驶，地平线在AIoT领域的声量较小，但其重视程度丝毫不差。据理解，其朝阳系列芯片所做事的客户已过百家。去年发布的朝阳2的表现也相称亮眼，在朝阳2上的实际测试结果表明，分类模型 MobileNet V2 的运行速率超每秒 700 张图片，实际性能能够达到乃至超过业内标称 4TOPS 算力的 AI 芯片。
在AIoT领域，地平线坚持底层技能能力研发与办理方案的打造，加速普惠 AI 时期到来；在开拓者生态方面，地平线则通过工具链做事降落开拓者门槛，助力上层运用产生，以此丰富全体 AIoT 运用生态，用行业的力量推动行业。目前，地平线已携手上百家 AIoT互助伙伴为家当供应赋能做事，实现线了局景做事数千万人口。
结语
自去年朝阳2的发布，又经由近一年的商业化落地和技能熬炼，面向AIoT市场的朝阳3正呼之欲出。在此，想剧透下，此前，地平线有在ImagetNet模型上进行了一项MAPS测试，下图中有一颗地平线即将推出的芯片，在与表现最优的标称11.4TOPS峰值算力的AI芯片比拟中，新的芯片虽然在高精度上稍有劣势，但在追求速率和低延迟等场景中会有不俗的表现。9月9日上午，“地平线”尽头将再次升起一轮“朝阳”！
ImageNet图像分类 75~80.5%精度范围内， MAPS 评估办法下的主流芯片测试结果（右一折线为地平线最新一代芯片测试结果）
免责声明：本文由作者原创。文章内容系作者个人不雅观点，半导体行业不雅观察转载仅为了传达一种不同的不雅观点，不代表半导体行业不雅观察对该不雅观点赞许或支持，如果有任何异议，欢迎联系半导体行业不雅观察。
本日是《半导体行业不雅观察》为您分享的第2422期内容，欢迎关注。
晶圆｜蓝牙｜5G｜光刻｜华为｜台积电｜DRAM｜半导体材料
