文 | 心缘
智东西3月21日，中国科学院自动化研究所南京人工智能芯片创新研究院（以下简称：AiRiA研究院）在北京举办计策发布会，公布“普惠AI，芯向边缘”计策，并向行业高下游生态伙伴传达AiRiA研究院现阶段AI研究新进展。
在活动期间，智东西同少数媒体对AiRiA研究院常务副院长程健和AiRiA研究院副院长冷聪进行采访。
▲AiRiA研究院副院长冷聪（左），AiRiA研究院常务副院长程健（右）
程健表示，其量化神经处理器（QNPU）芯片名为“Watt”，将在今年流片，估量可能在9-10月实现。
活动现场还展出了AiRiA研究院的量化神经处理器（QNPU）、Q-box、Q-Engine等多项成果。
此外，AiRiA研究院、赛格导航、高新兴物联也在现场宣告达成计策互助。
一、AiRiA研究院愿景：普惠AI，进军边缘端演习AiRiA研究院在2017年9月成立于南京市江宁区麒麟科创园内，依托中国科学院自动化研究所和南京市麒麟科技创新园，由中国科学院自动化研究所卖力运营管理。
AiRiA研究院常务副院长程健先容道，AiRiA研究院的愿景是普惠AI，基于20余年技能积累，AiRiA研究院从软（核心智能算法）和硬（AI芯片）两个方面进行布局，以达到低功耗和高效性能，为各行各业创新科技赋能。
程健分享了关于AI芯片的思考，AI芯片走过云端演习、云端推理、边缘端推理后，正在对边缘端演习产生新的诉求。
目前边缘端演习险些空缺，量化神经处理器（QNPU）的下一步操持便是向边缘端演习进发，然后实现“自主进化”的目标。
程健宣告，其QNPU芯片名为“Watt”，将在今年流片，面积会非常小。
二、算法+平台+硬件：普惠AI全栈式办理方案AiRiA研究院将一系列产品命名为Q，这是由于研究院的产品紧张采取量化技能。
量化处理技能具有低功耗和较高打算性能表现的特点，可以知足边缘打算对AI芯片有低本钱、低功耗、低延时的哀求。
AiRiA研究院副院长冷聪先容说，QNPU架构具有低位宽、打算架构和算子领悟三大上风。个中的一大创新是将乘法全部用移位操作来替代，只管即便减少对存储的访问，进一步降落功耗和韶光。
其QNPU芯片名为“Watt”，采取台积电28nm工艺，峰值算力达24Tops，帧效比达到6Tops/W，支持1080P思路实时检测，MobileNet图像分类达每秒8000帧，将在今年流片。
该芯片采取量化模型压缩技能，打算被极大程度简化，实现了完全片内打算，冲破了内存墙瓶颈，将功耗和本钱显著降落。
▲量化神经处理器（QNPU）
其余，AiRiA研究院还推出了模型压缩工具QTrainer和深度学习推理引擎QEngine。
QTrainer通过低比特量化和剪枝在实现压缩功能的同时保持较高性能表现，支持客户开拓自定义运用。QEngine供应算法专家定制互助和免费技能支持，不仅支持QNPU，也支持客户自研硬件。
结语：边缘端演习成新趋势AI芯片技能和市场正在快速变革，其运用与政策环境都带来了多重利好。芯片国有化关乎国家安全问题，无论是企业还是高校、研究院，都在探索AI芯片研究和落地的新思路。
在过去两年间，芯片公司、云打算巨子、AI算法公司等纷纭涌入云端演习与推理以及边缘推理领域，而边缘演习还是新兴领域，明显的格局尚未形成。
程健院长见告智东西，边缘演习的一大好处是可以在边缘设备用实时实地数据进行演习个性化模型，同时无需将数据传输到云端，保障了数据隐私安全。
边缘演习要办理的重点包括边缘真个小样本数据，以及在边缘端不标或少标数据的情形下实现无监督或半监督学习。程健院长表示，AiRiA研究院会持续针对这些难题进行研究和探索。
