泓不雅观科技（otureo.ai），由三位清华校友创立于2015年的科技型公司，一贯致力于通过边缘打算实现深度学习高效率赋能于嵌入端设备和运用，与高下游互助伙伴携手共筑人工智能家当生态。一向低调潜行的他们，也在用着自己的办法开拓着另一条产品线，如今破茧而出——面向物联网（IoT）物联端率先推出超低功耗异步AI芯片，上演了一次另辟路子的厚积薄发。
泓不雅观科技选择了一个AI芯片领域中独特的发力点潜心磨砺，提出并设计了一种全新的基于异步架构的卷积神经网络AI芯片，剑指loT物联真个超低功耗智能化场景运用需求，可以极大的降落loT场景下智能数据剖析所需的功耗。目前，首款该类芯片已经由泓不雅观科技的团队率先设计完成并实现流片（如下图），这是迄今面向IoT领域的异步架构AI芯片的第一次问世。
泓不雅观科技的创始人向雷锋网("大众号：雷锋网)先容到：“从近20年前我们进入清华大学微电子学专业读书时算起，虽然后面的职业生涯不断带来更多元化的知识背景，但毕竟都算是集成电路这一行里多年的从业者了，对付芯片这个弘大家当的自身规律有着自己的理解和认知。既然决定在AI芯片这里也做点儿事情，构建第二产品线，我们希望选择一个独特而有趣的着力点，对应具有一定差异化的运用领域和生态位置，同时可以与我们依托平台型系统芯片的第一产品线，兼容互补，相得益彰。”
泓不雅观科技所采取的异步架构，与这个领域中先前已推出的各种AI芯片有着显著的差异。先前的AI芯片有一个共同的特点，便是遵照功能与性能优先的设计原则。其针对的运用处景紧张分为两类：基于云真个在线打算和基于前端设备的离线打算。前者如Google TPU系列、比特大陆Sophon系列等；后者如Movidius Myriad系列、海思包含NPU的Kirin970、Apple包含Neural Engine的A11等，纵然作为前端AI芯片，其运用环境也集中在手机、无人机等高端设备上。
然而对付IoT设备及其运用处景而言，上述AI芯片的架构与特点并不适宜。“一则由于loT 设备常日专注于某种单一功能，例如针对视频采集的设备一样平常情形下无需运行语音识别和自然措辞处理的干系算法；二则相较于手机、无人机这样的高端设备，大部分loT设备的刚性需求在于超低功耗，性能并非第一考虑成分。”泓不雅观科技的创始人这样见告雷锋网，“像我们这样，遵照着完备不同的设计原则和技能路线来实现卷积神经网络AI芯片，可以说有点卓尔不群乃至颇为超前。就目前已知的媒体宣布，我们该当是率先实现异步卷积神经网络电路方案并实现流片的创业公司，不论在中国还是天下范围内。”
关于这款具有创始意义的超低功耗异步卷积神经网络AI芯片，泓不雅观科技的创始人向雷锋网予以了颇为详尽的讲解。
“首先要从架构设计上入手。IoT 设备大多无需集成通用型芯片，只需根据运用需求设计定制架构即可。”泓不雅观科技在芯片架构上专注于卷积模型所支持的特定操作（如卷积、池化等），并针对识别场景的特点，考虑芯片工艺、面积、片上存储等成分，对支持的网络架构加入一定的约束（如层数、通道数量等）。
“大量的loT设备只有在被唤醒时才事情，设备常常处在休眠状态，如何在设备休眠状态下严格掌握功耗产生，是重中之重。”在这个环节，泓不雅观科技采取了异步（asynchronous）电路技能，与常规的同步（synchronous）电路比拟（如上图），异步电路能够担保芯片在设备休眠时，产生的功耗可以忽略不计。
“接下来优化访存同样是一个关键环节。”受限于芯片面积和本钱，片上存储的容量也非常有限，传统办理办法是引入大量的片外I/O 访存，但由于 IoT 设备的自身特点，偏低的片外访存效率会导致性能低落和功耗增加。泓不雅观科技则采取了多层领悟的架构技能（如上图）来减少 I/O 访存——通过架构和算法的交互优化（co-design），担保算法层的输出数据能够被有效缓存。
此外，神经网络操为难刁难数据存在较强的鲁棒性，因而网络对付数据的精度变革并不敏感。泓不雅观科技通过定点化处理神经网络，利用16位数据乃至更低的比特数可以保持网络性能基本不低落，并通过自动化搜索不同网络层定点化配置的方法，对权值和输入/输出采取不同的策略（如上图）。
同时，泓不雅观团队设计了一种自动化剪枝算法（如上图），对神经网络的每一层建立单独的剪枝参数，从而办理了神经网络本身存在的冗余性。
基于上述设计要点的异步卷积神经网络芯片，其整体框架图如上。泓不雅观科技的创始人见告雷锋网，“在同样的芯片制程、达到相同性能的情形下，位于芯片active ratio（事情韶光占比）较低的运用区间，比较基于传统同步电路，采取异步电路设计可以显著减少功耗，而这一区间正好是大量的物联网终端智能化运用处景的分布重心。”下图显示了不同active ratio条件下，同步电路和异步电路的功耗比拟。可以看到，在物联端运用重点分布的低active ratio区间，采取异步架构的AI芯片，可以将功耗降落近一个量级乃至更多。
这款独特而全新的异步卷积神经网络芯片，其功能聚焦于物体识别等智能化视觉剖析,面向可穿着设备、智能家居、自供能（如太阳能）监控等对超低功耗有刚性需求的IoT终端领域，逐步赋能实现AI运用落地。“这个路线及发力点的选择，来源于我们对技能发展和市场定位的思考与判断。” 泓不雅观科技的创始人这样总结到，“届时从不久的未来里回望，这款芯片所代表的特质，应该不再是独特和另类。对付AI和IoT这两大领域的广泛交汇和深度领悟，相信这一次意味着一个开端。”
