首页 » 互联网 » MIT“跨越性”专用芯片:功耗降低95%手机也能运行神经收集_神经收集_节点

MIT“跨越性”专用芯片:功耗降低95%手机也能运行神经收集_神经收集_节点

神尊大人 2025-01-13 04:11:06 0

扫一扫用手机浏览

文章目录 [+]

不管是语音识别还是面部识别,目前大多数人工智能系统的进步背后都来自于神经网络的功劳。
人工神经网络,也便是通过大量大略单纯“神经元”(信息处理器)连接而成的系统,能够通过剖析大量演习数据学习如何完身分歧的任务。

正是由于这样的构造,神经网络占用空间大,其打算过程中的耗能也相应非常大。
因此,目前的神经网络很少能够被便携设备利用。
目前所有利用神经网络的智好手机软件只能向网络做事器发送数据,通过吸收做事器返回的数据完成打算。

MIT“跨越性”专用芯片:功耗降低95%手机也能运行神经收集_神经收集_节点 互联网

不过,麻省理工学院(MIT)的研究职员开拓了一种能够将神经网络打算速率提升 3-7 倍的专用芯片
除了提升打算性能,这类芯片还能够减少打算时 94-95% 的能耗。
这种芯片使智好手机利用神经网络进行打算成为了可能,乃至能够扩展到在各式智能家居中的运用。

卖力芯片开拓的 Avishek Biswas 是这样阐明的:“目前大部分的处理器芯片都有这样的模型:芯片的一部分是内存,另一部分是处理器。
在打算的同时,数据相称于是在这两部分之间来回移位。
”Biswas 是 MIT 电气工程和打算机学的一名研究生。

“由于这类机器学习算法须要非常多的打算量,数据的移位花费了总能量中的绝大部分;但是算法中的打算本身实在能够被简化为‘点乘’这一种运算。
我们因此产生了这种想法:能不能将这种‘点乘’运算直接在内存中实行,从而不须要将数据来回移动呢?”

Biswas 和他的辅导教授,MIT 工程学院院长、Vannevar Bush 名誉教授 Anantha Chandrakasan 在他们最新揭橥的论文中详细地描述了这种新型芯片。
Biswas 在上周的国际固态电路会议(International Solid State Circuits Conference)中先容了这篇论文。

重回抽象

人工神经网络一样平常被分成很多层,某一层中的一个处理器节点会从数个下层节点中得到数据,在打算后又将结果传送给上层中的数个节点。
任意两个节点的连接都拥有不同的权重(weight),标志着下层节点传送的数据对付上层节点的打算有多大的影响。
“演习”神经网络的过程实在便是调试并改进这些权重数据。

当某个节点得到下层节点传送的数据后,它会将每个数据乘以它的权重,然后将这些结果相加。
这一运算过程——将相乘后的所有结果相加——就叫作“点乘”。
如果点乘的结果超过了某个定值,这一结果将被传送给更上层的节点。
上层节点也将会这一结果乘以连接权重,然后再和别的数据相加。

“神经网络”本身实在是对这一算法的一种“抽象化”:在打算机中,“节点”实在只是内存中的一系列权重数据。
打算点乘的过程一样平常是从内存中读取一个权重和干系的打算数据,将这两个数据相乘并将结果存在内存的某个位置,然后重复这一过程,直到这一个节点的所有数据都被打算完毕。
由于一个神经网络可能有上万(乃至上百万)的节点,在打算过程中实在要进行非常多的数据移动。

人工神经网络的打算过程实在是对大脑活动的一种电子化诠释。
在大脑中,旗子暗记沿着多个神经元行进,在“突触”或者一束神经元之间的间隙中相遇。
神经元的放电速率和穿过突触的电化学旗子暗记对应着人工神经网络中的数据值和权重。
这样说来,MIT 研究职员这次研发的新型芯片通过对大脑活动的进一步复制、模拟,从而提升了人工神经网络的效率。

在这种新型芯片中,一个节点的输入数据被转化为不同的电压,并且这些电压将乘以权重大小进行放大或缩小。
将相乘后的结果相加的过程能够通过组合这些电压得到实现。
只有组合后的电压会被重新转换成数据,并在内存中进行存储,以进行下一步打算。

因此,这种芯片原型不须要将数据在处理器和内存中移动——它能同时打算 16 个节点的点乘结果。

不是“开”便是“关”

这个别系的一大特点是权重数值不是 1 便是-1。
这就意味着它们能被实现为内存中的“电路开关”,也便是“关闭电路”与“打开电路”的差异。
最新的理论研究表明,仅有两个权重值的人工神经网络与其它神经网络比较,其准确性仅会低落 1%-2%。

Biswas 与 Chandrakasan 教授的研究与这一理论结果相差不远。
在实验中,他们在传统打算机中运行了一个全面的神经网络,同时在他们研发的芯片上运行了二元权重的神经网络。
芯片供应的打算结果与打算机供应的结果一样平常仅相差 2%-3%。

“这项研究是针对深度学习运用中基于静态存储器(SRAM)内存仿照打算的一次非常有前景的实际演示。
”IBM 人工智能研究院副总裁 Dario Gil 是这样评价的,“这项研究的结果对付在存储阵列中实现卷积网络供应了一种节能的实现方案。
它一定能够为将来在物联网(Internet of Things, IoT)中采取更繁芜的卷积神经网络进行图像和视频分类开辟可能性。

相关文章