首页 » 智能 » 存算一体拯救“跋扈狂吃电”的AI芯片?_芯片_架构

存算一体拯救“跋扈狂吃电”的AI芯片?_芯片_架构

萌界大人物 2024-11-29 15:31:46 0

扫一扫用手机浏览

文章目录 [+]

进入2024年,AI 的膨胀速率依然让人惊叹。

但也有一些人认为,AI对付电力的胆怯需求,未来会限定它的发展速率,“AI的尽头是算力,而算力的尽头是电力”。

存算一体拯救“跋扈狂吃电”的AI芯片?_芯片_架构 存算一体拯救“跋扈狂吃电”的AI芯片?_芯片_架构 智能

有研究机构根据英伟达出货情形进行估算,目前OpenAI大约须要3617个英伟达A100打算平台来支持其ChatGPT的利用,而这些打算平台所包含的GPU,每天的总能耗高达564MWh,即56.4万度电。

存算一体拯救“跋扈狂吃电”的AI芯片?_芯片_架构 存算一体拯救“跋扈狂吃电”的AI芯片?_芯片_架构 智能
(图片来自网络侵删)

而这仅仅是OpenAI一家公司,随着谷歌、Meta等公司逐渐通盘AI化,,其总体能耗将会是一个令人震荡的数字。

AI芯片花费的电量紧张涌如今模型演习和推理两方面,但实际上,AI芯片在进行打算时,会在处理器和内存单元不断来回移动数据,这同样是一个耗能的过程。

一项降落功耗的新技能

近日,明尼苏达大学双城校区的研究职员对外宣告设计了一种全新的“打算随机存取存储器”(CRAM:computational random-access memory)原型芯片。

和传统的冯·诺依曼架构不同,这是一种“存算一体”架构,它利用称为磁隧道结 (MTJ) 的自旋电子器件,可以直接在内存内部进行打算,由于自旋电子设备并不依赖电荷来存储数据,而是利用电子自旋,因此可以替代传统的基于晶体管的芯片。

此外,根据研究团队公布的论文示例图,我们可以把稳到这种新型存储器是通过将数据保存在内存阵列内进行来处理,数据无需离开打算机存储信息的网格,从而办理传输数据时产生。

该团队表示,和传统冯·诺依曼架构比较,基于 CRAM 的机器学习推理加速器能耗可降落至千分之一,乃至在某些场景运用下可以达到 1/1700 或者 1/2500。
在能源需求激增的AI时期,这种新技能无疑对提升能源效率起到至关主要的浸染。

目前,该研究已经揭橥在《自然》杂志的同行评议科学期刊 《npj Unconventional Computing》上,研究职员称拥有该设备所用技能的多项专利。
从宣布可知,这项研究已经酝酿了20多年,并且与明尼苏达大学理工学院王建平博士有很大关系。

王建平教授是新型磁性材料和自旋电子器件领域的天下有名专家,侧重于信息存储、影象和打算以及生物医学传感方向的研究。

自 2008年以来,王建平通过交流耦合复合介质(ECC)的首创性实验演示,高效利用了HDD硬盘驱动器的技能,有效减少数据中央的整体数量,节约了环球能量花费。

同时,王建平正是打算机随机存取存储器(CRAM)影象单元的发明者。
但在二十年前,他们提出抛弃冯·诺依曼模型的发起,无疑是被认为是“猖獗的”。

但终极他们团队还是坚持了下来,其发明的MTJ 器件已被英特尔、美光等公司变成了商业产品。

目前,该团队一贯操持与明尼苏达州当地半导体企业互助,供应大规模演示并生产硬件以推进AI功能。

存算一体,何时能火

存算一体架构的上风,实在便是冲破了“存储墙”和“功耗墙”问题。

前者指的是存储器的性能跟不上 CPU 的性能,从而影响了系统的整体性能。
而后者便是开头提到的数据在处理器和存储单元之间传输会产生的巨大功耗。

除此以外,存算一体架构可以直接在设计时就为特定领域的打算问题供应更大的算力,非常适宜于当下的AI打算乃至未来更大规模的数据处理。

但值得一提的是,存算一体并不是什么新事物,而到目前该架构也未形成统一的技能路径,主流的包括近存打算(PNM)、存内处理(PIM)、存内打算(CIM)三种。

而存算一体芯片所面临的寻衅也非常多,例如依赖前辈的封装技能以此在芯片内部实现更高的密度,而目前的一线封装大厂已经很难再挤出产能。

此外,在芯片设计方面,存算一体芯片对架构设计的难度和繁芜度哀求很高,市情上也缺少成熟的EDA软件以及测试软件。

末了便是在生态方面,目前无论是芯片大厂还是创业公司,各厂商开拓出来的芯片都是环绕自行定义的编程接口,软件生态基本做不到相互通用,极大的影响了存算一体芯片推广利用。

因此在目前电能资源还算充裕的条件下,存算一体芯片还是很难替代现有的AI芯片。

标签:

相关文章