首页 » 智能 » SRAM价格飙升:从内存条到LLM演习专用芯片_密度_价钱

SRAM价格飙升:从内存条到LLM演习专用芯片_密度_价钱

雨夜梧桐 2024-11-17 19:20:29 0

扫一扫用手机浏览

文章目录 [+]

新闻宣布称,SRAM价格飙升,因LLM(Large Language Model)演习专用芯片中利用SRAM替代了HBM(High Bandwidth Memory)。
对此,笔者感到颇为震荡。
SRAM作为内存条,其容量一向有限,价格也相对昂贵。
但是,为何SRAM在这个领域也能够引发热潮呢?

首先,我们来看一些数据支持。
相较于传统的DRAM(Dynamic Random-Access Memory),SRAM的存储密度确实较低。
以DRAM为例,其基本单元是由1个传输栅(1T)和1个存储电容(1C)组成,而在QLC(Quad-Level Cell)/TLC(Triple-Level Cell)/DLC(Double-Level Cell)/SLC(Single-Level Cell)中,DTI(Dielectric Tunneling Insulator)沟槽电容可以存储4/3/2/1个bit,实现了更高的存储密度。
然而,相对付DRAM的繁芜电路,SRAM每个bit常日须要6个晶体管,乃至有些高速SRAM利用12个晶体管来表示一个bit,这导致了其存储密度相对较低。

SRAM价格飙升:从内存条到LLM演习专用芯片_密度_价钱 SRAM价格飙升:从内存条到LLM演习专用芯片_密度_价钱 智能

但是,SRAM的昂贵价格并非完备出于其存储密度低的缘故原由。
比较于DRAM,SRAM具有更快的读写速率和更低的功耗,这使得它在特定领域具有得天独厚的上风。
特殊是在须要高速缓存的运用中,如CPU缓存和数据缓存等,SRAM的性能上风尤为突出。

SRAM价格飙升:从内存条到LLM演习专用芯片_密度_价钱 SRAM价格飙升:从内存条到LLM演习专用芯片_密度_价钱 智能
(图片来自网络侵删)

而LLM演习专用芯片所需的SRAM,很可能正是出于对性能的需求考虑。
大型措辞模型的演习过程须要大量的数据处理和模型参数更新,对内存带宽和速率的哀求极高。
而SRAM的快速读写能力,使其成为了LLM演习芯片的空想选择。
只管价格较高,但是在追求性能和效率确当下,这彷佛并没有阻挡人们对其需求的激情亲切。

综上所述,只管SRAM的存储密度相对较低且价格昂贵,但其卓越的性能使其在特定领域备受青睐。
LLM演习专用芯片采取SRAM替代HBM,反响了对性能的追求与需求的变革。
在科技发展的进程中,我们每每会看到技能和市场的变革,而SRAM的价格飙升,或许正是这样一种变革的表示。

注:本文内容来自于网络,若与实际情形不符合或存在侵权行为,请联系删除

标签:

相关文章

新时代CMS,打造智能传播新格局

随着信息技术的飞速发展,新媒体时代已经来临。在这个时代背景下,CMS(内容管理系统)作为企业信息传播的重要工具,正逐渐成为企业核心...

智能 2025-01-03 阅读0 评论0