“单个GPU已经无法跑Transformer、BERT、GPT这些大模型，须要几百个乃至上千个GPU连在一起才能跑起来。”国数集联创始人兼首席实行官巍骛在接管第一财经采访时称，目前内存容量快速增长，GPU性能呈指数级增长，但I/O（输入/输出）却没有跟上，成为AI算力提升瓶颈，导致GPU等未充分利用，造成资源摧残浪费蹂躏，业界正试图办理这一问题。
中金公司也认为，除了依赖单个GPU性能升级外，还须要高速的芯片互联技能、系统互联技能作为支撑，从而提升GPU算力的可扩展性，形成强大的集群算力。
互联接口芯片市场估量增至250亿美元
随着AIGC浪潮兴起，AI做事器需求增长，做事器内部之间或与其他设备的数据传输、掌握和管理等接口功能的哀求也随之增加。
市场调研机构650 Group报告显示，从2022年到2027年，环球数据中央的互联接口芯片市场规模将翻番，达到250亿美元。紧张的驱动力除了AI、机器学习 (ML)，还包括数据剖析、富媒体运用和其他高性能分布式打算，以及不断激增的边缘侧和物联网设备向云端传输数据、利用云端做事。
中金公司表示，在高性能做事器强增长的趋势下，内存接口芯片和PCIe接口芯片作为核心数据传输环节，有望加速升级迭代，量价齐升推动市场显著增长。
内存接口芯片是做事器内存模组的核心逻辑器件，其连接CPU和DRAM，集成在内存模组内，能够提升内存数据访问的速率及稳定性。美光估量到2025年，做事器DRAM需求相较2021年将实现2倍提升，而AI做事器DRAM容量将是普通做事器的8倍。
内存模组市场正在由DDR4世代向DDR5世代迭代升级。目前DDR5内存接口芯片的竞争格局与DDR4世代类似，环球由澜起科技（688008.SH）、瑞萨电子和Rambus三家供应商供应DDR5第一子代的量产产品。
个中，澜起科技2022年牵头制订DDR5第二子代、第三子代内存接口芯片及第一子代高带宽内存接口芯片MDB等产品的国际标准，并积极参与DDR5第一子代CKD和DDR5内存模组配套芯片标准制订。
PCIe是一种高速串行打算机扩展总线标准，可实现高速串行点对点双通道高带宽传输。PCIe家当链紧张以IP（DPU、GPU）接口、PCIe Retimer/Redriver、PCIe Switch形态存在，以及各种PCIe Bridge（比如NVME掌握器）。
PCIe Switch芯片兼具连接和交流功能，可以供应扩展能力，帮助CPU连接更多设备，实现PCIe设备互联。华安证券表示，AI做事器内日益增加的PCIe节点和繁芜的网络架构须要更多PCIe Switch。市场调研机构Transparency预测，2027年PCIe Switch环球市场规模将达到92亿美元，2019-2027年复合增长率（CAGR）达15% 中金公司认为，在AI大算力需求下，PCIe Switch是数据中央低功耗、高性能办理方案核心一环。
由于技能壁垒极高，PCIe Switch芯片市场紧张由博通、微芯科技和祥硕科技供应，中国大陆在该领域还是空缺。不过，除了这些传统芯片厂商，AI行业巨子英伟达，硅谷新兴硬科技公司Astera Labs、Enfabrica以及中国大陆的国数集联等也都将加入这一近百亿美元的市场。据悉，Enfabrica创始团队紧张来自博通、思科和谷歌，国数集联创始团队来自阿里和思科。
下一代芯片互联标准CXL或带来新的可能性
由于AI和高性能打算需求激增，为了打破传统PCIe带脱期制造成的通信瓶颈，英伟达创始NVLink + NVSwitch技能，为多GPU系统供应更加快速的系统内互联办理方案。
2016年，英伟达发布了搭载NVLink的第一款产品Pascal GP100 GPU。NVLink紧张用于GPU与GPU之间以及GPU与CPU之间的信息传输。借助NVSwitch，NVLink连接可在节点间扩展以创建多节点GPU集群。通过NVLink + NVSwitch + InfiniBand和GPU，英伟达在高真个互联市场筑牢竞争壁垒，并牢牢节制AI家当的话语权。
随着技能迭代升级，CXL（Compute Express Link）的涌现让单一巨子强大的生态掌握涌现了缝隙，芯片厂商、做事器厂商有机会借此进入这一市场，供应扩展性更好、性价比更有上风、功耗更低的硬件产品。
CXL标准2019年初由英特尔公司牵头，多家国际有名公司共同推出，旨在供应CPU和专用加速器、高性能存储系统之间的高效、高速、低延时接口，以知足资源共享、内存池化和高效运算调度的需求。
作为下一代芯片互联的标准，CXL紧张办理做事器内部芯片间高速互联问题。与二十年前PCIe总线标准发布创立模块化和分工明确的做事器和个人电脑家当一样，CXL标准的颁布将首创连接为中央的异构集群打算时期。
“传统的PCIe相称于高速公路，在上面走的是小轿车。随着PCIe标准逐渐升级迭代，路的通道从两车道到四车道到八车道。然而GPU算力越来越高，小车相称于变成了大卡车。为了更快地运输，CXL相称于在通道上铺了国际标准的铁轨，专门跑高铁（GPU、内存和其他高速芯片）。高铁越来越多，就须要引入红绿灯机制（Switch），防止相撞。如果红绿灯算法拥有城市大脑能力，交流效率就会很高。”巍骛对第一财经阐明称。
与英伟达采取NVLink专有接口办理方案不同，CXL是行业共同推出的标准。基于这一“国标铁轨”，博通、微芯科技跃跃欲试，希望复制“高速公路”期间的成功。Astera Labs、Enfabrica以及国数集联也正利用CXL协议，基于传统PCIe技能构建下一代“红绿灯”调度系统。此外，澜起科技也是CXL同盟的成员单位之一。
