首页 » 通讯 » 英伟达宣告人工智能芯片HGX H200_英伟_人工智能

英伟达宣告人工智能芯片HGX H200_英伟_人工智能

雨夜梧桐 2024-11-15 12:16:50 0

扫一扫用手机浏览

文章目录 [+]

据外媒宣布,H200是去年发布的H100 GPU的后续产品。
H100是英伟达首款基于Hopper架构打造的GPU,此前是英伟达最强大的人工智能GPU芯片

英伟达称,H200是首款供应HBM3e内存的GPU。
得益于HBM3e, H200可供应141GB内存和每秒4.8TB的带宽,可加速天生式人工智能和大型措辞模型(LLM),同时可以处理人工智能和超级打算事情负载所需的大量数据。

英伟达宣告人工智能芯片HGX H200_英伟_人工智能 英伟达宣告人工智能芯片HGX H200_英伟_人工智能 通讯

该公司还表示,H200的推出将带来进一步的性能飞跃,包括在Llama 2(一个具有700亿参数的LLM)上的推理速率比 H100快了近一倍。
估量在未来的软件更新中,H200的性能将进一步领先和提高。

英伟达宣告人工智能芯片HGX H200_英伟_人工智能 英伟达宣告人工智能芯片HGX H200_英伟_人工智能 通讯
(图片来自网络侵删)

英伟达表示,环球系统制造商和云做事供应商将从2024年第二季度开始利用H200。

相关文章