据外媒宣布,H200是去年发布的H100 GPU的后续产品。H100是英伟达首款基于Hopper架构打造的GPU,此前是英伟达最强大的人工智能GPU芯片。
英伟达称,H200是首款供应HBM3e内存的GPU。得益于HBM3e, H200可供应141GB内存和每秒4.8TB的带宽,可加速天生式人工智能和大型措辞模型(LLM),同时可以处理人工智能和超级打算事情负载所需的大量数据。

该公司还表示,H200的推出将带来进一步的性能飞跃,包括在Llama 2(一个具有700亿参数的LLM)上的推理速率比 H100快了近一倍。估量在未来的软件更新中,H200的性能将进一步领先和提高。

英伟达表示,环球系统制造商和云做事供应商将从2024年第二季度开始利用H200。










