NVIDIA首秀Blackwell GB200超级芯片系统：AI推理性能飙升1.5倍

NVIDIA首秀Blackwell GB200超级芯片系统：AI推理性能飙升1.5倍

此前有消息称，NVIDIABlackwell架构的新一代GPU推迟供货，但是官方没有承认，也没有否认，而是默默拿出了一套基于新一代GB200GPU+CPU超级芯片的服务器系统，展示了一番。

GB200GraceBlackwell包括两颗B200GPU、一颗GraceCPU，总功耗高达2700W。

其中，B200拥有2040亿个晶体管、8096-bit192GBHBM3E内存(带宽8TB/s)，性能达到9PFlops(每秒9千万亿次)，功耗首次达到1000W。

NVIDIA展示的服务器犹如一件艺术品，一条条蓝色和铜色排线，大量超粗直径铜管，超大体积的散热片，组成了一个庞然大物。

NVIDIA没有透露具体配置，只说分为有无NVSwitch两种版本，其总带宽高达14.4TB/s。

性能方面只给出了一个数据：Llama3.1700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。

散热怎么办？NVIDIA透露正在开发热水散热系统，可以将耗电量减少28％。

不过，NVIDIA仍然没有给出BlackwellGPU服务器的出货时间，估计在今年第四季度。

即将到来的HotChip2024大会上，NVIDIA会详细讲解BlackwellGPU，还会进一步披露未来VeraCPU、RubinGPU的消息。