在去年的 GTC 2022 上,NVIDIA 推出了新一代H100,基于 Hopper 架构,用于下一代加速计算平台。它拥有 800 亿个晶体管,在单芯片设计中采用 CoWoS 2.5D 晶圆级封装,并使用台积电 (TSMC) 为 NVIDIA 定制的 4N 工艺制造。
目前,NVIDIA提供H100计算卡的多个变体,即H100 PCIe、H100 SXM和H100 NVL(双GPU版本)。标准 H100 配备 80GB HBM2E,提供 PCIe 和 SXM5 版本,而 H100 NVL 拥有 188GB HBM3,相当于每个 GPU 94GB。最近更新的 PCI ID 列表表明NVIDIA即将推出H100的94GB和64GB SXM版本,其中前者还推出了专为中国市场定制的版本,命名为H800L 94GB。
64GB 是不言自明的,但 94GB 并不是一个常见的数字,类似于 H100 NVL,而且 NVIDIA 也没有阐明这个容量是如何配置的。去年有报道称NVIDIA也正在准备120GB PCIe版本,不过尚未得到官方证实,可能只是在实验室测试的工程样品,最终不会出现在任何市场上。
完整的GH100芯片由8个GPC集群、72个TPC、144个SM以及总共18,432个FP32 CUDA核心组成。它采用第四代Tensor Core,总计576个,并配有60MB的二级缓存。然而,并非所有这些都在实际产品中激活,SXM5 版本启用了 132 个 SM、总共 16,896 个 FP32 CUDA 核心、528 个 Tensor Core 和 50MB 的 L2 缓存。另一方面,PCIe 5.0 版本支持 114 个 SM,而只有 14,592 个 FP32 CUDA 核心。具有更大显存的 H100 的规格目前尚不清楚,但预计将延续现有配置。
相关文章
网友评论(共有 0 条评论)