今天,谷歌举办了 Google I/O 2023 大会。在此次活动中,谷歌不仅推出了Pixel 硬件系列的最新成员,还宣布其 AI 服务 Google Bard 将在多个国家和地区配备增强功能和扩展可用性。与此同时,谷歌公布了A3 超级计算机是 Google Bard 强大计算能力背后的强大动力。
谷歌声称 A3 专门设计用于训练和操作当代生成式 AI 和大型语言模型,提供 26 exaFLOPS 的 AI 性能。每台A3机器均由第四代英特尔至强可扩展处理器、2TB DDR5-4800内存和8个NVIDIA H100 GPU构成。这八个 H100 GPU 通过 NVSwitch 和 NVLink 4.0 互连,实现高达 3.6 TB/s 的带宽。

“由下一代 NVIDIA H100 GPU 提供支持的 Google Cloud 的 A3 VM 将加速生成 AI 应用程序的训练和服务, ”NVIDIA 超大规模和高性能计算副总裁 Ian Buck 说。“在 Google Cloud 最近推出 G2 实例之后,我们很自豪能够继续与 Google Cloud 合作,通过专门构建的 AI 基础架构帮助全球企业实现转型。”
除了英特尔和英伟达提供的硬件外,A3 还采用了谷歌定制的 200Gbps IPU,在绕过 CPU 的同时促进 GPU 之间的数据传输。它还可以在其他虚拟机网络和数据流的接口处进行传输。与A2相比,A3拥有10倍的网络带宽、更低的尾延迟和更高的稳定性。Google 的 Jupiter 数据中心网络结构可以让数以万计的 GPU 高度互联,能够根据需要调整网络拓扑结构,从而降低成本。
Google A3 尚未正式推出。目前,使用它的唯一方法是填写 Google 的 Preview Intent 表单。由于它是针对企业的服务,因此与个人用户关系不大。不过,有机会使用Google Bard,在某种意义上也算是体验了A3。
相关文章
网友评论(共有 0 条评论)