据 Wccftech 报道,谷歌最近举行了 I/O 2024 大会,在会上发布了其最新的第六代云 TPU“Trilium”,该 TPU 已经集成到谷歌的 AI 超级计算机中。此外,谷歌宣布将 NVIDIA 的 Blackwell 架构 GPU 纳入该公司的“人工智能武器库”,以支持谷歌云服务器解决方案,预计将于 2025 年初推出。

谷歌声称,与上一代 TPU (TPU v5p) 相比,第六代云 TPU“Trilium”的 HBM 容量和互连带宽翻了一番,从而实现了更高效的 AI 模型仿真和开发。Trilium 还提高了 67% 的能源效率,使其更适合大型数据中心。谷歌与科技公司Hugging Face合作,简化模型训练和部署,使开发人员能够在谷歌的人工智能基础设施(包括TPU)上轻松微调和运行开源模型。
关于基于NVIDIA的Blackwell架构的GPU,谷歌声称这将把它们的计算性能提升到前所未有的水平。从现场演示来看,谷歌似乎将利用 NVIDIA 的 GB200 NVL72 计算平台,这是一个由 18 台 1U 服务器组成的全机架解决方案。该平台提供 720 petaflops 的 FP8 性能和 1440 petaflops 的 FP4 计算能力,并可以处理具有 270 万亿个参数的 AI LLM 模型。每台服务器配备两个 GB200 Grace Blackwell 超级芯片,总共 36 个 Grace CPU 和 72 个 Blackwell GPU。这些计算节点配备 1.7TB 的 HBM3E 内存和 32TB/s 的内存带宽,并使用 MGX 封装完全液冷。
相关文章
网友评论(共有 0 条评论)