top of page
    hugeicons_gpu.png
    顯示卡
    lucide_network.png
     網路設備

    Nvidia

    NVIDIA H200 141GB NVL

    Hooper

    更高效能與更大、更快的記憶體


    NVIDIA H200 Tensor Core GPU 以革命性的效能和記憶體能力，大幅提升生成式 AI 與高效能運算 (HPC) 工作負載的運行速度。基於 NVIDIA Hopper™ 架構，NVIDIA H200 是首款提供 141GB HBM3e 記憶體、記憶體帶寬達 4.8TB/s 的 GPU——其記憶體容量幾乎是 NVIDIA H100 Tensor Core GPU 的兩倍，且記憶體帶寬提升 1.4 倍。H200 更大、更快的記憶體不僅加速生成式 AI 與大型語言模型的運算，同時以更佳的能源效率和更低的總擁有成本，推動 HPC 工作負載的科學運算進展。


    產品規格

    H200 141GB NVL

    規格

    FP64

    30 TFLOPS

    FP64 Tensor Core

    60 TFLOPS

    FP32

    60 TFLOPS

    TF32 Tensor Core

    835 TFLOPS

    BFLOAT16 Tensor Core

    1,671 TFLOPS

    FP16 Tensor Core

    1,671 TFLOPS

    FP8 Tensor Core

    3,341 TFLOPS

    INT8 Tensor Core

    3,341 TFLOPS

    NGPU Memory

    141 GB

    GPU Memory Bandwidth

    4.8 TB/s

    Decoders

    7 NVDEC 7 JPEG

    Confidential Computing

    Supported

    Max Thermal Design

    Power (TDP)

    Up to 600W (configurable)

    Multi-Instance GPUs

    Up to 7 MIGS @ 16.5GB each

    Form Factor

    PCIe Dual-slot air-cooled

    Interconnect

    2- or 4-way NVIDIA NVLink bridge: 900GB/s

    per GPU

    PCIe Gen5: 128GB/s

    NVIDIA AI Enterprise

    Included


    bottom of page