NVIDIA H100 Tensor Çekirdekli GPU
NVIDIA H100 Tensor Çekirdekli GPU, yapay zekâ geliştirme ve yüksek performanslı hesaplama için tasarlanmış bir veri merkezi GPU'sudur. Ürün sayfasında listelenen 94 GB HBM3 bellekli H100 NVL sürümü, büyük modeller ve yoğun veri kümeleriyle çalışmak için yüksek bellek kapasitesi sunar. 3,9 TB/sn GPU bellek bant genişliği ve Tensor çekirdekleri, model eğitimi, çıkarım ve bilimsel hesaplama iş yüklerini destekler. NVIDIA NVLink bağlantısı, uyumlu sunucu yapılandırmalarında GPU'lar arasında yüksek hızlı iletişim sağlar. MIG desteği, GPU kaynaklarının birden fazla iş yüküne ayrılmasına olanak tanır. PCIe Gen5 bağlantısı ve farklı sunucu yapılandırmalarına uyumu, H100 NVL'yi mevcut yapay zekâ altyapısını genişletmek isteyen kurumlar için güçlü bir seçenek haline getirir.
| Model | NVIDIA H100 Tensor Çekirdekli GPU |
| Ürün Sayfasındaki Sürüm | NVIDIA H100 NVL; 94 GB bellekli PCIe sürümü |
| Ürün Türü | Yapay zekâ ve HPC için veri merkezi GPU'su |
| GPU Belleği | 94 GB HBM3 |
| GPU Bellek Bant Genişliği | 3,9 TB/sn |
| FP8 Tensor Performansı | Seyrek hesaplama koşulunda 3.341 TFLOPS |
| FP16 Tensor Performansı | Seyrek hesaplama koşulunda 1.671 TFLOPS |
| FP64 Tensor Performansı | 60 TFLOPS |
| NVLink Bağlantısı | 600 GB/sn |
| PCIe Bağlantısı | PCIe Gen5 |
| MIG Desteği | 7 örneğe kadar; örnek başına 12 GB |
| Güç Değeri | 350–400 W; yapılandırılabilir |
| Sunucu Desteği | Uyumlu sistemlerde 1–8 GPU yapılandırması |
| Yazılım | NVIDIA AI Enterprise dahil |