NVIDIA DGX B200
NVIDIA DGX B200, 8 NVIDIA Blackwell GPU ve toplam 1440 GB HBM3e GPU belleğiyle büyük dil modeli (LLM) eğitimi, ince ayar ve çıkarım için tasarlanmış 10U rack sistemdir. Toplam 64 TB/sn GPU bellek bant genişliğini, 5. nesil NVLink ve iki NVSwitch üzerinden 14,4 TB/sn toplam GPU bağlantı bant genişliğiyle birleştirir. Çift Intel Xeon Platinum 8570 işlemciyle 112 çekirdek sunar. 2 TB sistem belleği 4 TB’a kadar yapılandırılabilir; NVMe depolama, ConnectX-7 ve BlueField-3 ağ altyapısı kurumsal yapay zeka iş akışlarını destekler.
Teknik Özellikler
| Model | NVIDIA DGX B200 |
| GPU Mimarisi | NVIDIA Blackwell |
| GPU | 8 x NVIDIA B200 Tensor Core GPU |
| GPU Belleği | GPU başına 180 GB HBM3e |
| Toplam GPU Belleği | 1440 GB HBM3e; 8 GPU'nun bellek kapasiteleri toplamı |
| Toplam GPU Bellek Bant Genişliği | 64 TB/sn |
| FP8 Eğitim Performansı | 72 PFLOPS seyrek (sparse) / 36 PFLOPS yoğun (dense); teorik Tensor Core tepe performansı |
| FP4 Çıkarım Performansı | 144 PFLOPS seyrek (sparse) / 72 PFLOPS yoğun (dense); teorik Tensor Core tepe performansı |
| GPU Bağlantı Teknolojisi | 5. nesil NVIDIA NVLink |
| NVSwitch | 2 x NVIDIA NVSwitch |
| Toplam NVLink Bant Genişliği | 14,4 TB/sn |
| İşlemci | 2 x Intel Xeon Platinum 8570 |
| Çekirdek Sayısı | İşlemci başına 56; toplam 112 çekirdek |
| İşlemci Temel Frekansı | 2,1 GHz |
| Maksimum Turbo Frekansı | 4,0 GHz |
| Sistem Belleği | 2 TB |
| Maksimum Sistem Belleği | 4 TB'a kadar yapılandırılabilir |
| Küme Ağı Adaptörleri | 8 x tek portlu NVIDIA ConnectX-7 VPI; adaptör başına 400 Gb/sn'ye kadar InfiniBand veya Ethernet |
| OSFP Bağlantıları | 8 ConnectX-7 ağ bağlantısına hizmet veren 4 x OSFP portu |
| DPU Ağ Bağlantıları | 2 x çift portlu QSFP112 NVIDIA BlueField-3 DPU; 400 Gb/sn'ye kadar InfiniBand veya Ethernet desteği |
| Yönetim Ağı Seçenekleri | 10 Gb/sn RJ-45 NIC; çift portlu 100 Gb/sn Ethernet NIC |
| BMC Yönetimi | RJ-45 bağlantılı anakart yönetim denetleyicisi |
| İşletim Sistemi Diskleri | 2 x 1,92 TB NVMe M.2 SSD |
| Dahili Veri Depolama | 8 x 3,84 TB NVMe U.2 SSD |
| Veri Diskleri Toplam Kapasitesi | 30,72 TB ham kapasite |
| AI Yazılım Platformu | NVIDIA AI Enterprise |
| Yönetim Yazılımı | NVIDIA Base Command; orkestrasyon, iş planlama ve küme yönetimi |
| Maksimum Sistem Güç Tüketimi | Yaklaşık 14,3 kW |
| Kasa Yapısı | 10U rack tipi sistem |
| Boyutlar | 482,3 x 444 x 897,1 mm (Genişlik x Yükseklik x Derinlik; maksimum genişlik ve derinlik) |
| Çalışma Sıcaklığı | 10 - 35 °C |
| Kullanım Alanları | Büyük dil modeli (LLM) eğitimi, ince ayar ve çıkarım; üretken yapay zeka, veri analitiği ve bilimsel hesaplama |