NVIDIA DGX B200


NVIDIA DGX B200, 8 NVIDIA Blackwell GPU ve toplam 1440 GB HBM3e GPU belleğiyle büyük dil modeli (LLM) eğitimi, ince ayar ve çıkarım için tasarlanmış 10U rack sistemdir. Toplam 64 TB/sn GPU bellek bant genişliğini, 5. nesil NVLink ve iki NVSwitch üzerinden 14,4 TB/sn toplam GPU bağlantı bant genişliğiyle birleştirir. Çift Intel Xeon Platinum 8570 işlemciyle 112 çekirdek sunar. 2 TB sistem belleği 4 TB’a kadar yapılandırılabilir; NVMe depolama, ConnectX-7 ve BlueField-3 ağ altyapısı kurumsal yapay zeka iş akışlarını destekler.


Teknik Özellikler
Model NVIDIA DGX B200
GPU Mimarisi NVIDIA Blackwell
GPU 8 x NVIDIA B200 Tensor Core GPU
GPU Belleği GPU başına 180 GB HBM3e
Toplam GPU Belleği 1440 GB HBM3e; 8 GPU'nun bellek kapasiteleri toplamı
Toplam GPU Bellek Bant Genişliği 64 TB/sn
FP8 Eğitim Performansı 72 PFLOPS seyrek (sparse) / 36 PFLOPS yoğun (dense); teorik Tensor Core tepe performansı
FP4 Çıkarım Performansı 144 PFLOPS seyrek (sparse) / 72 PFLOPS yoğun (dense); teorik Tensor Core tepe performansı
GPU Bağlantı Teknolojisi 5. nesil NVIDIA NVLink
NVSwitch 2 x NVIDIA NVSwitch
Toplam NVLink Bant Genişliği 14,4 TB/sn
İşlemci 2 x Intel Xeon Platinum 8570
Çekirdek Sayısı İşlemci başına 56; toplam 112 çekirdek
İşlemci Temel Frekansı 2,1 GHz
Maksimum Turbo Frekansı 4,0 GHz
Sistem Belleği 2 TB
Maksimum Sistem Belleği 4 TB'a kadar yapılandırılabilir
Küme Ağı Adaptörleri 8 x tek portlu NVIDIA ConnectX-7 VPI; adaptör başına 400 Gb/sn'ye kadar InfiniBand veya Ethernet
OSFP Bağlantıları 8 ConnectX-7 ağ bağlantısına hizmet veren 4 x OSFP portu
DPU Ağ Bağlantıları 2 x çift portlu QSFP112 NVIDIA BlueField-3 DPU; 400 Gb/sn'ye kadar InfiniBand veya Ethernet desteği
Yönetim Ağı Seçenekleri 10 Gb/sn RJ-45 NIC; çift portlu 100 Gb/sn Ethernet NIC
BMC Yönetimi RJ-45 bağlantılı anakart yönetim denetleyicisi
İşletim Sistemi Diskleri 2 x 1,92 TB NVMe M.2 SSD
Dahili Veri Depolama 8 x 3,84 TB NVMe U.2 SSD
Veri Diskleri Toplam Kapasitesi 30,72 TB ham kapasite
AI Yazılım Platformu NVIDIA AI Enterprise
Yönetim Yazılımı NVIDIA Base Command; orkestrasyon, iş planlama ve küme yönetimi
Maksimum Sistem Güç Tüketimi Yaklaşık 14,3 kW
Kasa Yapısı 10U rack tipi sistem
Boyutlar 482,3 x 444 x 897,1 mm (Genişlik x Yükseklik x Derinlik; maksimum genişlik ve derinlik)
Çalışma Sıcaklığı 10 - 35 °C
Kullanım Alanları Büyük dil modeli (LLM) eğitimi, ince ayar ve çıkarım; üretken yapay zeka, veri analitiği ve bilimsel hesaplama