NVIDIA DGX B200

Podstawa Twojej fabryki AI.

Przegląd

Rewolucyjna wydajność oparta na ewolucyjnych innowacjach 

NVIDIA DGX™ B200 to zintegrowana platforma AI do tworzenia i wdrażania procesów dla firm każdej wielkości na dowolnym etapie ich AI-owej drogi. Wyposażona w osiem GPU NVIDIA Blackwell, połączonych za pomocą piątej generacji NVIDIA® NVLink™, NVIDIA DGX B200 zapewnia 3-krotnie wyższą wydajność treningu i 15-krotnie większą wydajność inferencji w porównaniu do poprzednich systemów. Wykorzystując architekturę NVIDIA Blackwell, DGX B200 poradzi sobie z różnorodnymi obciążeniami — od dużych modeli językowych, systemów rekomendacji po chatboty — co czyni ją idealną dla firm, które chcą przyspieszyć swoją transformację AI.

Korzyści

Zjednoczona fabryka AI

Jedna platforma do tworzenia i wdrażania procesów

Firmy potrzebują ogromnej mocy obliczeniowej, aby obsługiwać złożone zestawy danych AI na każdym etapie procesu — od treningu, przez dopracowanie, aż po inferencję. Dzięki NVIDIA DGX B200 firmy mogą wyposażyć swoich programistów w jedną platformę, zaprojektowaną do przyspieszenia ich przepływów pracy. 

Potężne możliwości wydajności AI

Opierając się na postępach architektury NVIDIA Blackwell w dziedzinie obliczeń, DGX B200 zapewnia 3-krotnie wyższą wydajność treningu i 15-krotnie większą wydajność inferencji w porównaniu do DGX H100. Jako fundament platform NVIDIA DGX BasePOD™ i NVIDIA DGX SuperPOD™, DGX B200 oferuje wiodącą wydajność dla każdego obciążenia. 

Ugruntowany standard infrastruktury

NVIDIA DGX B200 to w pełni zoptymalizowana platforma sprzętowa i programowa, obejmująca pełny stos oprogramowania NVIDIA AI, w tym NVIDIA Base Command i NVIDIA AI Enterprise, bogaty ekosystem wsparcia od firm trzecich oraz dostęp do ekspertów z NVIDIA Professional Services.

Wydajność 

Wydajność nowej generacji napędzana przez NVIDIA DGX B200  

Inferencja dużych modeli językowych w czasie rzeczywistym

Przewidywana wydajność może ulec zmianie. Opóźnienie token-do-tokenu (TTL) = 50 ms w czasie rzeczywistym, opóźnienie pierwszego tokena (FTL) = 5 s, długość wejściowej sekwencji = 32 768, długość wyjściowej sekwencji = 1 028. Porównanie wydajności na GPU: 8-krotne NVIDIA DGX H100 z systemem chłodzenia powietrzem vs. 1x NVIDIA DGX B200 z systemem chłodzenia powietrzem.

Zaawansowana wydajność treningu AI


 Przewidywana wydajność może ulec zmianie. Skala 32 768 GPU, klaster złożony z 4 096 węzłów NVIDIA DGX H100 z chłodzeniem powietrznym: sieć IB 400G. Klaster złożony z 4 096 węzłów NVIDIA DGX B200 z chłodzeniem powietrznym: sieć IB 400G.

Specyfikacje

NVIDIA DGX B200​


GPU8x GPU NVIDIA Blackwell
Pamięć GPU1 440 GB łącznej pamięci GPU
Wydajność72 petaFLOPS treningu i 144 petaFLOPS inferencji
Zużycie energii~14,3 kW maksymalnie
CPU2 procesory Intel® Xeon® Platinum 8570
Pamięć systemowaDo 4 TB
Sieciowe4x port OSFP obsługujące 8x pojedynczych portów NVIDIA ConnectX-7 VPI, 400 Gb/s NVIDIA InfiniBand/Ethernet
2x dual-port QSFP112 NVIDIA BlueField-3 DPU, do 400 Gb/s InfiniBand/Ethernet
Sieć zarządzania10 Gb/s wbudowany NIC z RJ45
100 Gb/s dual-port Ethernet NIC
Kontroler zarządzania hostem (BMC) z RJ45
Pamięć masowaSystem operacyjny: 2x NVMe M.2 1,9 TB
Pamięć wewnętrzna: 8x NVMe U.2 3,84 TB
OprogramowanieNVIDIA AI Enterprise: zoptymalizowane oprogramowanie AI
NVIDIA Base Command™: orkestracja, harmonogramowanie i zarządzanie klastrem
NVIDIA DGX OS / Ubuntu: system operacyjny
Ilość jednostek rack10 RU
Wymiary systemuWysokość: 17,5 cala (444 mm)
Szerokość: 19,0 cala (482,2 mm)
Długość: 35,3 cala (897,1 mm)
Temperatura pracy5–30°C (41–86°F)
Wsparcie przedsiębiorstwaTrzyletnie wsparcie enterprise Business-Standard dla sprzętu i oprogramowania
24/7 dostęp do portalu wsparcia enterprise
Wsparcie na żywo podczas lokalnych godzin pracy


Zasoby

Dostarczamy fabryki AI dla każdego przedsiębiorstwa

NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD to gotowe rozwiązanie infrastruktury centrum danych typu AI, zapewniające bezkompromisową wydajność dla każdego użytkownika i obciążenia. Konfigurowalny z dowolnym systemem NVIDIA DGX, DGX SuperPOD oferuje infrastrukturę przyspieszoną klasy wiodącej w branży, o skalowalnej wydajności, doskonałej do najbardziej wymagających treningów i inferencji AI, z wynikami sprawdzonymi w branży, pozwalając IT na dostarczanie najwyższej wydajności bez kompromisów.

Infrastruktura AI dla wdrożeń korporacyjnych


Przedstawiamy NVIDIA Mission Control

NVIDIA Mission Control usprawnia operacje fabryk AI, od obciążeń po infrastrukturę, poprzez wdrożenie światowej klasy ekspertizy w formie oprogramowania. Zasilając centra danych NVIDIA Blackwell, zapewnia natychmiastową elastyczność w inferencji i treningu, jednocześnie dostarczając pełnoskalerową inteligencję dla odporności infrastruktury. Każde przedsiębiorstwo może uruchamiać modele AI z nadzwyczajną wydajnością, upraszczając i przyspieszając eksperymenty AI.

Uruchamiaj modele, automatyzuj kluczowe procesy

Zmaksymalizuj wartość platformy NVIDIA DGX  

Usługi przedsiębiorstw NVIDIA zapewniają wsparcie, szkolenia oraz usługi profesjonalne dla Twojej infrastruktury NVIDIA DGX. Dzięki dostępności ekspertów NVIDIA na każdym etapie Twojej drogi AI, Usługi Enterprise pomagają szybko i skutecznie uruchomić projekty oraz osiągnąć sukces.

Dowiedz się więcej o usługach NVIDIA DGX dla przedsiębiorstw 

Otrzymaj ekskluzywną ofertę szkoleniową jako klient NVIDIA DGX  

Dowiedz się, jak szybciej osiągać przełomowe wyniki w AI dzięki specjalnemu szkoleniu technicznemu skierowanemu wyłącznie do klientów NVIDIA DGX, oferowanemu przez ekspertów w dziedzinie AI z NVIDIA Deep Learning Institute (DLI).

Dowiedz się więcej o DLI dla NVIDIA DGX 

Gotowy, aby zacząć?

Porozmawiaj z ekspertem produktowym NVIDIA, aby dowiedzieć się więcej o systemach NVIDIA DGX.

Skontaktuj się z nami