Unikátní server pro AI -- NVIDIA DGX H100

Nový HW v MetaCentru

Masarykova univerzita (CERIT-SC) se stala průkopníkem v oblasti podpory umělé inteligence (AI) a výkonné výpočetní technologie díky instalaci nejnovějšího a nejvyspělejšího systému NVIDIA DGX H100. Jedná se o první zařízení tohoto typu v celé ČR, které přináší extrémní výpočetní sílu a inovativní možnosti pro výzkum.

Díky nejnovější architektuře GPU NVIDIA Hopper DGX H100 disponuje osmi pokročilými grafickými procesory NVIDIA H100 Tensor Core, každý s GPU pamětí 80 GB o celkovém výpočetním výkonu 32 TeraFLOPS. Umožňuje tak paralelní zpracování obrovských datových objemů a výrazně urychluje výpočetní úlohy. Díky vysoce výkonným paměťovým subsystémům v grafických akcelerátorech poskytuje rychlý přístup k datům a optimalizuje výkon při práci s velkými datovými sadami. Uživatelé tak mohou dosáhnout bezkonkurenční efektivity a odezvy ve svých AI úlohách.


Server DGX H100 je dodáván s předinstalovaným softwarovým balíčkem NVIDIA DGX, který obsahuje komplexní sadu softwarových nástrojů pro hluboké učení, včetně předkonfigurovaných prostředí.

 

Stroj je přístupný na požádání ve speciální frontě gpu_dgx@meta-pbs.metacentrum.cz.

Pro přístup žádejte na adrese meta@cesnet.cz. V žádosti popište důvody pro přidělení tohoto zdroje (potřebnost a schopnost efektivního využít). Zároveň popište  stručně očekávané výsledky, předpokládaný objem zdrojů a časový rozsah potřebného přístupu.


 

 

 

Konfigurace NVIDIA DGX H100 (capy.cerit-sc.cz)

GPUs:

8× NVIDIA H100 SXM5 80 GB

GPU memory

640 GB total

CPU

Dual 56-core 4th Gen Intel Xeon

Scalable CPU

Výkon (FP8 tensor operace)

32 TeraFLOPS

# CUDA jader

135 168

# Tensor jader

4 224

Multi-instantce GPU

56 instancí

RAM

2 TB

HDD

OS: 2× 1.92 TB NVMe

data: 30 TB (8× 3.84 TB) NVMe

Network

8x single-port ConnectX-7 VPI 400 Gb/s InfiniBand/ 200Gb/s Ethernet

2x dual-port ConnectX-7 VPI 400 Gb/s InfiniBand/ 200Gb/s Ethernet

Max. spotřeba

~10.2kW max

 

 

 

 

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.


S přáním příjemného počítání,

MetaCentrum

 


Ivana Křenková, Thu Jun 01 23:40:00 CEST 2023