2022

zelena-tabulka-v1

MetaCentrum VO mělo na konci roku 2022 2710 uživatelů s aktivním účtem. Pro srovnání, koncem roku 2021 mělo v MetaCentru účet 2606 uživatelů.

Meziročně narostl počet CPU jader pořízených v národním výpočetním prostředí MetaVO (grid + cloud) na 37628 CPU jader (vloni 34084), z toho 15580 CPU jader patřilo CESNETu (bez EGI, 14172 PBS, 1408 cloud), CERIT-SC měl 8488 (6552 PBS + 336 cloud, 1600 K8s). Zbývajících 13560 CPU jader (bez EGI) vlastnily univerzity, Akademie věd ČR a velké projekty.

Dalších 6460 CPU jader bylo k dispozici v mezinárodním prostředí EGI. V dávkovém režimu (HTC) byly zapojené zdroje CESNETU (1040 CPU jader) a FZÚ AV ČR (5420 CPU jader) a část kapacity MetaCentrum Cloudu bylo k dispozici v EGI FedCloudu.

V roce 2021 uživatelé MetaVO, MetaCentrum cloudu a Kubernetes propočítali celkem 30079 CPU let (22647 v roce 2020).

PBS

celkem 29916 CPU jader, 19134 CPU let, 254 GPU let, 11,1 mil. úloh

MetaCentrumCloud

MetaCentrum Cloud provozoval v čistě cloudovém režimu 6112 CPU jader a 54 GPU karet. Dalších 3392 CPU jader a 49 GPU karet bylo exportováno z OpenStacku do PBS.

V čistě cloudovém režimu bylo propočítáno celkem 7416? CPU let (9948 - 2532) v 15941 instancích plus ve FedCloud 1225 CPU let ve 2414 instancích.

  

Kubernetes

na konci roku 2022 bylo v provozu 1600 CPU jader (včetně 256 CPU jader vyhrazených pro Sensitive Cloud), na kterých bylo propočítáno celkem 997 CPU let. Rancher použilo 222 uživatelů, z toho 12 zahraničních (EGI VOs)

 

Mezinárodní výpočetní infrastruktura EGI 

celkem  CPU let,  mil. úloh/virtuálních strojů (zdroj EGI accounting portál)

 

Vlastníci zdrojů

V MetaCentrum NGI jsou zapojeny následující typy výpočetních kapacit

hw-v-letech-cpujader

HW-instituce2022

HW-instituce-roky

 

Celkem 43858 CPU jader (prosinec 2022)

Statistiky využití zdrojů MetaVO

Využití strojů v dávkovém systému PBS

Následující graf ukazuje průměrné vytížení výpočetních clusterů a strojů v MetaVO v roce 2022. Základem pro výpočet průměrného vytížení (100%) je celkový počet dostupných CPU-core-seconds mínus počet CPU-core-seconds strojů, které nebyly v provozu. Rezervované stroje jsou započítané tak, jako by byly plně využity, bez ohledu na jejich skutečné využití. Údaj v závorce udává počet CPU v clusteru na konci roku. Nula značí, že cluster byl v průběhu roku vyřazen.

Průměrné vytížení (CPU) volně dostupných strojů v MetaCentru se pohybovalo v roce 2022 okolo 65 %. Vytížení okolo 70% je optimální, vyšší vytížení již znamená faktickou saturaci a způsobuje delší doby čekání úloh ve frontě. Nižší hodnoty vytížení vykazují stroje, které byly do MetaCentra zapojeny až v průběhu sledovaného období nebo jsou unikátní, vyhrazené pro specifický typ výpočtů nebo vyhrazené pro některou skupinu. Clustery s GPU mají také nižší využití CPU, protože jsou využívány primárně pro výpočty na GPU.

HW-prumer_vytizeni-makub-uprav

Průměrné vytížení clusterů se liší podle toho, zda jsou vlastněné CESNETem a jsouvyužitelné všem bez rozdílu, anebo zda patří některé uživatelské skupině, která má prioritní přístup a ostatní uživatelé jsou zde limitovaní, využití je proto nižší.

Vytížení strojů zapojených v meta-pbs v průběhu celého roku 2022. Průměrné vytížení CPU se pohybovalo okolo 67 %, GPU pak 74 %. Do průměru jsou započítany všechny výpočetní clustery, i ty, které jsou vyhrazeny s přednostním právem vlastníkům a jejichž vytížení obvykle bývá nižší.

HW-meta-vytizeni-prumerne

 

Vytížení strojů zapojených v cerit-pbs v průběhu celého roku 2022. Průměrné vytížení CPU se pohybovalo podobně jako v předchozím případě okolo 65 %, GPU 70 %. Do průměru jsou započítany všechny výpočetní clustery, i ty, které jsou specializované a dokáží obsloužit jen určitý typ výpočtů (např. cluster phí speciální architektury pro velmi specifické úlohy, které umí využít speciální akcelerátory Xeon phí, ale kterých není mnoho).

HW-cerit-vytizeni-prumerne

Vytížení strojů zapojených v elixir-pbs v průběhu celého roku 2022. Průměrné vytížení CPU je o trochu nižší, stroje mají prioritu pro skupinu ELIXIR, pohybovalo se okolo 54 %, GPU karty tyto clustery neobsahují. 

HW-elixir-vytizeni-prumerne 

Propočítané CPU dny

CPUdny-meta-cas

CPUdny-cerit1-cas

CPUdny-elixir-cas

Propočítané GPU dny

gpudny-cas

 

Počet úloh a doba čekání na spuštění dle požadované délky úloh.

ulohy-cekani-meta

ulohy-cekani-cerit

ulohy-cekani-elixir

 

Počet úloh a propočítaný čas dle požadované délky úloh.

ulohy-cpucas-meta

ulohy-cpucas-cerit

 ulohy-cpucas-elixir 

Počty nových úloh po dnech

prirustek-uloh-den

 

Uživatelé

Využití MetaCentra organizacemi (Meta VO, PBS) dle propočítaného času

 

 instituce-cpucas

 

TODO aktualizovat Nárůst celkového propočítaného CPU času, počtu úloh a počtu CPU jader META VO

cpus-jobs-time-meta-cerit-elixir-kubern-cloud

MetaCentrum Cloud

Kubernetes

ELIXIR-CZ VO v PBS a v cloudu

Ke clusterům pořízeným z projektu ELIXIR-CZ mělo prostřednictvím plánovacího systemu elixir-pbs dedikovaný přístup 85 (vloni 72) uživatelů projektu ELIXIR-CZ z českých univerzit a Akademie věd. Uživatelé MetaCentra sem mohli posílat krátké výplňové úlohy prostřednictvím fronty global pouze tehdy, pokud byl cluster nevyužitý. V cloudovém prostředí uživatelé z ELIXRu založili celkem XX(15) projektových skupin a XX (13 ) individuálních účtů.

Velikost clusteru ke konci roku 2022: 3224 (pbs) + 2432 CPU jader cloud

V roce 2022 propočítáno elixir-pbs 1473 (1621) CPU let ve 652 tisících úlohách, v cloudu pak uživatelé z elixíru propčítali XXX (555) CPU let v XXX (213 ) instancích.

Využití v PBS

Mezi největší počtáře (organizace, služby) podle propočítaného času na strojích projektu ELIXIR-CZ patří (pbs) UK (33 %), ELIXIR RE Galaxy (12%), MU (10 %),  ÚMCh AV ČR (9 %), BTÚ AV ČR (7 %) a UPOL (5%), ostatní organizace propočítaly 24 %.

instituce-cpucas-elixir

 

Nejvíce propočítaného času bylo ve frontě global, do které směřují také krátké úlohy z jiných pbs systémů. Druhou nejžádanější frontou byla fronta obsluhující stroje s velkou pamětí, třetí pak fronta pro dlouhé úlohy následovaná frontou pro úlohy z RepeatExplorer Galaxy.

fronty-elixir

 

Většina úloh požadovala několik málo jader na jeden běh, vyskytly se však úlohy požadující až 380 CPU jader. Podobně si většina úloh vystačila s požadavkem na paměť v řádu desítek GB, vyskytly se však i úlohy požadující 1 TB RAM. Grafy mají logaritmické měřítko.

elixir-cpu-distribution

elixir-ram-distribution

Vytížení strojů zapojených v elixir-pbs v průběhu celého roku 2021 (1. 1. 2021 - 31. 12. 2021). Průměrné vytížení CPU se pohybovalo okolo 43 %. Cluster je dedikovaný projektu ELIXIR-CZ, který má k výpočetním zdrojům prioritní přístup. 

HW-elixir-vytizeni-prumerne

 

HW-elixir-vytizeni

 

Elixir v cloudu

TODO aktualizovat

Z celkového využitého CPU času ELIXIR využil XX (7) % CPU času (elixir-projects), což jeXXX (555) CPU let ve XXX (213) instancích.

cloud-whole-cpuhours

Rozdělení výpočetního času mezi projekty registrované pod hlavičkou Elixíru.

elixir-cloud-projekty 

 

Služba Elixir RepeatExplorer Galaxy

 TODO aktualizovat

Službě RE Galaxy (elixirre) bylo vyhrazeno 11 uzlů po 32 jádrech, tj. celkem 352 CPU jader.

Na následujících grafech je znázorněné vytížení těchto dedikovaných výpočetních prostředků, průměrná doba čekání úlohy na spuštění a denní počty nově spuštěných úloh.

Počet úloh přicházejících do systému a propočítaný čas.

regalaxy-cpucas-jobs

 

 

regalaxy-cekani

regalaxy-pocetuloh

regalaxy-cpudny

 

 

 

Úložné prostory

Meziročně opět vzrostlo zaplnění diskových polích v MetaCentru i v CERIT-SC. Mimo to, se podařilo integrovat diskové pole jiných vlastníků do infrastruktury MetaCentra (CEITEC, ELIXIR). Přístup na taková pole je dedikován vlastníkům, po dohodě s nimi může býrt přístupný i pro další uživatele.

diskova-pole-2022

 

 

Publikace s poděkováním za využití

Následující graf ukazuje počty uživatelských publikací s poděkováním e-infrastruktuře vykázaných v systému Perun (modrý sloupec) a převzatých z veřejné databáze Web of Science (WoS, oranžový sloupec). V Perunovi evidujeme všechny typy publikací, včetně publikací neimportovaných do RIVu, proto jich je více než publikací evidovaných v databázi WoS, ve které jsou zahrnuté pouze kvalitní bodované publikace. Za rok 2022 byla data k publikacím posbírána koncem ledna, předpokládáme nárůst v počtu publikací vykázaných v roce 2022, uživatelé je do systému Perun v kládají až s výroční zprávou. Také ve WoS se některé publikace z konce roku objevují se zpožděním.

publikace-perun-wos

 Následující graf byl pořízen v březnu 2022 a ukazuje počty uživatelských publikací s poděkováním za využití zdrojů a příslušné citace. Zdroj WoS.

citace-screenshot22-kratsi

Organizace u publikací s poděkováním e-INFRA CZ (WoS):

instituce-pub

Obory Wos

obory-wos

Režim přístupu k publikacím z WoS:

 wos-open-access

Seznam publikací s poděkováním e-INFRA CZ

 

Poslední změna:Fri Jan 27 14:54:07 CET 2023