Přechod na novou OpenPBS a Debian12

Vážení uživatelé,

Na začátku března jsme poprvé informovali o zahájení přechodu na novou PBSPro —> OpenPBS.

• Všechny dostupné výpočetní kapacity budou dostupné pod jediným PBS serverem pbs-m1.metacentrum.cz. Pokračujeme s reinstalací a přesunem clusterů vlastníků CERIT-SC (cerit-pbs) a ELIXIR CZ (elixir-pbs) pod tento PBS server.
• Stávající PBSPro servery budou, po doběhnutí zbylých úloh, odstaveny z provozu. Prosíme, přesuňte si své úlohy již do nového prostředí, ulehčíte nám migraci a rychleji se nám podaří přesun dokončit.
• Zároveň s migrací na novou PBS probíhá upgrade OS: Debian11 —> Debian12.


Pokud se tak již nestalo, používejte pro své úlohy nové OpenPBS prostředí pbs-m1.metacentrum.cz. Pokud nechcete ve svých skriptech nic měnit, zadávejte úlohy z frontendů s OS Debian12, názvy front zůstanou zachované, změní se jen PBS server (FRONTA@pbs-m1.metacentrum.cz).

Seznam dostupných frontendů včetně aktuálního OS najdete na stránce https://docs.metacentrum.cz/computing/frontends/

Nyní je v novém OpenPBS prostředí k dispozici cca 3/4 clusterů, na reinstalaci dalších intenzivně pracujeme. Čekáme na doběhnutí úloh.
Přehled strojů s vlastností Debian12: https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian12
Zda se Vaše úloha spustí v novém OpenPBS prostředí, můžete vyzkoušet v Sestavovači qsub: https://metavo.metacentrum.cz/pbsmon2/qsub_pbspro

Aktuální informace o migraci najdete v dokumentaci https://docs.metacentrum.cz/tutorials/debian-12/ (postup migrace zde aktualizujeme).

Vaše MetaCentrum

Úpravy v prostředí Open OnDemand

Vážení uživatelé,

Provedli jsme změnu ve službě Open OnDemand (OOD), kdy se nově OOD úlohy spouštějí také na clusterech, které nemají výchozí home na poli brno2. Z toho důvodu se může stát, že již existující data, historie příkazu, atd. z pole brno2 nebudou dostupná v nové OOD úloze, pokud bude spuštěna na stroji s jiným /home.

Pro přístup k původním datům na poli brno2 bude nutné nastavit symbolický odkaz na pole nové. Příklad níže nastavuje symbolický odkaz pro historii programu R.
ln -s /storage/brno2/home/user_name/.Rhistory /storage/new_location/home/user_name/.Rhistory

Vaše MetaCentrum

Konference e-INFRA CZ

  Na Konferenci e-INFRA CZ 2024, která se konala 29. - 30. dubna 2024 v Praze v hotelu Occindental, se sešlo přes 180 účastníků.

Prezentace z přednášek jsou k dispozici na stránkách akce.

Videozáznam připravujeme a zveřejníme brzy rovněž na stránkách akce.

Přechod na novou OpenPBS a Debian12

Na začátku března jsme informovali o zahájení přechodu na novou PBSPro —> OpenPBS.

• Cca polovina výpočetního výkonu je nyní k dispozici v novém prostředí řízeném plánovačem pbs-m1.metacentrum.cz, zároveň stávající plánovač meta-pbs.metacentrum.cz přestane přijímat úlohy delší než 4 dny, abychom mohli přeinstalovat a přesunout i zbylé výpočetní kapacity. PBS prostředí cerit-pbs a elixir-pbs běží zatím beze změny.
• Stávající PBSPro servery budou v budoucnu odstaveny z provozu, protože nemohou přímo komunikovat s novými OpenPBS servery a utilitami.
• Zároveň s migrací na novou PBS probíhá upgrade OS: Debian11 —> Debian12.
   

Pokud se tak již nestalo, používejte pro své úlohy nové OpenPBS prostředí pbs-m1.metacentrum.cz. Pokud nechcete ve svých skriptech nic měnit, zadávejte úlohy dočasně z nového frontendu zenith nebo z přeinstalovaných frontendů nympha, tilia a perian běžících v novém OpenPBS prostředí (už s OS Debian12). Ostatní frontendy budeme převádět postupně.

Seznam dostupných frontendů včetně aktuálního OS najdete na stránce https://docs.metacentrum.cz/computing/frontends/

Přístup k nové PBS je možný také z ostatních frontendů,  je však nutná aktivace modulu openpbs (module add openpbs).
 

Problémy s kompatibilitou některých aplikací s OS Debian12 průběžně řešíme rekompilací nových SW modulů. Pokud narazíte na problém u své aplikace, vyzkoušejte přidání modulu debian11/compat na začátek spouštěcího skriptu (module add debian11/compat). Pokud problémy přetrvávají (chybějící knihovny atd.), dejte nám vědět na meta(at)cesnet.cz.

Nyní je v novém OpenPBS prostředí k dispozici cca polovina clusterů, na reinstalaci dalších intenzivně pracujeme. Čekáme na doběhnutí úloh. Přehled strojů s vlastností Debian12: https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian12

Zda se Vaše úloha spustí v novém OpenPBS prostředí můžete vyzkoušet v Sestavovači qsub: https://metavo.metacentrum.cz/pbsmon2/qsub_pbspro

Aktuální informace o migraci najdete v dokumentaci https://docs.metacentrum.cz/tutorials/debian-12/ (postup migrace zde aktualizujeme).

Pozvánka na Konferenci e-INFRA CZ 2024

Vážení uživatelé,

Dovolujeme si Vás tímto pozvat k účasti na Konferenci e-INFRA CZ 2024, která se koná 29. - 30. dubna 2024 v Praze v hotelu Occindental.

Na konferenci vám představíme infrastrukturu e-INFRA CZ, její služby, mezinárodní projekty a výzkumné aktivity. Seznámíme Vás s aktuálními novinkami a nastíníme také plány MetaCentra. Druhý den konference přinese konkrétní rady a příklady užití infrastruktury.

Konference bude vedena v anglickém jazyce.

Program a registrace

 Na shledanou se těší Vaše MetaCentrum

Pozvánka na Open day for the launch of the OSCARS Open Call for Open Science Projects

Vážení uživatelé,

přeposíláme pozvánku na

Open day for the launch of the OSCARS Open Call for Open Science Projects

15 March 2024

S přáním příjemného počítání,

Novinky infrastruktury MetaCentrum & CERIT-SC

Obsah

------------------------------------------------------------------

1) Přechod na novou PBS a Debian12 — testování kompatibility SW

Připravujeme přechod na novou PBS - OpenPBS. Stávající PBSPro servery budou v budoucnu odstaveny z provozu, protože nemohou přímo komunikovat s novými OpenPBS servery a utilitami. Zároveň s migrací na novou PBS probíhá upgrade OS: Debian11 —> Debian12.

Pro testovací účely jsme připravili nové OpenPBS prostředí pbs-m1.metacentrum.cz s novým frontendem zenith běžícím na OS Debian12:
    •    nový frontend zenith.cerit-sc.cz (alias zenith.metacentrum.cz) s OS Debian12
    •    nový OpenPBS server pbs-m1.metacentrum.cz
    •    home /storage/brno12-cerit/

Postupně bude nové prostředí doplňováno o další clustery.
Přehled strojů s Debian12: https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian12
Seznam dostupných frontendů včetně aktuálního OS: https://docs.metacentrum.cz/computing/frontends/

Přístup k nové PBS je možný také z ostatních frontendů,  je však nutná aktivace modulu openpbs (module add openpbs).

Problémy s kompatibilitou některých aplikací s OS Debian12 průběžně řešíme rekompilací nových SW modulů. Pokud narazíte na problém u své aplikace, vyzkoušejte přidání modulu debian11/compat na začátek spouštěcího skriptu (module add debian11/compat). Pokud problémy přetrvávají (chybějící knihovny atd.), dejte nám vědět na meta(at)cesnet.cz.

Více informací najdete v dokumentaci https://docs.metacentrum.cz/tutorials/debian-12/ (postup migrace zde budeme upřesňovat).

2) Dotazník ke službám MetaCentra / e-INFRA CZ

Chtěli bychom Vám připomenout možnost sdílet s námi své zkušenosti s výpočetními službami velké výzkumné infrastruktury e-INFRA CZ, kterou tvoří e-infrastruktury CESNET, CERIT-SC a IT4Innovations. Prosíme o vyplnění dotazníku do 8. 3. 2024. Vaše odpovědi nám pomohou upravit naše služby tak, aby Vám lépe vyhovovaly.

Pokud jste již dotazník vyplnili, děkujeme Vám za to! Velmi si toho vážíme.
Dotazník je dostupný na adrese https://survey.e-infra.cz/compute

3) Změny v dostupnosti komerčních SW (Matlab, Mathematica)

Matlab

Získali jsme novou akademickou licenci pro 200 instancí Matlab 9.14 a novějšího (včetně široké škály toolboxů), pokrývající výpočetní prostředí MetaCentra, CERIT-SC i IT4Innovations.

Tato nová licence má přísnější podmínky než předchozí: lze ji používat pouze z IP adres MetaCenta/IT4Innovations, tj. nelze ji použít pro Matlab spuštěný na vašem počítači/univerzitní přednáškové místnosti.

Více informací: https://docs.metacentrum.cz/software/sw-list/matlab/

Mathematica

Od letošního roku již MetaCentrum nevlastní gridovou licenci SW Mathematica pro obecné využití v MetaCentru (dodavatel nedokázal nabídnout vhodný licenční model).

V současné době jsou licence Mathematica 9 omezeny pouze na členy UK a JČU, které mají vlastní licence pro své studenty a zaměstnance. Pokud máte vlastní (institucionální) licenci SW Mathematica, kontaktujte nás pro více informací na adrese meta(at)cesnet.cz.

Více informací: https://docs.metacentrum.cz/software/sw-list/wolfram-math/

4) Dostupná grafická prostředí a workflow (Chipster, Galaxy, OnDemand, Kubernetes/Rancher, Jupyter Notebooky, Alphafold)

Chipster

MetaCentrum pro své uživatele nově zpřístupnila vlastní instanci nástroje Chipster, dostupného na adrese https://chipster.metacentrum.cz/.

Chipster je open-source nástroj pro analýzu genomických dat. Jeho hlavním cílem je umožnit výzkumníkům a bioinformatickým odborníkům provádět pokročilé analýzy nad genomickými daty, jako jsou sekvenční data, mikročipy a RNA-seq. Zde jsou některé klíčové rysy Chipsteru:

•  uživatelsky přívětivé rozhraní, které umožňuje snadnou manipulaci s daty a provádění analýz
•  lze přidávat a kombinovat různé moduly pro specifické úkoly
•  mnoho předdefinovaných analýz (500), jako jsou diferenciální exprese genů, GO analýza, variant calling a další
•  umožňuje práci s velkými datovými sadami a je optimalizován pro efektivní výpočty
•  lze propojit s dalšími bioinformatickými nástroji a databázemi

Více informací: https://docs.metacentrum.cz/related/chipster/


Galaxy pro uživatele MetaCentra

Galaxy je otevřená webová platforma určená pro analýzu dat FAIR, původně v biomedicínském výzkumu, ale v současné době zahrnuje mnoho vědeckých oblastí. Pro uživatele MetaCentra jsme připravili dvě prostředí Galaxy pro obecné použití:

a) usegalaxy.cz

Obecný portál https://usegalaxy.cz/, který kopíruje funkčnost (zejména sadu dostupných nástrojů) celosvětových služeb (usegalaxy.org, usegalaxy.eu) a zároveň nabízí registrovaným uživatelům MetaCentra výrazně vyšší uživatelské kvóty (výpočetní i úložné). Zde jsou některé klíčové vlastnosti:

• flexibilní nástroj, který podporuje různé typy dat a analýz. Můžete ho použít pro bioinformatiku, chemii, fyziku, sociální vědy a další obory.
• umožňuje vytvářet a sdílet pracovní toky (workflows), které mohou obsahovat různé kroky (filtrace, transformace, analýza a vizualizace dat)
• umožňuje propojení s dalšími nástroji a knihovnami (Python, R nebo SQL) pro pokročilé analýzy
• nástroje pro vizualizaci dat  (grafy, mapy a animace)

Více informací: https://docs.metacentrum.cz/related/galaxy/

b) RepeatExplorer Galaxy

Vedle obecně využitelné Galaxy nabízíme našim uživatelům specializovanou instanci Galaxy s nástrojem Repeat Explorer. Ke službě je potřeba se registrovat.

RepeatExplorer je výkonný nástroj pro zpracování dat, který je založen na platformě Galaxy. Jeho hlavním účelem je charakterizace opakujících se sekvencí v datech získaných ze sekvenování.  Klíčové vlastnosti:

• umožňuje identifikovat a analyzovat repetitivní sekvence v genomu
• grafické shlukování umožňuje vizualizaci repetitivních sekvencí
• zahrnuje nástroje pro detekci proteinových kódových domén transponovatelných elementů.

Více informací: https://galaxy-elixir.cerit-sc.cz/


OnDemand

Open OnDemand https://ondemand.grid.cesnet.cz/ je služba, která uživatelům umožňuje přístup k výpočetním zdrojům přes webový prohlížeč v grafickém režimu. Uživatel může spouštět běžné úlohy PBS, získat přístup k frontend terminálům, kopírovat soubory mezi úložišti nebo spouštět několik grafických aplikací přímo v prohlížeči. Některé z funkcí:

• umožňuje prohlížení a správu souborů v domovském adresáři na úložišti /storage/brno2 a také přístup k dalším úložištím v MetaCentru
• zobrazuje seznam vašich běžících úloh na libovolném PBS serveru, lze vytvářet a spouštět nové úlohy
• poskytuje terminálový přístup k front-endům skirit/zuphux/elmo
• nabízí interaktivní grafické uživatelské rozhraní, včetně MetaCentrum Remote Desktop, ANSYS, MATLAB, Jupyter Notebooks, RStudio,..

Více nformací: https://docs.metacentrum.cz/software/ondemand/


Kubernetes/Rancher

Celá řada grafických aplikací je dostupná rovněž v Kubernetes / Rancher https://rancher.cloud.e-infra.cz/dashboard/ ve správě Centra CERIT-SC (Ansys, Remote Desktop, Matlab, RStudio, …)
 
Více informací: https://docs.cerit.io/


JupyterNotebooky

Jupyter Notebooks jsou prostředím „as a Service“ založeným na technologii Jupyter. Jedná se o nástroj, který je dostupný přes webový prohlížeč a umožňuje uživatelům kombinovat kód (zejména v jazyce Python), výstupy ve formátu Markdown, text, matematiku, výpočty a bohatý mediální obsah.
Uživatelé MetaCentra mohou využívat Jupyter Notebooks ve třech variantách:

a) v cloudu: Pro uživatele MetaCentra je dostupný Jupyter přes MetaCentrum Cloud Hub. Registrace není nutná, stačí se přihlásit pomocí svého Metacentrum účtu. Více informací: https://docs.metacentrum.cz/related/jupyter/

b) v Kubernetes: Jupyter lze také provozovat v Kubernetes clusteru. V tomto případě se přihlašuje také pomocí Metacentrum přihlašovacích údajů.  
Více informací: https://docs.cerit.io/docs/jupyterhub.html

c) jako aplikace v OnDemand
 https://ondemand.grid.cesnet.cz/


AlphaFold

AlphaFold je populární nástroj založený na umělé inteligenci, který slouží k predikci 3D struktury proteinů. Jeho revoluční přístup v oblasti biochemie a návrhu léčiv umožňuje přesněji předpovídat, jak se proteiny skládají do třídimenzionálních struktur. Opět jej nabízíme ve třech variantách:

a) Centrum CERIT-SC nabízí přístup k AlphaFold as a Service ve webovém prohlížeči (jako předpřipravený Jupyter Notebook)
Více informací: https://docs.cerit.io/docs/alphafold.html

b) v dávkových úlohách v OnDemand https://ondemand.grid.cesnet.cz/pun/sys/myjobs/workflows/new

c) v dávkových úlohách pomocí RemoteDesktop a předpřipravených kontejnerů pro Singularity

Více informací: https://docs.metacentrum.cz/software/sw-list/alphafold/

5) Stěhování dat z archivního úložiště v Ostravě (převzato od DU CESNET)

Archivní úložiště du4.cesnet.cz v MetaCentru připojené jako storage-du-cesnet.metacentrum.cz je již mimo záruku a vykazuje řadu technických problémů v mechanice páskové knihovny, což neohrožuje samotná uložená data, ale komplikuje jejich dostupnost. Kolegové z Datových úložišť CESNET připravují přesun stávajících dat na nový systém (Object Storage).

Nyní je potřeba co nejvíce utlumit provoz na tomto úložišti, prosíme proto

• omezte zápis i čtení z tohoto/na toto úložiště
• nepoužívejte data z tohoto úložiště přímo pro výpočty v MetaCentru

Pokud potřebujete zde uložená data k výpočtům, domluvte si prioritní přesun s kolegy na du-support(at)cesnet.cz
Pokud naopak zde máte uložená data, která již neplánujete používat ani stěhovat (například staré zálohy), prosíme, kontaktujte rovněž kolegy na du-support(at)cesnet.cz
 

Pozvánka na kurzy SVS FEM (Ansys)

Vážení uživatelé,

přeposíláme pozvánku s kurzy SVS FEM (Ansys):

​​​​​​​SVS FEM s.r.o., Trnkova 3104/117c, 628 00 Brno
+420 543 254 554  | http://www.svsfem.cz

 

S přáním příjemného počítání,

Rušení diskových polí /storage/brno3-cerit/ a /storage/brno1-cerit/

Z důvodu poruchovosti a stáří jsme nedávno zrušili, nebo v dohledné době rušit plánujeme, stará disková pole Centra CERIT-SC:
    •    /storage/brno3-cerit/
    •    /storage/brno1-cerit/

Rušení /storage/brno3-cerit/

Nedávno jsme zrušili diskové pole /storage/brno3-cerit/ a data z /home adresářů jsme přesunuli do /storage/brno12-cerit/home/LOGIN/brno3  (alternativně přímo do /home, pokud byl na novém úložišti prázdný).
Dočasně zůstal funkční symlink /storage/brno3-cerit/home/LOGIN/…, který vede na stejná data na novém poli.  Od nynějška prosím používejte novou cestu ke stejným datům /storage/brno12-cerit/home/LOGIN/…

Všechna data z brno3 jsou již fyzicky přestěhována na nové pole! Není potřeba nic nikam kopírovat.
 

 
Rušení /storage/brno1-cerit/

V blízké budoucnosti začneme stěhovat data z diskového pole  /storage/brno1-cerit/ do /storage/brno12-cerit/home/LOGIN/brno1/.

Data přestěhujeme my, v době, kdy nebudou používána v úlohách.

Dočasně zůstane funkční symlink /storage/brno1-cerit/home/LOGIN/…, který povede na stejná data na novém poli. Ten bude po zrušení pole smazán a data budou dostupná jako  /storage/brno12-cerit/home/LOGIN/brno1/.
 

POZOR na poli  /storage/brno1-cerit/ jsou uložená také data z archivů starých, dávno zrušených diskových polí. Data z archivů neplánujeme přenášet automaticky! Pokud data z následujících archivů používáte, ozvěte se nám na meta@cesnet.cz, potřebná data překopírujeme rovněž do /storage/brno12-cerit/:
    •    /storage/brno4-cerit-hsm/
    •    /storage/brno7-cerit/
    •    /storage/jihlava1-cerit/
 

 

Výsledek

Jediným diskovým polem, připojeným do MetaCentra z Centra CERIT-SC, bude nadále /storage/brno12-cerit/ (storage-brno12-cerit.metacentrum.cz)
Všechna svá data najdete na diskovém poli /storage/brno12-cerit/home/LOGIN/… a symlinky na stará úložiště budou nejpozději v létě zrušeny.
 
S omluvou za komplikace a s přáním pěkného dne,
Vaše MetaCentrum
 

Pozvánka LUMI Intro Course

Vážení uživatelé,

přeposíláme pozvánku s kurzy v IT4Innovation.

Dear Madam / Sir,   The LUMI consortium invites you to the online LUMI Intro course on 8 February, a discussion on the specifics and peculiarities of LUMI. This one-day online course serves as a short introduction to the LUMI architecture and setup. It will include lessons about the hardware architecture, compiling, using software and running jobs efficiently. Users who don’t have an account on LUMI yet will receive temporary access for the purpose of the course. Please do not hesitate to contact the LUMI User Support Team if you need assistance. After the course, you will be able to work efficiently on both the CPU (LUMI-C) and GPU partition (LUMI-G). Ready to embark on your LUMI journey? Register for the course by 5 February. LUMI Intro Course Please also note the EuroHPC JU Benchmark and Development Access calls, where you can request computational resources to familiarise yourself with LUMI, test or benchmark your software, and develop your software further. The purpose of these EuroHPC JU Access Calls is to support your experience with LUMI before you apply for an Extreme Scale and/or Regular Access via the EuroHPC JU or the IT4Innovations Open Access Grant Competition. Please find the current EuroHPC JU calls here. Information on the LUMI supercomputer can also be found on the IT4Innovations website here.  Best regards,  IT4Innovations pr@it4i.cz

S přáním příjemného počítání,

Novinky infrastruktury MetaCentrum & CERIT-SC

Novinky infrastruktury MetaCentrum & CERIT-SC

1) Přispěli jsme k projektu, který získal AI Awards 2023

Výzkumníci z Katedry kybernetiky FAV ZČU, kteří na jaře přednášeli na Gridovém semináři MetaCentra, a se kterými jsme nedávno připravili reportáž o využívání našich služeb, získali ocenění AI Awards 2023. Gratulujeme!

Za oceněným projektem zachování historického dědictví a kulturní paměti, který spočívá ve zpřístupnění archivu historických dokumentů NKVD/KGB, stojí také naše služby, zejména Kubernetes cluster Kubus a s ním spojená disková úložiště.

Tyto výpočetní a datové zdroje k řešení velmi náročných úloh spravuje pro oblast vědy a výzkumu MetaCentrum. Více informací v tiskové zprávě ZČU.

2) Účastníme se Czech Space Week

Náš kolega Zdeněk Šustr dnes vystupuje na konferenci Copernicus forum a Inspirujme se 2023 ve Hvězdáně a planetáriu v Brně. Představí nové služby, data a plány národního uzlu Sentinel CollGS a projekt GREAT. Konference je součástí akce Czech Space Week. Je zaměřena na dálkový průzkum Země a infrastruktury INSPIRE pro sdílení prostorových dat.

Projekt GREAT je financován z prostředků Evropské unie, programu Digital Europe Programme (DIGITAL – ID: 101083927).

Pozvánka na podzimní HPC kurzy

Vážení uživatelé,

přeposíláme pozvánku s kurzy v IT4Innovation.

Mastering Transformers: From Building Blocks to Real-World Applications For the past five years, the amount of transformer-based architectures has grown significantly and continues to dominate the deep learning domain. They can be considered another leap innovation that further pushes deep neural network performance and scalability boundaries. They have been demonstrated with the most significant models using over half a trillion parameters and scaled up to thousands of GPUs. In this course, participants learn the building blocks of transformer architectures to apply them to their projects. These novel methods will be differentiated against existing methods, showing their advantages and disadvantages. Different hands-on exercises give the participants room to explore how the transformers work in various fields of application.   Date: 11–13 September 2023, 12:30 - 16:30 CET  Registration deadline: 6 September 2023 Venue: online via Zoom Tutors: Tugba Taskaya Temizel, Alptekin Temizel, Georg Zitzlsberger Language: English More information and registration at https://events.it4i.cz/event/191/   Parallel Computing with MATLAB and Scaling MATLAB Code to the HPC Cluster This two-part hands-on workshop will introduce you to parallel computing with MATLAB so that you can solve computationally and data-intensive problems using multicore processors, GPUs, and computer clusters. Date: 8 November 2023, 9 am to 5 pm Registration deadline: 1 November 2023 Venue: online via Zoom, onsite at IT4Innovations, Studentská 6231/1B, 708 00 Ostrava – Poruba, Czech Republic Tutors: Raymond Norris, MathWorks; Dr. Shubo Chakrabarti, MathWorks Language: English More information and registration at https://events.it4i.cz/event/193/ For more information and registration, please visit the workshop web page or write us at training@it4i.cz.  We are looking forward to meeting you online and onsite. Best regards, Training Team NCC Czech Republic training@it4i.cz

S přáním příjemného počítání,

Tipy dne na frontendech

Vážení uživatelé,

na základě zpětné vazby, kterou jsme od Vás získali v uživatelském dotazníku z přelomu roku, jsme nejčastější dotazy zpracovali do podoby Tipu dne.

Nově se Vám zobrazí na všech frontendech náhodná rada v podobě krátkého textu na konci výpisu MOTD po přihlášení na frontend.

Zobrazování tipů si můžete na vybraném frontendu deaktivovat pomocí přikazu "touch ~/.hushmotd".

S přáním příjemného počítání,

Nejpokročilejší systém pro AI a dva nové clustery pro náročné výpočty v MetaCentru

Vážení uživatelé,

s radostí oznamujeme, že jsme do MetaCentra pořídili nový velice zajímavý HW.

Více informací najdete také v tiskové zprávě e-INFRA CZ "Vědci v ČR získali nejpokročilejší systém pro AI a dva nové clustery pro náročné technické výpočty"

1) NVIDIA DGX H100

Masarykova univerzita (CERIT-SC) se stala průkopníkem v oblasti podpory umělé inteligence (AI) a výkonné výpočetní technologie díky instalaci nejnovějšího a nejvyspělejšího systému NVIDIA DGX H100. Jedná se o první zařízení tohoto typu v celé ČR (a Evropě), které přináší extrémní výpočetní sílu a inovativní možnosti pro výzkum.

Díky nejnovější architektuře GPU NVIDIA Hopper DGX H100 disponuje osmi pokročilými grafickými procesory NVIDIA H100 Tensor Core, každý s GPU pamětí 80 GB. Umožňuje tak paralelní zpracování obrovských datových objemů a výrazně urychluje výpočetní úlohy.

Konfigurace systému NVIDIA DGX H100 capy.cerit-sc.cz

• 8 GPU H100 80GB SXM5
• 135 168 CUDA jader
• 640 GB GPU paměti
• 2 TB RAM paměti
• 3,84 TB NVMe pro OS
• 30 TB NVMe pro data
• lokalita: Brno (CERIT-SC)

Server DGX H100 je dodáván s předinstalovaným softwarovým balíčkem NVIDIA DGX, který obsahuje komplexní sadu softwarových nástrojů pro hluboké učení, včetně předkonfigurovaných prostředí.

Stroj je přístupný na požádání ve speciální frontě gpu_dgx@meta-pbs.metacentrum.cz.

Pro přístup žádejte na adrese meta@cesnet.cz. V žádosti popište důvody pro přidělení tohoto zdroje (potřebnost a schopnost efektivního využítí. Zároveň popište stručně očekávané výsledky, předpokládaný objem zdrojů a časový rozsah potřebného přístupu.

2) Clustery TURIN a TYRA

Kromě toho mohou uživatelé MetaCentra začít využívat dva zcela nové výpočetní clustery, které pořídíl CESNET. První byl zprovozněn v Ústavu molekulární genetiky Akademie věd ČR v Praze-Krči pod názvem TURIN a druhý na Ústavu výpočetní techniky Masarykovy univerzity v Brně pod jménem TYRA.

Pražský cluster TURIN má 52 uzlů, z nichž každý disponuje 64 jádry CPU a 512 GB RAM. Jeho brněnský kolega TYRA je tvořen 44 uzly a jinak s totožnou technickou specifikací.

Oba clustery jsou osazeny procesory AMD společně s technologií AMD 3D V-Cache. Jde o nejvýkonnější serverové procesory určené pro náročné výpočty.

Konfigurace clusterů turin.metacentrum.cz a tyra.metacentrum.cz

• celkem 6144 jader CPU
• celkem 96 uzlů, každý má
  • 64x AMD EPYC 7543@2.80GHz
  • RAM: 512 GB
  • disk: 7TiB NVME
  • vlastník CESNET
  • lokalita: Praha, Brno
• 10Gb uplink do páteřní sítě CESNET

Kompletní seznam aktuálně dostupných výpočetních serverů je na https://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Nový HW v MetaCentru

Masarykova univerzita (CERIT-SC) se stala průkopníkem v oblasti podpory umělé inteligence (AI) a výkonné výpočetní technologie díky instalaci nejnovějšího a nejvyspělejšího systému NVIDIA DGX H100. Jedná se o první zařízení tohoto typu v celé ČR, které přináší extrémní výpočetní sílu a inovativní možnosti pro výzkum.

Díky nejnovější architektuře GPU NVIDIA Hopper DGX H100 disponuje osmi pokročilými grafickými procesory NVIDIA H100 Tensor Core, každý s GPU pamětí 80 GB o celkovém výpočetním výkonu 32 TeraFLOPS. Umožňuje tak paralelní zpracování obrovských datových objemů a výrazně urychluje výpočetní úlohy. Díky vysoce výkonným paměťovým subsystémům v grafických akcelerátorech poskytuje rychlý přístup k datům a optimalizuje výkon při práci s velkými datovými sadami. Uživatelé tak mohou dosáhnout bezkonkurenční efektivity a odezvy ve svých AI úlohách.

Server DGX H100 je dodáván s předinstalovaným softwarovým balíčkem NVIDIA DGX, který obsahuje komplexní sadu softwarových nástrojů pro hluboké učení, včetně předkonfigurovaných prostředí.

Stroj je přístupný na požádání ve speciální frontě gpu_dgx@meta-pbs.metacentrum.cz.

Pro přístup žádejte na adrese meta@cesnet.cz. V žádosti popište důvody pro přidělení tohoto zdroje (potřebnost a schopnost efektivního využít). Zároveň popište  stručně očekávané výsledky, předpokládaný objem zdrojů a časový rozsah potřebného přístupu.

Konfigurace NVIDIA DGX H100 (capy.cerit-sc.cz)

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Nový HW v MetaCentru

MetaCentrum bylo rozšířeno o nové clustery:

1) CPU cluster turin.metacentrum.cz, 52 uzlů, 3328 jader CPU, s následující specifikací každého uzlu:

• CPU: 64x AMD EPYC 7543@2.80GHz
• RAM: 512 GiB
• disk: 2x3.84 TiB NVME
• Net:  Ethernet 10 Gbit/s
• OS: Debian 11
• výkon každého uzlu je dle SPECrate 2017_fp_base = 516
• vlastník CESNET, Praha

2)  CPU cluster tyra.metacentrum.cz, 44 uzlů, 2816 jader CPU, s následující specifikací každého uzlu:

• CPU: 64x AMD EPYC 7543@2.80GHz
• RAM: 512 GiB
• disk: 2x3.84 TiB NVME
• Net: Ethernet 10 Gbit/s
• OS: Debian 11
• výkon každého uzlu je dle SPECrate 2017_fp_base = 516
• vlastník CESNET, Brno

Clustery jsou dostupné v prostředí plánovacího serveru @pbs-meta prostřednictvím standardních krátkých front. Po otestování budou přidány i delší fronty.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Dokumentace MetaCentra se stěhuje

Vážení uživatelé,

připravili jsme pro Vás novou dokumentaci MetaCentra, která je dostupná na https://docs.metacentrum.cz/ .

Obsah jsme strukturovali podle témat, která Vás zajímají, ta najdete v horní liště. Po rozkliknutí vybraného tématu se rozbalí pomocné menu vlevo s další navigací. V pravo je pak obsah s tématy obsaženými na stránce.

Do přípravy dokumentace jsme promítli i zpětnou vazbu, kterou jste nám poslali v dotazníku (děkujeme). Například jsme pročistili spoustu neaktuálních informací, které zůstávaly dohledatelné ve wiki a pokusili jsme se zpřehlednit výukové příklady.

Kvůli možnosti zpětného dohledání informací nebude původní dokumentace smazána hned, ale zůstane dočasně přístupná. Od konce března 2023 však není aktualizována!

Proč jsme zvolili jiný formát dokumentace a opustili wiki?

Jak jistě víte, probíhá integrace poskytovaných služeb do jednotné platformy e-INFRA CZ*. Součástí této integrace je sjednocení formátu všech uživatelských dokumentací. Do budoucna naši novou dokumentaci začleníme do společné dokumentace všech poskytovaných služeb v rámci aktivit e-INFRA CZ https://docs.e-infra.cz/.

-----
* e-INFRA CZ je infrastruktura pro vědu a výzkum, která spojuje a koordinuje aktivity tří českých e-infrastruktur: CESNET, CERIT-SC a IT4Innovations. Více informací naleznete na domovské stránce e-INFRA CZ https://www.e-infra.cz/. 

-----

Nová dokumentace stále prochází vývojem a změnami. V případě, že narazíte na jakékoliv problémy, nejasnosti nebo Vám něco chybí, dejte nám prosím vědět na e-mailu meta@cesnet.cz . Už teď přemýšlíme, jak pro Vás ještě lépe rozpracovat část dokumentace věnované instalacím SW.

S pozdravem,

tým MetaCentra

Další kolo grantové soutěže v IT4Innovations Natinal Supercomputeing Center

Vážení uživatelé,

dovolujeme si přeposlat informaci o grantové soutěži v IT4I: 

Dear Madam/Sir, Applications are open for the 28th Open Access Grant Competition of IT4Innovations National Supercomputing Center. You can apply for the computational resources until 4 April 2023. The results will be announced in May 2023, and the period to use obtained computational resources is expected to start a couple of days after the results announcement. For more information about the call and application, please visit our website. We would also like to remind you the Mandatory acknowledgement at the achieved deliverables: This work was supported by the Ministry of Education, Youth and Sports of the Czech Republic through the e-INFRA CZ (ID:90140). Yours faithfully, IT4Innovations

Pozvánka na hybridní školení Introduction to MPI

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na hybridní školení Introduction to MPI:

--

Dear Madam / Sir,
 
The Czech National Competence Center in HPC is inviting you to a course Introduction to MPI, which will be held hybrid (online and onsite) on 30–31 May 2023.
 
Message Passing Interface (MPI) is a dominant programming model on clusters and distributed memory architectures. This course is focused on its basic concepts such as exchanging data by point-to-point and collective operations. Attendees will be able to immediately test and understand these constructs in hands-on sessions. After the course, attendees should be able to understand MPI applications and write their own code.
 
Introduction to MPI
Date:  30–31 May 2023, 9 am to 4 pm
Registration deadline: 23 May 2023
Venue: online via Zoom, onsite at IT4Innovations, Studentská 6231/1B, 708 00 Ostrava–Poruba, Czech Republic
Tutors: Ondřej Meca, Kristian Kadlubiak 
Language: English
Web page:  https://events.it4i.cz/event/165/

Please do not hesitate to contact us might you have any questions. Please write us at training@it4i.cz.  

We are looking forward to meeting you online and onside.

Best regards, 
Training Team IT4Innovations
training@it4i.cz

Pozvanka na tradicni Seminar gridoveho pocitani - MetaCentrum

Vážení uživatelé,

Rádi bychom Vás pozvali na tradiční Seminář MetaCentra, který se bude konat v Praze 12. a 13. dubna 2023.

Společně s EOSC CZ jsme připravili bohatý program, který by Vás mohl zajímat.

První den akce bude věnován EOSC CZ aktivitám, především pak přípravě národní repozitářové platformy a ukládání/archivování výzkumných dat v ČR.

Druhý den pak proběhne Seminář gridového počítání 2023, který bude zaměřen na představení novinek a nových služeb, které MetaCentrum nabízí.

Mezi nimi budou například Singularity kontejnery, NVIDIA framework pro AI, Galaxy, grafická prostředí v OnDemand a Kubernetes, Jupyter Notebooky, Matlab (zvaná přednáška) a mnoho dalšího. Odpoledne se bude konat volitelný Hands-on workshop s omezenou kapacitou, kde si dozvíte mnoho zajímavého a pod vedením našich odborníků si můžete vyzkoušet témata, která Vás zajímají.

Protože chceme, aby Seminář odpovídal Vašim potřebám, budeme velmi rádi, když nám sdělíte, která témata Vás zajímají a co byste si chtěli vyzkoušet. Pokusíme se je zařadit do programu. Náměty prosím pište na meta@cesnet.cz.

Podrobnější informace a registraci najdete na stránce semináře: https://metavo.metacentrum.cz/cs/seminars/Seminar2023/index.html

Těšíme se na Vaši účast! Seminář proběhne v českém jazyce. 

Vaše MetaCentrum

Nový způsob výpočtu fairshare

Vážení uživatelé,

rádi bychom vám oznámili, že od od čtvrtka 9. 3. 2023 se mění způsob výpočtu fairshare. Přidáváme nový koeficient s názvem "spec", který bere v úvahu rychlost výpočetního uzlu, na kterém běží úloha.

Dosud se "usage fairshare" počítal jako usage = used_walltime*PE , kde PE je "procesor ekvivalent" vyjadřující kolik zdrojů (ncpus, mem, scratch, gpu...) si uživatel na stroji alokoval.

Nově se bude počítat jako usage = spec*used_walltime*PE, kde "spec" značí koeficient, který vystihuje výkon hlavního uzlu (spec na jádro), na kterém běží úloha. Tento koeficient nabývá hodnot od 3 do 10.

Doufáme, že vám tato změna umožní ještě efektivnější využití našich výpočetních zdrojů. Pokud máte jakékoli dotazy, neváhejte nás kontaktovat.

Nová verze grafického rozhraní OnDemand

Vážení uživatelé,

připravili jsme novou verzi grafického prostředí OnDemand, které je dostupné nově na https://ondemand.metacentrum.cz

Open OnDemand je služba, která uživatelům umožňuje přístup k výpočetním zdrojům přes webový prohlížeč v grafickém režimu. Uživatel může spouštět běžné úlohy PBS, získat přístup k frontend terminálům, kopírovat soubory mezi našimi úložišti nebo spouštět několik grafických aplikací v prohlížeči. Mezi nejpoužívanější dostupné aplikace patří Matlab, ANSYS, MetaCentrum Remote Desktop a VMD (viz úplný seznam GUI aplikací dostupných přes OnDemand). Grafické relace jsou trvalé, můžete k nim přistupovat z různých počítačů v různých časech nebo dokonce současně.

Přihlašovací jméno a heslo do rozhraní Open OnDemand V2 je vaše přihlašovací jméno e-INFRA CZ / Metacentrum a heslo Metacentra.

Více informací najdete v dokumentaci: https://wiki.metacentrum.cz/wiki/OnDemand

Pozvánka na hybridní školení High Performance Data Analysis with R, 26–27

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na hybridní školení High Performance Data Analysis with R:

--

Dear Madam / Sir,
 
The Czech National Competence Center in HPC is inviting you to a course High Performance Data Analysis with R, which will be held hybrid (online and onsite) on 26–27 April 2023.
 
This course is focused on data analysis and modeling in R statistical programming language. The first day of the course will introduce how to approach a new dataset to understand the data and its features better. Modeling based on the modern set of packages jointly called TidyModels will be shown afterward. This set of packages strives to make the modeling in R as simple and as reproducible as possible.
 
The second day is focused on increasing computation efficiency by introducing Rcpp for seamless integration of C++ code into R code. A simple example of CUDA usage with Rcpp will be shown. In the afternoon, the section on parallelization of the code with future and/or MPI will be presented.
 
High Performance Data Analysis with R
Date:  26–27 April 2023, 9 am to 5 pm
Registration deadline: 20 April 2023
Venue: online via Zoom, onsite at IT4Innovations, Studentská 6231/1B, 708 00 Ostrava – Poruba, Czech Republic
Tutor: Tomáš Martinovič
Language: English
Web page: https://events.it4i.cz/event/163/

Please do not hesitate to contact us might you have any questions. Please write us at training@it4i.cz.  

We are looking forward to meeting you online and onside.

Best regards, 
Training Team IT4Innovations
training@it4i.cz

Poskytnutí zpětné vazby ke službám MetaCentra

Vážení uživatelé,

Rádi bychom se dozvěděli, co si myslíte o námi poskytovaných službách.

Najděte si prosím přibližně 15 minut na vyplnění formuláře pro zpětnou vazbu a poskytněte nám tak cenné informace potřebné pro rozvoj našich služeb.

Chápeme, že Váš čas strávený nad tímto dotazníkem je cenný, a proto každý, kdo formulář vyplní a bude mít vyplněné přihlašovací údaje do e-INFRA CZ, od nás obdrží odměnu v podobě 0,5 impaktované publikace, která navýší fairshare a zvýší prioritu uživatele v prostředí PBS.

Formulář pro zpětnou vazbu (vyberte prosím libovolnou jazykovou variantu):

Děkujeme vám za Vaši zpětnou vazbu. Přejeme Vám mnoho úspěchů a publikací i v roce 2023.

S pozdravem,

Vaše MetaCentrum
  

Nová fronta uv18.cerit-pbs.cerit-sc.cz na stroji ursa

Vážení uživatelé,

kvůli optimalizaci na NUMA systému serveru ursa byla zavedena fronta uv18.cerit-pbs.cerit-sc.cz, která umožňuje alokovat procesory pouze po nasobcích 18 tak, aby byl vždy využit celý NUMA node a nedocházelo k výraznému zpomalování výpočtu při zbytečné alokaci úlohy na více numa nodů.

Do fronty jsou proto přijímány pouze úlohy v násobcích 18 jader CPU a má vysokou prioritu.

S pozdravem,

Vaše MetaCentrum
  

Nový parametr PBS: spec

Vážení uživatelé,

nově je možné při žádosti o zdroje pro výpočetní úlohu zadat minimální rychlost CPU výpočetního nodu, t.j. zajistit, aby výpočetní uzel, na kterém úloha poběží, neměl procesor pomalejší než je určitá definovaná hodnota. Tento parametr se jmenuje spec a jeho číselná hodnota vychází z metodiky https://www.spec.org/ . Více k použití parametru spec se dočtete v naší uživatelské wiki na https://wiki.metacentrum.cz/wiki/About_scheduling_system#CPU_speed.

Vyžádání strojů s rychlejším procesorem může vést ke zkrácení výpočetní doby, na druhou stranu se tím omezuje množina nodů, kterou má úloha potenciálně k dispozici, a úloha tedy může čekat déle ve frontě. Používejte proto parametr spec s rozmyslem.

S pozdravem,

Vaše MetaCentrum
 

Identifikace slabých hesel

Vážení uživatelé,

V rámci kontroly zabezpečení infrastruktury Metacentra jsme identifikovali
několik slabých uživatelských hesel.  Aby byla zajištěna dostatečná ochrana
prostředí Metacentra, bude u příslušných uživatelů potřeba, aby provedli změnu
svého hesla na portále MetaCentra
(https://metavo.metacentrum.cz/cs/myaccount/heslo.html).

Uživatele, kterých se to týká, budeme kontaktovat přímo.

V případě dotazů se prosím obraťte na meta@cesnet.cz.

S pozdravem,

Vaše MetaCentrum
 

Novinky infrastruktury MetaCentrum & CERIT-SC

Novinky infrastruktury MetaCentrum & CERIT-SC

1) Přístup he GUI aplikacím z prohlížeče

Uživatelé mohou nově přistupovat ke grafickému rozhraní aplikací proklikem přes webový prohlížeč. Návod na wiki https://wiki.metacentrum.cz/wiki/Remote_desktop#Quick_start_I_-_Run_GUI_desktop_in_a_web_browser.

 Dřívější způsob přístupem přes VNC klienta je nadále možný - viz https://wiki.metacentrum.cz/wiki/Remote_desktop#Quick_start_II_-_Run_GUI_desktop_in_a_VNC_session a následující návody.
 

2) Historie uživatelských úloh

Uživatelé mohou nově získat historii svých úloh, včetně těch starších než 24 hodin, příkazem
 

pbs-get-job-history <job_id>

Pokud příkaz nalezne úlohu v archivu, vytvoří v aktuálním adresáři podadresář s názvem job_ID (např. 11808203.meta-pbs.metacentrum.cz), který obsahuje několik souborů. Důležité jsou zejména

job_ID.SC - kopie skriptu předaného příkazu qsub
job_ID.ER - standardní výstup úlohy (STDOUT)
job_ID.OU - standardní chybový výstup úlohy (STDERR)

Více informací je k dispozici v dokumentaci: https://wiki.metacentrum.cz/wiki/PBS_get_job_history

3) Nastavení paměti na GPU kartách

Na GPU kartách mohou nově uživatelé specifikovat, kolik nejméně paměti musí mít GPU karta k dispozici. K tomu slouží parametr gpu_mem. Například příkaz

qsub -q gpu -l select=1:ncpus=2:ngpus=1:mem=10gb:scratch_local=10gb:gpu_mem=10gb -l walltime=24:0:0

zařídí, aby se úloze přidělil stroj s GPU kartou, která má alespoň 10 GB paměti. 

Více informací je k dispozici v dokumentaci https://wiki.metacentrum.cz/wiki/GPU_stroje

V souvislosti s tím bychom uživatele rádi upozornili, že pro specifikaci GPU karet je vhodnější používat kombinaci parametrů

gpu_mem a cuda_cap než název konkrétního klastru. Prvně uvedený způsob zahrne širší množinu strojů a tím pádem se zkrátí čekání úlohy ve frontě.

Pozvánka na ESFRI Open Session

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na ESFRI Open Session

--

Dear All,

I am pleased to invite you to the 3rd ESFRI Open Session, with the leading theme Research Infrastructures and Big Data. The event will take place on June 30^th 2022, from 13:00 until 14:30 CEST and will be fully virtual. The event will feature a short presentation from the Chair on recent ESFRI activities, followed by presentations from 6 Research infrastructures on the theme and there will also be an opportunity for discussion. The detailed agenda of the 3rd Open Session will soon be available via the event webpage.

ESFRI holds Open Sessions at its plenary meetings twice a year, to communicate to a wider audience about its activities. They are intended to serve both the ESFRI Delegates and representatives of the Research Infrastructures community, and facilitate both-ways exchange. ESFRI has launched the Open Session initiative as a part of the goals set within the ESFRI White Paper - Making Science Happen.

I would like to inform you that the Open Session will be recorded and will be at your disposal at our ESFRI YouTube channel. The recordings from the previous Open Sessions themed around the ESFRI RIs response to the COVID-19 pandemic, and the European Green Deal, are available here.

Please forward this invitation to your colleagues in the EU Research & Innovation ecosystem that you deem would benefit from the event.

Registration is mandatory for participation, and should be done via the following link:

https://us06web.zoom.us/webinar/register/WN_0-sM43ktT3mPuCzXi3KNdQ

Your attendance at the Open Session will be highly appreciated.

Sincerely,

Jana Kolar,

ESFRI Chair

Pozvánka na Seminář gridového počítání 2022 + Konference e-INFRA CZ

Vážení uživatelé,

Dovolujeme si Vás tímto pozvat k účasti na Seminář gridového počítání - MetaCentrum 2022, který se koná 10. května 2022 v Praze v hotelu Diplomat.

Seminář je součástí konference e-infrastruktury e-INFRA CZ 2022 https://www.e-infra.cz/konference-e-infra-cz

Představíme Vám infrastrukturu e-INFRA CZ, její služby, mezinárodní projekty a výzkumné aktivity. Seznámíme vás s aktuálními novinkami a nastíníme naše plány.

V odpoledním programu vám nabídneme dvě paralelní sekce. Jedna se zaměří na rozvoj sítě, její bezpečnost a multimédia a druhá na zpracování a ukládání dat - Seminář gridového počítání MetaCentrum 2022.

V podvečer se pak zájemci mohou zúčastnit bonusové sekce Gridová služba MetaCentrum - Best Practices s následnou volnou diskuzí o tématech, která Vás zajímají a nedají Vám spát.

Více informací, program a registraci najdete na stránce akce https://metavo.metacentrum.cz/cs/seminars/seminar2022/index.html

Na shledanou se těší Vaše MetaCentrum

Nový HW v MetaCentru

MetaCentrum bylo rozšířeno o nové clustery:

1) GPU cluster

galdor.metacentrum.cz vlastník CESNET, 20 uzlů, 1280 jader CPU a 80 GPU kartami NVIDIA A40, s následující specifikací každého uzlu:

• CPU: 64x AMD EPYC 7543
• RAM: 512 GiB
• GPU: 4x NVIDIA A40
• disk: 2x7.68 TiB NVME
• Net: x Ethernet 10 Gbit/s
• OS: Debian 11
• výkon každého uzlu je dle SPECfp2017: 513 (8 na jádro)

Cluster je dostupný v prostředí plánovacího serveru @pbs-meta prostřednictvím standardních krátkých front a prioritní fronty gpu. 

Na GPU clusterech je možné využívat dockerové obrazy z NVIDIA GPU Cloud (NGC) -- nejpoužívanější prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění spuštění v Docker kontejneru v Singularity. Více informací najdete na https://wiki.metacentrum.cz/wiki/NVidia_deep_learning_frameworks

2)  CPU cluster

halmir.metacentrum.cz vlastník CESNET, 31 uzlů, 1984 jader CPU, s následující specifikací každého uzlu:

• CPU: 64x AMD EPYC 7543
• RAM: 1024 GiB
• disk: 2x7.68 TiB NVME
• Net: Ethernet 10 Gbit/s
• OS: Debian 11
• výkon každého uzlu je dle SPECfp2017: 513 (8 na jádro)

Cluster je dostupný v prostředí plánovacího serveru @pbs-meta prostřednictvím standardních krátkých front. Po otestování budou přidány i delší fronty.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

Problémy s kompatibilitou některých aplikací s OS Debian11 průběžně řešíme rekompilací nových SW modulů. Pokud narazíte na problém u své aplikace, vyzkoušejte přidání modulu debian10-compat na začátek spouštěcího skriptu. Pokud problémy přetrvávají, dejte nám vědět na meta(at)cesnet.cz.

S přáním příjemného počítání,

Pozvánka na webinář Kubernetes

Vážení uživatelé,

zveme Vás na webinář Představení Kubernetes jako další výpočetní platformy dostupné uživatelům MetaCentra
 

Nové algoritmy autentizace uživatelů

Vážení uživatelé,

v infrastruktuře MetaCentrum pokračujeme v přechodu na nové algoritmy používané pro autentizaci uživatelů a ověření jejich hesel.

Nové algoritmy jsou bezpečnější a přináší podporu nových zařízení a operačních systémů. Pro dokončení přechodu bude u některých uživatelů potřeba, aby provedli nové zadání svého hesla v aplikaci pro změnu hesla na portále Metacentra (https://metavo.metacentrum.cz/cs/myaccount/heslo.html).

Uživatele, kterých se to týká, budeme kontaktovat přímo.

Připomínáme, že po uživatelích nikdy nepožadujeme zasílání hesel mailem. Veškeré informace o správě hesel jsou dostupné ze stránek MetaCentra.

V případě dotazů se prosím obraťte na support@metacentrum.cz.

S pozdravem,

Vaše MetaCentrum

Pozvánka na EGI webinar OpenRDM

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na EGI webinář OpenRDM

--

Dear all


I'm please to announce the first webinar in the new year which is related to the current hot topic, Data Space. Register now to reserve your place!

Title: openRDM
Date and Time: Wednesday, 12th January 2022 |14:00 -15:00 PM CEST

Description: The talk will introduce OpenBIS, an Open Biology Information System, designed to facilitate robust data management for a wide variety of experiment types and research subjects. It allows tracking, annotating, and sharing of data throughout distributed research projects in different quantitative sciences.

Agenda: https://indico.egi.eu/event/5753/
Registration: us02web.zoom.us/webinar/register/WN_6xn2eqnjTI60-AtB6FKEEg 

Speaker: Priyasma Bhoumik, Data Expert, ETH Zurich. Priyasma holds a PhD in Computational Sciences, from University of South Carolina, USA. She has worked as a Gates Fellow in Harvard Medical School to explore computational approaches to understanding the immune selection mechanism of HIV, for better vaccine strategy. She moved to Switzerland to join Novartis and has worked in the pharma industry in the field of data science before joining ETHZ.   

If you missed any previous webinars, you can find recordings at our website: https://www.egi.eu/webinars/

Please let's know if there are any topics you are interested in, and we can arrange according to your requests.

Looking forward to seeing you on Wednesday!

Yin

----
Dr Yin Chen
Community Support Officer
EGI Foundation (Amsterdam, The Netherlands)
W: www.egi.eu | E: yin.chen@egi.eu | M: +31 (0)6 3037 3096 | Skype: yin.chen.egi | Twitter: @yinchen16

EGI: Advanced Computing for Research
The EGI Foundation is ISO 9001:2015 and ISO/IEC 20000-1:2011 certified
 

Zavedení SHM scratchů

Od nynějška je možné používat nový typ scratche, tzv. SHM scratch. Tento scratch je určen pro úlohy, které potřebují extrémně rychlé čtení a zápis z/do souborů. SHM scratch existuje pouze v RAM, proto jsou data v něm uložená neperzistentní a zanikají s pádem nebo skončením úlohy. Více o použití SHM scratchů se dočtete na stránce https://wiki.metacentrum.cz/wiki/Scratch_storage

S přátelským pozdravem
MetaCentrum

Zrušení úložišť /storage/brno8 a /storage/ostrava1

 Z důvodu obměny hardware budou úložiště /storage/brno8, resp. /storage/ostrava1 zrušena a 27. 9. 2021 budou odpojena. Data z domovských adresářů budou přesunuta do adresáře /storage/brno2/home/USERNAME/brno8. Tento přesun zajistíme. Žádáme nicméně uživatele, aby na rušených úložištích smazali data, která nechtějí zachovávat, a pomohli nám tak zkrátit proces kopírování.

S přátelským pozdravem
MetaCentrum

Nástroj pro prodlužování úloh

Připravili jsme nástroj pro prodlužování úloh, který mohou v omezené míře využít uživatelé k prodloužení svých úloh, u kterých neodhadli potřebný čas walltime.

Úlohy je možné prodloužit z příkazové řádky na libovolném frontendu příkazem

qextend <full jobID> <additional_walltime>

Příklad:

(BUSTER)melounova@skirit:~$ qextend 8152779.meta-pbs.metacentrum.cz 01:00:00
The walltime of the job 8152779.meta-pbs.metacentrum.cz has been extended.
Additional walltime:	01:00:00
New walltime:		02:00:00

• Pro správnou identifikaci úlohy na libovolém frontendu použijte celé ID úlohy (více v Beginners_guide#Track_your_job).
• Formát času může být dvojí
  • jedno číslo - vyjádření času v sekundách -- udává o kolik vteřin má být úloha prodloužena
  • hh:mm:ss - vyjádření hodiny:minuty:vteřiny -- udává, o kolik hodin, minut a vteřin má být úloha prodloužena

Jako prevence proti nadužívání nástroje (přílišná volnost v prodlužování by velmi ztížila plánování úloh) jsme nastavili následující limity:

• zavedli jsme 30 denní interval, po který se sledují předchozí prodlužování uživatele.
• každý uživatel může nástroj v tomto intervalu použít 20 krát
  
• a maximálně prodloužit úlohy o celkových 1440 CPU hodin
  

Interval je klouzavý. Prodloužení úloh starší 30 dnů jsou „zapomenuta“ a již nezabírají Vaši kvótu.

Více informací najdete v dokumentaci https://wiki.metacentrum.cz/wiki/Prolong_walltime

S přátelským pozdravem
MetaCentrum & CERIT-SC

Rušení Hadoop clusteru

Dobrý den,

oznamujeme, že 15.8.2021 dojde ke zrušení clusteru hador poskytující služby Hadoop. Náhradou je virtualizované prostředí v cloudu, včetně navrhovaného postupu vytvoření jednostrojové nebo vícestrojové varianty clusteru.

Více informací:  https://wiki.metacentrum.cz/wiki/Hadoop

S přátelským pozdravem
MetaCentrum

Novinky a změny k ukládání dat

1) Zavedení kvót na maximální počet souborů

Vzhledem k narůstajícímu množství dat na našich polích jsou některé diskové operace již neúměrně dlouhé. Problémy způsobují zejména hromadné manipulace s daty (kopírování celých uživatelských adresářů, prohledávání, zálohování apod). Komplikace působí hlavně velké množství souborů, u některých uživatelů jsou to řádově i desítky miliónů.

Rádi bychom vás touto cestou požádali o kontrolu počtu souborů ve vašich domovských adresářích a jejich redukci.  Aktuální stav je uvedený

• na webu Metacentra v tabulce Můj účet -> Přehled kvót
• se nově zobrazuje i při každém přihlášení na výpočetní frontendy

Kvóta kterou plánujeme zavést bude orientačně 1-2 milióny souborů na uživatele. Věříme, ze pro drtivou většinu z vás bude naprosto dostatečná, v odůvodněných případech bude možno ji navýšit obdobně jako datovou kvótu.

Kvóty plánujeme zavádět postupně v následujících měsících. Při redukci počtu souborů využívejte prosím přistup přímo přes frontendy diskových polí, jak je uvedeno na naší wiki v sekci Práce s daty: https://wiki.metacentrum.cz/wiki/Prace_s_daty

2) Zobrazení způsobu zálohovaní jednotlivých polí

Informace o způsobu zálohování jednotlivých polí jsou uvedeny na výše zmíněné wiki stránce Práce s daty, včetně doporučení jak nakládat s různými typy dat. I když bychom rádi zálohovali vše, není to ekonomicky či technicky vždy možné. Jakkoli jsou nehody vedoucí ke ztrátě dat řídké, rádi bychom opět zdůraznili, že ne každé pole je zálohované a je vhodné na to pamatovat při ukládání důležitých dat.

Abychom vám usnadnili orientaci v režimu záloh jednotlivých polí, nově ji zobrazujeme i v tabulce MOTD při každém přihlášení na výpočetní frontend.

3) Omezení možnosti zápisu do domovských adresářů cizími uživateli

Kvůli zvýšení bezpečnosti našich uživatelů jsme se rozhodli zrušit možnost zápisu cizími uživateli (ACL group a other) do kořenových domovských adresářů, ve kterých se nachází citlivé soubory typu .k5login, .profile apod, u kterých není žádoucí, aby s nimi mohl manipulovat někdo jiný než vlastník.

Proto budeme od 1.7. práva zápisu kontrolovat a strojově odebírat. Možnost zápisu do dalších podadresářů, typicky z důvodu sdílení dat v rámci skupiny, zůstává i nadále zachována.

Více informací naleznete na našich wiki stránkách v sekci Sdílení dat ve skupině:

https://wiki.metacentrum.cz/wiki/Sdileni_dat_ve_skupine

S přátelským pozdravem
MetaCentrum

Novinky k posílení bezpečnosti uživatelských dat

V rámci zvyšování bezpečnostních standardů zavádí Metacentrum 2 novinky:

1) Nový mechanismus monitoringu uživatelských přístupů, jehož cílem je předejít zneužití odcizených přihlašovacích údajů. Nově bude lokace, ze které se uživatel přihlašuje, porovnávána s historií přístupů daného uživatele. V případě, že bude detekováno přihlášení z dosud neznámé lokace, bude uživateli zaslán informační e-mail spolu s žádostí o kontrolu, zda přihlášení skutečně provedl on.

Žádáme uživatele, aby v případě, že zjistí nesrovnalosti, postupovali podle pokynů v informačním e-mailu.

2) Změna šifrování uživatelských hesel. Během úprav bezpečnostní archiktury Metacentra bylo nutné zavést podporu pro nové šifrovací metody, které se používají během přihlašování. K dokončení procesu je nezbytné, aby si uživatelé, kterých se změny týkají, změnili heslo. Samotné heslo není nutné měnit, pouze připomínáme na nutnost používat dostatečně silná hesla.

Uživatele, kterých se změna týká, budeme o nutnosti změnit heslo v následujících týdnech informovat e-mailem.  Připomínáme, že změna hesla se provádí na portále Metacentra na odkazu https://metavo.metacentrum.cz/cs/myaccount/heslo.html

S přátelským pozdravem
MetaCentrum & CERIT-SC

Ohlédnutí za Seminářem gridového počítání 2021

Vážení uživatelé,

dne 21. dubna 2021 proběhl další (desátý) ročník Semináře gridového počítání 2021, tentokráte jako součást třídenní online Konference CESNET 25 http://www.cesnet.cz/konferenceCESNET.

Prezentace z celé konference jsou zveřejněné na stránce konference

Prezentace a videozáznamy ze Semináře gridového počítání, včetně hands-on, jsou k dispozici na webu MetaCentra: https://metavo.metacentrum.cz/cs/seminars/seminar2021/index.html

S přátelským pozdravem
MetaCentrum & CERIT-SC

Dnes začíná online konference CESNET 25

Vážení uživatelé,

dnes začíná Konference e-infrastruktury CESNET!

Zítra proběhne náš Seminář gridového počítání 2021! 

Konference probíhá od úterý 20. 4. do čtvrtka 22. 4. Dopolední sekce začínají v 9:00 a odpolední ve 13:00.

Ke konferenci se připojte přes ZOOM.

20.4.

• 25 let CENETu minulost i výzvy do budoucnosti - https://cesnet.zoom.us/j/95442868018
• Síť a síťové služby -  https://cesnet.zoom.us/j/97963293739

21.4.

• Seminář gridového počítání aneb Počítání a ukládání dat - obecná dopolední část - https://cesnet.zoom.us/j/91612640266
• Podpora spolupráce a multimédia - https://cesnet.zoom.us/j/98881191969
• Seminář gridového počítání aneb počítání a ukládání dat - odpolední hands-on - https://cesnet.zoom.us/j/95297388774

22.4.

• Digitální identity - https://cesnet.zoom.us/j/99487777685
• Bezpečnost - https://cesnet.zoom.us/j/91472096323

Konference také poběží také přes YouTube, odkaz najdete na webu http://www.cesnet.cz/konferenceCESNET v programu u každé sekce.

Podrobný program našeho MetaCentrového semináře: https://metavo.metacentrum.cz/cs/seminars/seminar2021/index.html. Zde budou po skončení akce zveřejněny prezentace ze semináře.

Těšíme se na viděnou!

S přátelským pozdravem
MetaCentrum & CERIT-SC

Pozvánka na online Seminář gridového počítání 21. 4. 2021

Vážení uživatelé,

Dovolujeme si Vás tímto pozvat k účasti na Seminář gridového počítání 2021.

KDY: 21. 4. 2021

KDE: online (před začátkem akce Vám přijde link, pomocí kterého se připojíte na konferenci)

PROGRAM:

V dopolední části našeho semináře zazní přednášky o novinkách v MetaCentru, CERIT-SC i IT4Innovation. Kromě toho se představí naše národní aktivity v prostředí European Open Science Cloud a zazní zkušenosti z naší spolupráce s uživatelskou komunitou ESA, konkrétně o zpracovávání a uchovávání dat z družic Sentinel.

V odpolední části Semináře gridového počítání proběhne prakticky zaměřený Hands-on seminář, který se skládá z 6 samostatných tutorialů na téma obecné rady, grafická prostředí, kontejnery, podpora AI, JupyterNotebooks, nadstavba nad MetaCloudem,...

Seminář je součástí třídenní konference e-infrastruktury CESNET 2021 https://www.cesnet.cz/akce/konferencecesnet/, která se koná 20. - 22. 4. 2021.

REGISTRACE:

Program semináře, konference a registrace na konferenci: https://metavo.metacentrum.cz/cs/seminars/seminar2021/index.html

Těšíme se na viděnou!

S přátelským pozdravem
MetaCentrum & CERIT-SC

Dotazník -- využití Galaxy portálu pro výpočetní analýzu

Vážení uživatelé,

Pokud Vaše práce souvisí s výpočetní analýzou, a používáte nebo uvažujete o využití grafického portálu Galaxy, prosíme, vyplňte krátký dotazník české komunity Galaxy:

https://bit.ly/czech-gxy

Cílem dotazníku je zmapovat zájmy českých vědeckých komunit, z nichž některé již Galaxy využívají, např. RepeatExplorer (https://repeatexplorer-elixir.cerit-sc.cz/) nebo naše vlastní instance MetaCentra (https://galaxy.metacentrum.cz/), nebo provozují vlastní instance. Chceme identifikovat zájmy a zaměřit na ně naše tréninkové a terénní úsilí.

Spolu s komunitním dotazníkem také spouštíme Galaxy-Czech mailing list na adrese

https://lists.galaxyproject.org/lists/galaxy-czech.lists.galaxyproject.org/

Je volně přístupný a bude sloužit k informování zájemců o novinkách a připravovovaných akcích napříč všemi instancemi Galaxy, podpoře komunitní diskuse a informačnímu propojení s dalšími národními nebo aktuálními komunitami Galaxy. Pokud Vás zajímá, co se děje v komunitě Galaxy, přihlaste se k odběru.

 
S přáním příjemného počítání,

Nové clustery v MetaCentru / PřF UK/

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nové clustery Přírodovědecké fakulty Uiverzity Karlovy v Praze (1328 jader CPU)

1) nový GPU stroj cha.natur.cuni.cz (lokalita Praha, vlastník UK), 1 uzel, 32 jader CPU, s následující specifikací:

• CPU: 32x Intel(R) Xeon(R) Silver 4216 CPU @ 2.10GHz
• RAM: 192 GB
• disk: 2x 960 GB SSD
• Net: Ethernet 1Gb/s
• OS: Debian 10
• GPU: 8x GeForce RTX 2080 Ti

2) nový cluster mor.natur.cuni.cz (lokalita Praha, vlastník UK), 4 uzly, 80 jader CPU, s následující specifikací každého uzlu:

• CPU: 20x Intel(R) Xeon(R) Silver 4210 CPU @ 2.20GHz
• RAM: 256 GiB
• disk: 2x 4TB HDD
• Net: Ethernet 1Gb/s
• OS: Debian 10

3) nový cluster pcr.natur.cuni.cz (lokalita Praha, vlastník UK), 16 uzlů, 1024 jader CPU, s následující specifikací každého uzlu:

• CPU:  64x AMD EPYC 7452
• RAM: 256 GiB
• disk: 2x 4TB HDD
• Net: Ethernet 1Gb/s
• OS: Debian 10

4) nový GPU cluster fau.natur.cuni.cz (lokalita Praha, vlastník UK), 3 uzly, 192 jader CPU, s následující specifikací každého uzlu:

• CPU:  64x AMD EPYC 7452
• RAM: 256 GiB
• disk: 2x 1 TB HDD
• Net: Ethernet 1Gb/s
• OS: Debian 10
• GPU: Quadro RTX 5000

Clustery jsou dostupné v prostředí plánovacího serveru @pbs-meta prostřednictvím standardních krátkých front, fronty gpu a prioritní fronty vlastníka  "cucam".

 Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Nový GPU cluster v CERIT-SC

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový cluster:

zia.cerit-sc.cz (lokalita Brno, vlastník CERIT-SC), 5 uzlů, 640 jader CPU a GPU kartami NVIDIA A100, s následující specifikací každého uzlu:

• CPU: 2x AMD EPYC 7662 (2x 64 Core) 2.00 GHz
• RAM: 1 TB
• GPU: 4x NVIDIA A100
• disk: 3x1.46 TiB SSD NVME
• Net: 1x InfiniBand 8 Gbit/s, 2x Ethernet 10 Gbit/s
• OS: Debian 10
• home: /storage/brno3-cerit/home/
• výkon každého uzlu je dle SPECfp2017: 527 (4.1 na jádro)

Cluster je dostupný v prostředí plánovacího serveru @pbs-cerit prostřednictvím standardních krátkých front a prioritní fronty gpu.

Vyjímečná specifikace clusteru

Cluster je vybavený aktuálně nejvýkonnějšími grafickými akcelerátory NVIDIA A100 https://www.nvidia.com/en-us/data-center/a100/ . Na těchto grafických kartách je možné ještě více urychlit mnoho masivně paralelních úloh a vědeckých (HPC) aplikací nebo efektivněji řešit algoritmy umělé inteligence (AI).

Mezi hlavní výhody NVIDIA A100 patří specializovaná Tensor jádra pro machine learning aplikace nebo velká paměť (40 GB na každý akcelerátor). Podporuje výpočty pomocí tensor jader s různou přesností, kromě INT4, INT8, BF16, FP16, FP64 přibyl i nový formát TF32.
 

Na clusterech CERIT-SC je možné využívat dockerové obrazy z NVIDIA GPU Cloud (NGC) -- nejpoužívanější prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění spuštění v Docker kontejneru (v Podmanovi, alternativně v Singularity). Více informací najdete na https://wiki.metacentrum.cz/wiki/NVidia_deep_learning_frameworks

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Pozvánka na LUMI ROADSHOW

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na LUMI ROADSHOW

--

Dear Madam/Sir,

We invite you to a new EuroHPC ivent:

LUMI ROADSHOW
 

The EuroHPC LUMI supercomputer, currently under deployment in Kajaani, Finland, will be one of the world’s fastest computing systems with performance over 550 PFlop/s. The LUMI supercomputer is procured jointly by the EuroHPC Joint Undertaking and the LUMI consortium. IT4Innovations is one of the LUMI consortium members.

We are organizing a special event to introduce the LUMI supercomputer and to make the first early access call for pilot testing of this World’s unique infrastructure, which is exclusive to the consortium's member states.  

Part of this event will also be introducing the Czech National Competence Center in HPC. IT4Innovations joined the EuroCC project which was kicked off by the EuroHPC JU in September and is now establishing the National Competence Center for HPC in the Czech Republic. It will help share knowledge and expertise in HPC and implement supporting activities of this field focused on industry, academia, and public administration.

Register now for this event which will take place online on February 17, 2021! This event will gather the main Czech stakeholders from the HPC community together!

The event will be held in English.

Event webpage: https://events.it4i.cz/e/LUMI_Roadshow

Nové clustery v MetaCentru / ELIXIR-CZ / CERIT-SC

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nové clustery:

1) nový cluster kirke.meta.czu.cz (lokalita Plzeň, vlastník CESNET), 60 uzlů, 3840 jader CPU, s následující specifikací každého uzlu:

• CPU: 64x AMD EPYC 7532
• RAM: 512 GB
• disk: 2x 2 TB SSD
• Net: Ethernet 1Gb/s, InfiniBand HDR100
• OS: Debian 10
• home: /storage/plzen1/home/
• Výkon každého uzlu je dle SPECrate 2017_fp_base = 445

Cluster je dostupný v prostředí plánovacího serveru @pbs-meta prostřednictvím standardních front.

2) nový cluster elwe.hw.elixir-czech.cz (lokalita Praha, vlastník ELIXIR-CZ), 20 uzlů, 1280 jader CPU, s následující specifikací každého uzlu:

• CPU: 64x AMD EPYC 7532
• RAM: 2 TB
• disk: 2xNVMe 7.68TB + 2x240GB SSD
• Net: Ethernet 10Gb/s
• OS: Debian 10
• home: /storage/praha5-elixir/home/
• Výkon každého uzlu je dle SPECrate 2017_fp_base = 452

Cluster je dostupný v prostředí plánovacího serveru @pbs-elixir prostřednictvím speciálních front s přednostním právem přístupu pro členy národního uzlu ELIXIR-CZ

3) nový cluster eltu.hw.elixir-czech.cz (lokalita Vestec, vlastník ELIXIR-CZ), 2 uzly, 192 jader CPU, s následující specifikací každého uzlu:

• CPU: 4x Intel(R) Xeon(R) Platinum 8260 CPU @ 2.40GHz
• RAM: 3 TB
• disk: 2x240 GB disk + 2x7 TB NVMe disk
• Net: Ethernet 10Gb/s
• OS: Debian 10
• home: /storage/praha5-elixir/home/
• Výkon každého uzlu je dle SPECrate 2017_fp_base = 509

Cluster je dostupný v prostředí plánovacího serveru @pbs-elixir prostřednictvím speciálních front s přednostním právem přístupu pro členy národního uzlu ELIXIR-CZ

4) nový cluster samson.ueb.cas.cz (vlastník Ústav experimentální botaniky AV ČR, Olomouc), 1 uzel, 112 jader CPU, s následující specifikací každého uzlu:

• CPU: x Intel Xeon Platinum 8280 (4x 28 Core) 4.00 GHz
• RAM: 1 TB
• disk: 6x1.46 TiB SSD NVME
• Net: Ethernet 10Gb/s
• OS: Debian 10
• home:
• Výkon každého uzlu je dle SPECrate 2017_fp_base = 557 (4.97 na jádro)

Cluster je dostupný v prostředí plánovacího serveru @pbs-cerit prostřednictvím prioritních front prio a ueb pro vlastníky clusteru a standardních front s maximální delkou 2 dny pro ostatní uživatele.

 Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Nový HD/GPU cluster v CERIT-SC

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový cluster

gita.cerit-sc.cz (lokalita Brno, vlastník CERIT-SC), 14 +14 uzlů, 892 jader CP, polovina uzlů osazena GPU kartami NVIDIA 2080 TI; s následující specifikací každého uzlu:

• CPU: 2x AMD EPYC Processor (with IBPB) (2x 16 Core)
• RAM: 500 GB
• GPU: 2x NVIDIA 2080 TI v polovině uzlů
  
• OS: Debian 10
• home: /storage/brno3-cerit/home/
• výkon každého uzlu je dle SPECfp2017: 332 (10,4 na jádro)

Cluster je dostupný v prostředí plánovacího serveru @pbs-cerit prostřednictvím standardních front a prioritní fronty gpu.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Upgrade PBS

V MetaCentru/CERIT-SC dojde tento týden k upgrade všech PBS serverů na novou verzi.

Mezi největší změny bude patřit zapnutí notifikací o zabítí úloh, které bude rozesílat PBS bezprostředně po násilném zabití úlohy z důvodu překročení mem, cpu anebo walltime.

Nové nastavení se projeví postupně, až po restartu všech výpočetních uzlů.

Více informací najdete v dokumentaci:

https://wiki.metacentrum.cz/wiki/Pruvodce_pro_zacatecniky#Ukon.C4.8Den.C3.AD_.C3.BAlohy 

https://wiki.metacentrum.cz/wiki/Beginners_guide#Job_termination

S omluvou za komplikace,

Vaše MetaCentrum

Reinstalace strojů na Debian10

V posledních několika týdnech probíhá upgrade OS z Debian9 na Debian10 na většině frontendů a výpočetních strojů. Strojů z OS Centos se upgrade netýká.

Brzy nebude k dispozici žádný výpočetní stroj s OS Debian9, odstraňte prosím ze svých úloh požadavek os=debian9, úlohy s tímto požadavkem se spouštět nebudou.

Problémy s kompatibilitou některých aplikací s OS Debian10 průběžně řešíme rekompilací nových SW modulů. Pokud narazíte na problém u své aplikace, vyzkoušejte přidání modulu debian9-compat na začátek spouštěcího skriptu. Pokud problémy přetrvávají (chybějící knihovny atd.), dejte nám vědět na meta(at)cesnet.cz.

Seznam uzlů s OS Debian9/Debian10/Centos7 je možné zobrazit v seznamu vlastností ve webové aplikaci PBSMon:

* https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian9

* https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian10

* https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Dcentos7 

Seznam frontendů včetně aktuálního OS je k dispozici na wiki https://wiki.metacentrum.cz/wiki/Frontend

Poznámka: Některé speciální stroje dostupné ve speciálních frontách mohou mít odlišný OS, např. urga, ungu (ve frontě uv@wagap-pro) a phi (ve frontě phi@wagap-pro) běží na OS CentOS 7. 

Informační emaily o stavu úloh budou agregovány

Vážení uživatelé,

vzhledem k tomu, že při rozesílání emailů informujících o změně stavu výpočetní úlohy dochází v některých případech (velké množství úloh) k problémům se spam filtry, rozhodli jsme se od nynějška rozesílat tyto emaily agregovaně za časový interval 30 minut. To se týká emailů informujících o konci nebo pádu úlohy. Emaily informující o započetí úlohy budou i nadále odesílány okamžitě.

Více informací o parametrech agregace na https://wiki.metacentrum.cz/wiki/Email_notifications

Pozvánka na PRACE training course Parallel Visualization of Scientific Data using Blender

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na PRACE training course

--

Dear Madam/Sir, 

We invite you to a new PRACE training course, organized by IT4Innovations National Supercomputing Center, with the title:
 
Parallel Visualization of Scientific Data using Blender
 
Basic information:
Date: Thu September 24, 2020, 9:30am - 4:30pm
Registration deadline: Wed September 16, 2020
Venue: IT4Innovations, Studentska 1b, Ostrava
Tutors: Petr Strakoš, Milan Jaroš, Alena Ješko (IT4Innovations)
Level: Beginners
Language: English
Main web page: https://events.prace-ri.eu/e/ParVis-09-2020

The course, an enriched rerun of a successful training from 2019, will focus on visualization of scientific data that can arise from simulations of different physical phenomena (e.g. fluid dynamics, structural analysis, etc.). To create visually pleasing outputs of such data, a path tracing rendering method will be used within the popular 3D creation suite Blender. We shall introduce two of our plug-ins we have developed: Covise Nodes and Bheappe. The first is used to extend Blender capabilities to process scientific data, while the latter integrates cluster rendering in Blender. Moreover, we shall demonstrate basics of Blender, present a data visualization example, and render a created scene on a supercomputer.
 
This training is a PRACE Training Centre course (PTC), co-funded by the Partnership of Advanced Computing in Europe (PRACE).
 
For more information and registration please visit
https://events.prace-ri.eu/e/ParVis-09-2020 or https://events.it4i.cz/e/ParVis-09-2020.
 
PLEASE NOTE: The organization of the course will be adapted to the current COVID-19 regulations and participants must comply with them. In case of the forced reduction of the number of participants, earlier registrations will be given priority.

We look forward to meeting you on the course.

Best regards, 
Training Team IT4Innovations
training@it4i.cz

MetaCloud - Load Balancer as a Service

Vážený uživateli služby MetaCentrum Cloud.
 

Rádi bychom vás informovali ohledně nové služby nasazené v rámci služby MetaCentrum Cloud. Load Balancer as a Service je služba umožňující přes OpenStack API/GUI vytvářet a spravovat load balancery pomocí kterých lze následně zprostředkovat přístup ke službám provozovaným v rámci služby MetaCentrum Cloud.

Krátký popis služby a odkaz na dokumentaci naleznete na https://cloud.gitlab-pages.ics.muni.cz/documentation/gui/#lbaas.

S pozdravem
Tým MetaCentrum Cloud
cloud.metacentrum.cz

Novinky infrastruktury MetaCentrum & CERIT-SC

Novinky infrastruktury MetaCentrum & CERIT-SC

1) Nové webové rozhraní pro spouštění grafických SW -- OnDemand

OpenOnDemand je služba, která uživateli umožňuje přístup k výpočetním prostředkům CERIT-SC prostřednictvím webového prohlížeče v grafickém režimu. Mezi aktuálně dostupné aplikace patří Matlab, ANSYS a VMD, další budou podle zájmu přibývat. Pro webové rozhraní Open OnDemand https://ondemand.cerit-sc.cz/ je přihlašovací jméno a heslo stejné jako pro Metacentrum.

V případě dotazů kontaktujte support@cerit-sc.cz

Více informací je k dispozici v dokumentaci  https://wiki.metacentrum.cz/wiki/OnDemand

2) Frameworky pro deep learning (NGC) jsou k dispozici v MetaCentru

Na strojích v MetaCentru je nyní nově možné využít frameworky pro deep learning z NVIDIA GPU Cloudu. Frameworky je možné spouštět jak v Singularity (celé MetaCentrum), tak Dockeru (Podman; jen CERIT-SC).

Více informací je k dispozici v dokumentaci https://wiki.metacentrum.cz/wiki/NVidia_deep_learning_frameworks

3) Část SW jsme zpřístupnili přes CVMFS (CernVM filesystem)

CVMFS (CernVM filesystem) je souborový systém vyvinutý v Cernu, který umožňuje rychlé, škálovatelné a spolehlivé nasazení softwaru na distribuované výpočetní infrastruktuře. CVMFS je souborový systém jen pro čtení, v MetaCentru jej používáme pro ukládání některých SW modulů (alternativa AFS). Podobně jako svazky AFS je dostupný jako klientský software pro přístup k CVMFS repozitářům a serverových nástrojů pro vytváření nových repozitářů typu CVMFS.

Více informací je k dispozici v dokumentaci https://wiki.metacentrum.cz/wiki/CVMFS

IT4I NEWS: Služba na podporu výzkumu a vývoje

Vážení uživatelé,
dovolte nám, abychom Vás informovali o službě na podporu výzkumu a 
vývoje, kterou IT4Innovations poskytuje v rámci mezinárodního H2020 
projektu Centrum excelence POP2.

Jedná se o *Bezplatnou asistenci v oblasti optimalizace výkonu 
paralelních aplikací*. Služba je určena nejen pro všechny 
akademicko-vědecké pracovníky, ale i pracovníky firem, kteří vyvíjí nebo 
používají paralelní kódy a nástroje a hodí se jim odborná pomoc s jejich 
optimalizací pro efektivní spouštění na HPC systémech.

V případě zájmu nás neváhejte kontaktovat: info@it4i.cz 
<mailto:info@it4i.cz>.

S pozdravem,
Vaše IT4Innovations

Pozvánka na NVIDIA AI & HPC ACADEMY 2020

Vážení uživatelé,

dovolujeme si Vám přeposlat pozvánku na

IT4Innovations and M Computers would like to invite you to three full day NVIDIA Deep Learning Institute certified training courses to learn more about Artificial Intelligence (AI) and High Performance Computing (HPC) development for NVIDIA GPUs.

The first half day is an introduction by IT4Innovations and M Computers about the latest state of the art NVIDIA technologies. We also explain our services offered for AI and HPC, for industrial and academic users. The introduction will include a tour though IT4Innovations‘ computing center, which hosts an NVIDIA DGX-2 system and the new Barbora cluster with V100 GPUs.

The first full day training course, Fundamentals of Deep Learning for Computer Vision, is provided by IT4Innovations and gives you an introduction to AI development for NVIDIA GPUs.

Two further HPC related full day courses, Fundamentals of Accelerated Computing with CUDA C/C++ and Fundamentals of Accelerated Computing with OpenACC, are delivered as PRACE training courses through the collaboration with the Leibniz Supercomputing Centre of the Bavarian Academy of Sciences (Germany).

We are pleased to be able to offer the course Fundamentals of Deep Learning for Computer Vision to industry free of charge, for the first time. Further courses for industry may be instigated upon request.

Academic users can participate free of charge for all three courses.

Více informací naleznete na http://nvidiaacademy.it4i.cz/

 

Upgrade PBS serverů - arien a elixir

Po úspěšném upgrade PBS serveru v CERIT-SC zahájíme ve středu 8. 1. upgrade ostaních PBS serverů (arien-pro a pbs.elixir-czech.cz) na novou, nekompatibilní verzi (jiná implementace Kerbera). Připravujeme proto nové PBS servery a stávající PBS servery budou, po doběhnutí úloh, odstaveny z provozu:

• meta-pbs.metacentrum.cz nahradí PBS server arien-pro.ics.muni.cz
• elixir-pbs.elixir-czech.cz nahradí PBS server pbs.elixir-czech.cz

Harmonogram přesunu na nové servery a dopady na úlohy a uživatele

• Frontendy skirit, alfrid, tarkil, nympha, charon, minos, perian, onyx, tilia, elmo  zůstávají do 8. 1. 2020 nastavené defaultně na prostředí @arien-pro (pbs.elixir). 9. 1. dojde k přepnutí všech těchto frontendů do nového PBS prostředí @meta-pbs a elixir-pbs a zároveň dojde k postupnému přesunu výpočetních uzlů do nových prostředí. Úlohy běžící pod starými PBS servery doběhnou v tomto prostředí. Vypsat aktuální stav úloh ve starém prostředí bude možné jen v aplikaci PBSmon https://metavo.metacentrum.cz/pbsmon2/jobs/detail. Příkaz qstat spuštěný na frontendu na ně nebude vidět.
• Úlohy čekající na starém PBS serveru se pokusíme přesunout na nový PBS server @meta-pbs nebo @elixir-pbs, kde budou následně spuštěny.
• V syntaxi příkazu qsub se nic nezmění.
• Připomínáme, že na PBS servery není povolené uživatelské přihlášení.
• Po upgradu PBS serverů bude obnovena možnost zadávat úlohy z libovolného čelního uzlu do kteréhokoliv nového PBS prostředí (meta-pbs, cerit-pbs, elixir-pbs).

S omluvou za komplikace,

Vaše MetaCentrum

Upgrade PBS serverů

V MetaCentru/CERIT-SC dojde k upgrade všech PBS serverů na novou, nekompatibilní verzi (jiná implementace Kerbera). Připravujeme proto nové PBS servery a stávající PBS servery budou, po doběhnutí úloh, odstaveny z provozu:

• cerit-pbs.cerit-sc.cz nahradí PBS server wagap-pro.cerit-sc.cz
• meta-pbs.metacentrum.cz nahradí PBS server arien-pro.ics.muni.cz
• elixir-pbs.elixir-czech.cz nahradí PBS server pbs.elixir-czech.cz

Harmonogram přesunu na nové servery a dopady na úlohy a uživatele

• CERIT-SC započne s přesunem běžných výpočetních strojů z prostředí PBS @wagap-pro do nového prostředí k 18. 11. 2019
• Frontend zuphux.cerit-sc.cz zůstává do 18. 11. nastaven defaultně na prostředí @wagap-pro. K 18. 11. dojde k přepnutí nového PBS prostředí @cerit-pbs a k přesunu většiny výpočetních strojů do nového prostředí.
• Úlohy běžící pod starým PBS serverem@wagap-pro doběhnou v tomto prostředí. Vypsat aktuální stav úloh bude možné jen v aplikaci PBSmon https://metavo.metacentrum.cz/pbsmon2/jobs/detail. Příkaz qstat spuštěný na frontendu na ně nebude vidět.
• Úlohy čekající na starém PBS serveru @wagap-pro budou automaticky přesunuté na nový PBS server @cerit-pbs, kde budou následně spuštěny.
• V syntaxi příkazu qsub se nic nezmění.
• Zároveň dojde u některých clusterů k upgrade operačního systému OS Debian9 na Debian 10. Uzly s Debian9/Debian10/Centos7 je možné zobrazit v seznamu vlastností ve webové aplikaci PBSMon:
  • https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian9
  • https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian10
  • https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Dcentos7
• Připomínáme, že na PBS servery není povolené uživatelské přihlášení.
• K přesunu dalších PBS serverů (meta-pbs, elixir-pbs) dojde s časovým odstupem. O přesunu budeme informovat v samostatné novince.

S omluvou za komplikace,

Vaše MetaCentrum

Novinky infrastruktury MetaCentrum & CERIT-SC

1. Nový GPU cluster pro umělou inteligenci
   
2. Začlenění clusteru a diskového pole Botanického ústavu AV ČR v Průhonicích
3. Přesun clusteru zenon (hde.cerit-sc.cz) centra CERIT-SC do OpenStacku, upgrade na Debian10

1) Nový GPU cluster pro umělou inteligenci -- adan.grid.cesnet.cz (1952 CPU) - Stroj s 192GB RAM, 2x 16-core Xeon a 2x nVidia Tesla T4 16GB

• MetaCentrum bylo rozšířeno o nový GPU stroj adan.grid.cesnet.cz (lokalita Biocev, vlastník CESNET), 61 uzlů, každý s následující specifikací:
  • 32x Intel(R) Xeon(R) Gold 5218 CPU @ 2.30GHz
  • RAM: 192 GB
  • Disk: 4x 240GB SSD
  • GPU: 2x nVidia Tesla T4 16GB s podporou AI

Pro přístup do fronty 'adan' je potřeba speciální oprávnění. Pokud máte zájem stát se AI testerem, konraktujte nás na meta(at)cesnet.cz.

Jméno ADAN není náhodné, ve světě J. R. R. Tolkiena označuje v elfském jazyce „člověka“. Cluster ADAN je díky svým parametrům určen zejména pro tzv. strojové učení (machine learning), které spadá do sféry umělé inteligence.

Tip: Pokud narazíte na problém s kompatibilitou mezi jednotlivými generacemi GPU karet, je možné omezit výběr strojů s určitou generací karet pomocí parametru gpu_cap=[cuda20,cuda35,cuda61,cuda70,cuda75].

2) Začlenění clusterů a diskového pole Botanického ústavu AV ČR v Průhonicích

• MetaCentrum bylo rozšířeno o cluster carex.ibot.cas.cz (lokalita Průhonice, vlastník Botanický ústav AV ČR), 8 uzlů s následující specifikací:
  • 8x AMD EPYC 7261 8-Core Processor
  • RAM: 512 GB
  • Disk: 2x 960GB NVMe
• Cluster draba.ibot.cas.cz (lokalita Průhonice, vlastník Botanický ústav AV ČR), 240 CPU jader s následující specifikací:
  • 80x Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz
  • RAM: 1536 GiB
  • Disk: 2x 960GB NVMe
  • Stroj určen pro úlohy s velkou spotřebou paměti (až 1,5 TB).

Dále byl zprovozněn frontend tilia.ibot.cas.cz (s aliasem tilia.metacentrum.cz) a diskové pole /storage/pruhonice1-ibot/home dedikovane pro skupinu ibot.
 

Clustery jsou dostupné prostřednictvím fronty 'ibot' (vyhrazené vlastníkům clusteru). Po otestování bude pravděpodobně zpřístupněný prostřednictvím krátkých standardních front.

Pravidla využití jsou dostupné na stránce vlastníka clusteru: https://sorbus.ibot.cas.cz/

3) Přesun clusteru zenon hde.cerit-sc.cz centra CERIT-SC do OpenStacku, upgrade OS na Debian10

Aktuálně probíhá stěhování clusteru zenon.cerit-sc.cz (1888 CPU, 60 uzlů) do OpenStacku, během několika dní bude znovu přístupný přes PBS server wagap-pro. Zároveň probíhá upgrade operačního systému na Debian10.

Cluster bude dostupný stejným způsobem jako doposud (PBS server wagap-pro, běžné fronty).

Problémy s kompatibilitou některých aplikací s OS Debian10 průběžně řešíme rekompilací nových SW modulů. Pokud narazíte na problém u své aplikace, vyzkoušejte přidání modulu debian9-compat na začátek spouštěcího skriptu. Pokud problémy přetrvávají, dejte nám vědět na meta(at)cesnet.cz.


Seznam uzlů s OS Debian9/Debian10/Centos7 je možné zobrazit v seznamu vlastností ve webové aplikaci PBSMon:

https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian9
https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian10
https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Dcentos7 

Nový stroj typu "UV" HPE Superdome Flex

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový stroj ursa.cerit-sc.cz (lokalita Brno, vlastník CERIT-SC), 1 uzel, 504 CPU jader, 10 TB RAM.

• CPU: 28x Intel Xeon Gold 6254 (28x 18 Core) 4.00 GHz
• RAM: 10 TiB
• disk: 6 x 3 TiB SSD NVME, 2 x 500 GiB 7.2
• Výkon uzlu dle SPECfp2017: 700 (4.86 na jádro)
• Net: 1x InfiniBand 0 Gbit/s, 4x Ethernet 10 Gbit/s
• OS: Redhat (komp. s CentOS)
• home: /storage/brno3-cerit/home/

Cluster je dostupný v prostředí plánovacího serveru @wagap-pro prostřednictvím fronty UV.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

MetaCloud - přechod na OpenStack cloud2.metacentrum.cz

Vážení uživatelé,

v souvislosti s přípravou nového cloudového prostředí postaveného na OpenStacku, není od 5. 6. 2019 dovoleno zakládat nové vm v OpenNebule. Běžící virtuály budou v průběhu několika týdnů přemigrovány do nového prostředí. O migraci informujeme vlastníky vm individuelně.

Pro spouštění nových vm využijte rovnou nové prostředí založené na OpenStacku https://cloud2.metacentrum.cz/ .

S přátelským pozdravem

MetaCentrum & CERIT-SC

Ohlédnutí za devátým ročníkem Semináře gridového počítání 2019

Vážení uživatelé,

dne 30. ledna 2019 proběhl na ČVUT v Praze další (devátý) ročník Semináře gridového počítání 2019, tentokráte jako součást dvoudenní Konference e-Infrastruktutury CESNET 2019 https://konference.cesnet.cz. První den konference zazněly obecné průřezové přednášky z portfolia služeb CESNETu a druhý den semináře proběhly 4 paralelní sekce a 2 Hands-on semináře.

Prezentace z celé konference jsou zveřejněné na stránce konference https://konference.cesnet.cz. Videozáznam z konference je k dispozici na Youtube https://www.youtube.com/playlist?list=PLvwguJ6ySH1cdCfhUHrwwrChhysmO6IU7

Prezentace ze Semináře gridového počítání, včetně hands-on, jsou k dispozici na webu MetaCentra: https://metavo.metacentrum.cz/cs/seminars/seminar2019/index.html

S přátelským pozdravem

MetaCentrum & CERIT-SC

Pozvánka na Seminář gridového počítání 2019

Vážení uživatelé,

Dovolujeme si Vás tímto pozvat k účasti na Seminář gridového počítání 2019, který se koná 30. ledna 2019 v Nové budově ČVUT (Thákurova 9) v Praze 6.

Seminář gridového počítání 2019 bude zaměřen na zpracování, analýzu a ukládání dat a představení novinek v gridovém a cloudovém prostředí MetaCentrum a CERIT-SC. V rámci semináře zazní zvaná přednáška o nových produktech NVIDIA v oblasti vědeckých výpočtů.

Po ukončení Semináře gridového počítání proběhne prakticky zaměřený Hands-on seminář (kapacita omezená na 15 osob).

Program semináře a další informace: https://metavo.metacentrum.cz/cs/seminars/seminar2019/index.html

Seminář je součástí dvoudenní konference CESNET 2019 https://konference.cesnet.cz (29. - 30. 1. 2019). První den konference zazní obecné průřezové přednášky z portfolia služeb CESNETu a druhý den semináře budou 4 paralelní sekce a 2 Hands-on semináře:

• Sítě a síťové služby
• Podpora spolupráce a multimédia
• Digitální identity
• Počítání a ukládání aneb Seminář gridového počítání 2019
  
• Hands-on seminář Zpracování a ukládání dat v MetaCentru / CERIT-SC (nutná extra registrace)
  
• Hands-on seminář Datových úložišť CESNETu (Zálohování, souborová a objektová úložiště
   

Účast na konferenci (a Semináři gridového počítání) je podmíněná registrací ma konferenci a je bezplatná. Pokud se chcete zúčastnit prakticky zaměřeného Hands-on semináře MetaCentra / CERIT-SC, nezapomeňte se na něj zaregistrovat zvlášť.

Těšíme se na viděnou!

S přátelským pozdravem
MetaCentrum & CERIT-SC

Nový cluster charon.nti.tul.cz a nové pole /storage/liberec3-tul/

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový cluster charon.nti.tul.cz (lokalita Liberec, vlastník TUL), 20 uzlů, 400 CPU jader.

• CPU: 2x 10-core Intel Xeon Silver 4114 CPU (2.2GHz)
• RAM: 12x 8 GB DDR4 2400 ECC Reg dual rank
• disk: 1x SSD 480 GB DC S3610 Series
• Net: Ethernet 1Gb/s, Omni-Path (InfiniBand - Intel)
• OS: Debian 9
• home: /storage/liberec3-tul/home/

Cluster je dostupný v prostředí plánovacího serveru @arien-pro prostřednictvím standardních front a prioritní fronty charon, která je dostupná vlastníkům clusteru (skupina charon).

Novy frontend bude i nadale pristupny pod jmene charon.metacentrum.cz (z duvodu zpetne kompatibility zachovame i alias charon-ft.metacentrum.cz.

Cluster běží na OS Debian9, v případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

Nové pole  /storage/liberec3-tul/home/

Nové pole (30 TB) bude sloužit jako domovský adresář na clusteru charon a bude dostupné v adreséři /storage/liberec3-tul/ na všech strojích Metacentra, členové skupiny charon zde budou mit nastavenu kvotu 1 TB, všichni ostatní 10 GB.

S přáním příjemného počítání,

Nový cluster nympha.zcu.cz

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový cluster nympha.zcu.cz (lokalita Plzeň, vlastník CESNET), 64 uzlů, 2048 CPU jader.

• CPU: 32x Intel(R) Xeon(R) Gold 6130 CPU @ 2.10GHz
• RAM: 192 GiB
• disk: 1x 960 GB NVMe
• Výkon uzlu dle SPECfp2006: 1220 (38 na jádro)
• Net: Ethernet 1Gb/s, Infiniband FDR 56Gb/s
• OS: Debian 9
• home: /storage/plzen1/home/

Cluster je dostupný v prostředí plánovacího serveru @arien-pro prostřednictvím standardních front. Ze začátku jsou podporovány pouze krátké úlohy.

Cluster běží na OS Debian9, v případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

The European Open Science Cloud – oficiální zahájení

CESNET a CERIT-SC se podílejí na projektu EOSC – The European Open Science Cloud, který má za cíl poskytnou důvěryhodné prostředí s volně dostupnými službami určené pro uchovávání dat, jejich správu, sdílení, analýzu a opakované použití pro všechny vědecké disciplíny. V rámci oficiálního zahájení ve Vídni je představen EOSC Portal, který poskytuje přístup k datům, službám a zdrojům. Je zdrojem aktuálních informací o iniciativě EOSC, včetně osvědčených postupů, řízení a uživatelských příběhů.

Nové diskové pole /storage/brno1-cerit/home a rušení /storage/brno4-cerit-hsm

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nové diskové pole /storage/brno1-cerit/home s kapacitou 1,8 PB (lokalita Brno, vlastník CERIT-SC).

Zároveň došlo k odstavení /storage/brno4-cerit-hsm. Všechna data z něj byla přesunuta na nové pole /storage/brno1-cerit/home a jsou přístupná rovněž pod původním symlinkem.

Pozor: Na stroj storage-brno4-cerit-hsm.metacentrum.cz se už nelze hlásit přímo. Pro přístup ke svým datům se hlaste na nové pole. Přehled NFS4 diskových polí najdete na wiki https://wiki.metacentrum.cz/wiki/NFS4_Servery

Kompletní seznam aktuálně dostupných výpočetních serverů a datových úložišť je k dispozici na https://metavo.metacentrum.cz/pbsmon2/nodes/physical.

 
S přáním příjemného počítání,

Nový cluster zenon.cerit-sc.cz

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový cluster zenon.cerit-sc.cz (lokalita Brno, vlastník CERIT-SC), 60 uzlů, 1920 CPU jader.

• CPU: 2x  AMD EPYC 7351 (2x 16 Core) 2.40 GHz
• RAM: 512 GB
• 1x1.82 TiB SSD NVME
• Výkon uzlu dle SPECfp2006: 1320 (41.25 na jádro)
• Net:  1x InfiniBand 56 Gbit/s, 2x Ethernet 10 Gbit/s
• OS: Debian 9

Cluster je dostupný v prostředí plánovacího serveru @wagap-pro prostřednictvím standardních front.

Cluster běží na OS Debian9, v případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Novinky infrastruktury

1. Nový GPU stroj grimbold s 2x nVidia Tesla P100 a rozšíření glados1 o 1x nVidia TITAN V
2. Dokončení přechodu na OS Debian9
3. Nové moduly Amber (GPU i MPI)

1) Nový GPU stroj grimbold s 2x nVidia Tesla P100 a rozšíření glados1 o nVidia TITAN V

• MetaCentrum bylo rozšířeno o nový GPU stroj grimbold.ics.muni.cz (lokalita Brno, vlastník CESNET), 32 CPU jader s následující specifikací:
  •  2x 16-core Intel Xeon Gold 6130 (2.10GHz)
  •  RAM: 196 GB
  •  Disk: 2x 4TB 7k2 SATA III
  •  GPU: 2x nVidia Tesla P100 12GB
  •  OS debian9

Cluster je dostupný prostřednictvím 'gpu' fronty a krátkých standardních front.

• Do stroje glados1.cerit-sc byla nově přidána GPU karta nVidia GV100 TITAN V.

Kvůli problémům s kompatibilitou nějkterých SW je tato karta k dispozici ve speciální frontě gpu_titan na PBS serveru wagap-pro.

Všechny GPU stroje běží již na OS Debian9, v případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Pokud narazíte na problém s kompatibilitou mezi jednotlivými generacemi GPU karet, je možné omezit výběr strojů s určitou generací karet pomocí parametru gpu_cap=[cuda20,cuda35,cuda61,cuda70].

Aktuálně jsou k dispozici následující GPU fronty:

• gpu (arien-pro i wagap-pro, předávají si mezi sebou úlohy)
• gpu_long (jen arien-pro)
• gpu_titan (arien-pro i wagap-pro)

2) Dokončení přechodu na OS Debian9

V krátké době bude dokončen upgrade strojů s OS Debian8 na Debian9 v obou plánovacích systémech. Vyjímkou jsou staré stroje běžící na OS Debian8 v CERIT-SC (již po záruce), které budou vyřazené z provozu pravděpodobně na podzim a nemá u nich smysl upgrade provádět.

Problémy s kompatibilitou některých aplikací s OS Debian9 průběžně řešíme rekompilací nových SW modulů. Pokud narazíte na problém u své aplikace, vyzkoušejte přidání modulu debian8-compat na začátek spouštěcího skriptu. Pokud problémy přetrvávají, dejte nám vědět na meta@cesnet.cz .

Stroje s jiným OS (centos7) budou i nadále k dispozici přes speciální fronty: např. urga, ungu (ve frontě uv@wagap-pro) a phi (ve frontě phi@wagap-pro)

Seznam uzlů s OS Debian9/Debian8/Centos7 je možné zobrazit v seznamu vlastností ve webové aplikaci PBSMon:

https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian9
https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian8
https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Dcentos7

3) Nové moduly Amber (GPU i MPI)

Moduly amber-14-gpu8 a amber-16-gpu zpřístupňují všechny verze binárek, nejen pro GPU (paralelní verze a verze pro GPU jsou odlišeny standardně příponami .MPI resp. .cuda a .cuda.MPI), a jsou kompilovány pro os=debian9

Všechny GPU stroje již nyní běží pod OS Debian9, ale pokud není v zadání úlohy explicitně požadována GPU, je třeba os=debian9 explicitně zadávat, dokud běží neupgradované stroje.

Doporučujeme používat tyto nové balíčky (lépe optimalizované než starší modul amber-16).

Pozvánka na akci Cray & NVIDIA DLI

Vážení uživatelé,

s potěšením přeposíláme pozvánku:

We would like to invite you to this new training event at HLRS Stuttgart on Sep 19, 2018.


To help organizations solve the most challenging problems using AI and deep learning NVIDIA Deep Learning Institute (DLI), Cray and HLRS are organizing a 1-day workshop on Deep Learning which combines business presentations and practical hands-on sessions.

In this Deep Learning workshop you will learn how to design and train neural networks on multi-GPU systems.

This workshop is offered free of charge but numbers are limited.
The workshop will be run in English.

https://www.hlrs.de/training/2018/DLW

With kind regards
Nurcan Rasig and Bastian Koller

-------
Nurcan Rasig | Sales Manager
Office +49 7261 978 304 | Cell +49 160 701 9582 |  nrasig@cray.com

Cray Computer Deutschland GmbH ∙ Maximilianstrasse 54 ∙ D-80538 Muenchen
Tel. +49 (0)800 0005846 ∙ www.cray.com
Sitz: Muenchen ∙ Registergericht: Muenchen HRB 220596
Geschaeftsfuehrer: Peter J. Ungaro, Mike C. Piraino, Dominik Ulmer.
Hope to see you there!

Zprovoznili jsme nový GPU stroj

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový GPU stroj white1.cerit-sc.cz (lokalita Brno, vlastník CERIT-SC), 24 CPU jader.

• CPU: 2x Intel Xeon Gold 6138 (2x 12 Core) 2.0 GHz
• RAM: 512 GB
• 2x SSD 1.8 TB
• Výkon uzlu dle SPECfp2006: 806 (33,58 na jádro)
• Net: 1x Ethernet 10 Gbit/s
• GPU: 4x Tesla P100
• OS: Debian 9

Cluster je dostupný v prostředí plánovacího serveru @wagap-pro prostřednictvím 'gpu' fronty a krátkých standardních front.

Cluster běží na OS Debian9, v případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Pozvánka na akci "TURBOMOLE Users Meet Developers"

Vážení uživatelé,

s potěšením přeposíláme pozvánku na setkání uživatelů Turbomole:

TURBOMOLE Users Meet Developers
20 - 22 September 2018 in Jena, Germany

This meeting will bring together the community of Turbomole developers and users to highlight selected applications demonstrating new features and capabilities of the code, present new theoretical developments, identify new user needs, and discuss future directions.

We cordially invite you to participate. For details see:

http://www.meeting2018.sierkalab.com/

Hope to see you there!

Regards,

Turbomole Support Team and Turbomole developers

Soutěž a pozvánka na 5. ročník letního setkání příznivců technických výpočtů a počítačových simulací

Vážení uživatelé,

s potěšením přeposíláme pozvánku na 5. ročník letního setkání příznivců technických výpočtů a počítačových simulací:

Datum: 6. - 7. 9. 2018 (čtvrtek až pátek), registrace od 8:30

Nové nastavení fronty gpu a gpu_long

Tento týden došlo ke změně nastavení front gpu@wagap-pro, gpu@arien-pro a gpu_long@arien-pro.

Kvůli omezení přístupu ne-GPU úloh na GPU stroje jsme ve frontách gpu a gpu_long na obou PBS serverech nastavili nutnost explicitního zadání požadavku na minimálně jednu GPU kartu, např.:

•       qsub -q gpu -l select=1:ngpus=1 job.sh
•       qsub -q gpu_long -l select=1:ngpus=1 job.sh

Pokud není GPU karta v zadání úlohy požadovaná, zobrazí se následující hlášení a úloha není systémem přijata:

     'qsub: Job violates queue and/or server resource limits'

Zároveň jsme k 26. 6. 2018 nastavili průchodnost úloh ve frontách gpu mezi oběma PBS servery (úlohy z fronty gpu na arien-pro můžou být spuštěny PBS serverem wagap-pro a naopak). Fronta gpu_long je spravovaná pouze PBS serverem arien-pro, té se změna netýká.

Více informací o nastavení GPU:  https://wiki.metacentrum.cz/wiki/GPU_clusters

S díky za pochopení,

Uživatelská podpora MetaCentra

Nové nastavení přístupu na speciální stroje UV2000

V pondělí 18. 6. 2018 došlo ke změně nastavení fronty uv@wagap.cerit-sc.cz.

• Úlohy se i nadále zadávají do fronty uv@wagap-pro.cerit-sc.cz, v této frontě jsou nově rozřazené podle požadovaného počtu jader a paměti.
• Velké úlohy (minimálně 144 CPU jader nebo alespoň 1 TB paměti) jsou zvýhodněné před úlohami menšími.
• Maximální doba běhu úloh zůstáva 4 dny.

Věříme, že nyní budou oba speciální stroje UV lépe použitelné pro zpracování opravdu velkých úloh, pro které jsou primárně určeny. Malé úlohy budou znevýhodněné, aby tyto velké úlohy neblokovaly. Pro malé úlohy jsou k dispozici další vhodnější stroje.

S díky za pochopení,

Uživatelská podpora MetaCentra

Pozvánka na přednášku prof. Johna Womersleyho (ESS ERIC) na téma „The European Spallation Source“

Vážení uživatelé,

dovoluji si Vám přeposlat pozvánku na přednášku prof. Johna Womersleyho na téma „The European Spallation Source“, která se uskuteční v prostorách Akademie věd ČR na Národní třídě dne 15. června 2018 od 14:00.

Více informací naleznete v PDF.

S přáním hezkého dne,

Petr Ventluka, MŠMT

Povýšení clusteru konos na FAV ZČU v Plzni

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový SMP cluster konos[1-8].fav.zcu.cz (lokalita Plzeň, vlastník KMA/FAV ZČU). Cluster obsahuje 8 uzlů (160 CPU jader), každý z nich má následující hardwarovou specifikaci:

• CPU: 2x 10 cores Intel(R) Xeon(R) CPU E5-2630 v4 @ 2.20GHz
• RAM: 128 GB
• Disk: 2x 4TB SATA
• Výkon každého uzlu dle SPECfp2006: 850 (42,5 na jádro)
• GPU: všechny uzly mají 4x GPU NVIDIA GeForce GTX 1080 Ti
• OS: Debian 9

Cluster je dostupný v prostředí plánovacího serveru @arien-pro prostřednictvím prioritní fronty iti, fronty gpu a krátkých běžných front. Členové projektu ITI/KKY mohou požádat o přístup do fronty vedoucího skupiny.

• Pro spuštění úlohy na clusteru s OS Debian9 přidejte do zadání úlohy parametr "os=debian9"

$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=debian9 …

• Pro úplnost, pro spuštění úloh na stroji s libovolným OS zadejte "os=^any"

$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=^any …

Případné problémy s během aplikací (chybějícími knihovnami apod.) na strojích s OS Debian9 nám, prosím, neprodleně hlaste na meta@cesnet.cz .

V případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Prezentace ze Semináře gridového počítání 2018

Vážení uživatelé,

V pátek 11. května proběhl v Praze v NTK další ročník Semináře gridového počítání 2018. Seminář byl letos zaměřen na zpracování, analýzu a ukládání dat v gridovém i cloudovém prostředí MetaCentrum a CERIT-SC. Semináře se zúčastnilo více než 70 stávajících i budoucích uživatelů MetaCentra. Měli příležitost se, mimo jiné, dozvědět o připravovaných novinkách v cloudovém prostředí, naučit se zacházet s containery a získali tip, jak správně a efektivně ukládat a zpracovávat data a posílat úlohy do PBS Pro prostředí.

Seminář byl organizován projektem MetaCentrum sdružení CESNET z.s.p.o. a Centrem CERIT-SC při Ústavu výpočetní techniky Masarykovy univerzity. Sponzorem akce byla společnost SafeDX.

Podrobnosti o akci včetně přednášek jsou k dispozici na webu MetaCentra: https://metavo.metacentrum.cz/cs/seminars/seminar2018/index.html

S přátelským pozdravem
MetaCentrum & CERIT-SC

Pozvánka na Seminář gridového počítání 2018

Vážení uživatelé,

dovolujeme si Vás pozvat na další ročník Semináře gridového počítání 2018

Seminář je organizován projektem MetaCentrum sdružení CESNET a Centrem CERIT-SC.

Program semináře a další informace: https://metavo.metacentrum.cz/cs/seminars/seminar2018/index.html

Účast na semináři je podmíněná registrací a je bezplatná. Registrace končí 9.5.2018.

Těšíme se na viděnou!

S přátelským pozdravem
MetaCentrum & CERIT-SC

Novinky infrastruktury

1. Nový cluster glados.cerit-sc.cz částečně vybavený GPU kartami (CERIT-SC)
2. Spouštění úloh na strojích s Debian9 (CERIT-SC)
3. Změny v nastavení vlastností na strojích (arien-pro i wagap-pro)
4. Automatické promazávání scratchů na frontendech
5. Zprovoznění nových strojů vlastníka ELIXIR-CZ

1) nový cluster glados.cerit-sc.cz částečně vybavený GPU kartami (CERIT-SC)

MetaCentrum bylo rozšířeno o nový cluster glados[1-17].cerit-sc.cz (lokalita Brno, vlastník CERIT-SC), 680 CPU, 17 uzlů s následující HW specifikací:

•  CPU: 2x Intel Xeon Gold 6138 (2x 20 Core) 2.0 GHz
•  RAM: 384 GB
•  Disk: 2x 2TB SSD
•  Výkon každého uzlu dle SPECfp2006: 1370 (34,25 na jádro)
•  Uzly glados[10-17] obsahují každý 2 GPU karty -- Nvidia 1080 Ti
•  Scratch je pouze typu SSD, nutno zohlednit při zadání úlohy
•  Dočasně nastavena podpora pouze krátkých úloh, aktuálně maximálně 24 hodin. Pokud nebudou problémy, maximální doba běhu úloh bude postupně navyšována.
•  OS debian9

Cluster je dostupný v prostředí plánovacího serveru @wagap-pro prostřednictvím standardních front.

• GPU úloha se v prostředí CERIT-SC (server @wagap-pro) zadává jako standardní úloha v defaultní frontě, pouze se specifikací počtu GPU:

$ qsub ... -l select=1:ncpus=1:gpu=1 ...

• Nezapomeňte v qsub zadat typ scratche SSD a OS Debian9:

$ qsub -l walltime=1:0:0 -l select=1:ncpus=1:mem=400mb:scratch_ssd=400mb:os=debian9 ...

2) Spouštění úloh na strojích s Debian9 (CERIT-SC)

CERIT-SC rozšířilo portfolium strojů s novým OS Debian9 (všechny nové stroje a některé starší). Od příštího týdne vypneme dočasné defaultní nastavení plánovače na Debian8. Pokud po vypnutí ve svých úlohách explicitně neuvedete požadovaný OS, plánovací systém vybere libovolný z nich, který je v dané frontě k dispozici.

Pokud chcete mít výběr operačního systému pod kontrolou, můžete využit následující volby (defaultní fronta):

• Pro spuštění úlohy na stroji s OS Debian9 přidejte parametr "os=debian9":

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=debian9 …

• Podobně pro spuštění úloh na strojích s OS Debian8 zadejte "os=debian8":

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=debian8 …

• Stroje s jiným OS (centos7) jsou k dispozici přes speciální fronty: např. urga, ungu (ve frontě uv@wagap-pro) a phi (ve frontě phi@wagap-pro)

   
V případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Případné problémy s během aplikací (chybějícími knihovnami apod.) na strojích s OS Debian9 nám, prosím, neprodleně hlaste na meta@cesnet.cz .


Seznam uzlů s OS Debian9/Debian8/Centos7 je možné zobrazit v seznamu vlastností ve webové aplikaci PBSMon:

https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian9
https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Ddebian8
https://metavo.metacentrum.cz/pbsmon2/props?property=os%3Dcentos7

3) Změny v nastavení vlastností na strojích (arien-pro i wagap-pro)

V průběhu dubna plánujeme úklid a pokud možno i sjednocení vlastností strojů v obou prostředích @arien-pro i @wagap-pro.

Operační systém

Začneme s důsledným označováním operačního systému strojů parametrem os=<debian8, debian9,centos7>
Nadbytečné původní vlastnosti centos7, debian8 a debian9 postupně na strojích zrušíme (pozůstatek PBS Torque). Pro výběr operačního systému v příkazu qsub postupujte podle návodu výše v bodu 2.



Tip: Sestavovač Qsub pro pomoc s napsáním zadání úlohy a výběrem strojů: https://metavo.metacentrum.cz/pbsmon2/qsub_pbspro

4) Automatické promazávání scratchů na frontendech

Kvůli opakovaným problémům s plnými scratchi na frontendech zavedeme automatické promazávání starých dat (starší 60 dnů) také na frontendech. Nenechávejte ve scratchi na frontendech žádná důležitá data. Přeneste si je do /home adresářů.

5) Zprovoznění nových strojů vlastníka ELIXIR-CZ

Pro skupinu českého národního uzlu ELIXIR-CZ jsme zprovoznili následující clustery:
    • elmo1.hw.elixir-czech.cz - 224 CPU in total, SMP, 4 nodes with 56 CPUs, 768 GB RAM (Praha UOCHB)
    • elmo2.hw.elixir-czech.cz - 96 CPU in total, HD, 4 nodes with 24 CPUs, 384 GB RAM (Praha UOCHB)
    • elmo3.hw.elixir-czech.cz - 336 CPU in total, SMP, 6 nodes with 56 CPUs, 768 GB RAM (Brno)
    • elmo4.hw.elixir-czech.cz - 96 CPU in total, HD, 4 nodes with 24 CPUs, 384 GB RAM (Brno)

Stroje jsou přístupné přes prioritní frontu elixircz (PBS server @arien-pro), do které mají přístup pouze členové českého národního uzlu ELIXIR-CZ a jejich spolupracovníci. Členství ve skupině podléhá schvalování. Podmínky a další informace jsou uvedené na wiki https://wiki.metacentrum.cz/wiki/Elixir. Ostatní uživatelé MetaCentra budou moci brzy nové clustery využít v běžných krátkých frontách.

Popis a nastavení fronty: https://metavo.metacentrum.cz/pbsmon2/queue/elixircz

Vzorový qsub:

$ qsub -q elixircz@arien-pro.ics.muni.cz -l select=1:ncpus=2:mem=2gb:scratch_local=1gb -l walltime=24:00:00 muj_script.sh

Quickstart: https://wiki.metacentrum.cz/w/images/f/f8/Quickstart-pbspro-ELIXIR.pdf
 

Stroje mají nainstalovaný OS Debian9. Případné problémy s během aplikací (chybějícími knihovnami apod.) na strojích s OS Debian9 nám, prosím, neprodleně hlaste na meta@cesnet.cz .
V případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.
 

Zprovoznili jsme nový cluster zelda

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový SMP cluster zelda[1-10].cerit-sc.cz (lokalita Brno, vlastník CERIT-SC). Cluster obsahuje 10 uzlů (720 CPU jader), každý z nich má následující hardwarovou specifikaci:

• CPU: 4x Intel(R) Xeon(R) Gold 6140 CPU @ 2.30GHz
• RAM: 768 GB
• Disk: 4x 4TB 7.2k + 2x 1.8 TB SSD
• Výkon každého uzlu dle SPECfp2006: 2700 (37,5 na jádro)
• Net: 1x Infiniband 56 Gbit/s, 1x Ethernet 10 Gbit/s
• Dočasně podporuje pouze krátké úlohy (aktuálně 4 hodiny). Pokud nebudou problémy, maximální doba běhu úloh bude postupně navyšována.
• Dočasně nejsou propojené infinibandem
• OS: Debian 9

Cluster je dostupný v prostředí plánovacího serveru @wagap-pro prostřednictvím standardní fronty.

• Pro spuštění úlohy na clusteru zelda s OS Debian9 přidejte do zadání úlohy parametr "os=debian9"

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=debian9 …

• Pro úplnost, pro spuštění úloh na stroji s libovolným OS zadejte "os=^any"

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=^any …

Případné problémy s během aplikací (chybějícími knihovnami apod.) na strojích s OS Debian9 nám, prosím, neprodleně hlaste na meta@cesnet.cz . V případě problémů s kompatibilitou vyzkoušejte přidání modulu debian8-compat.

Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Nabídka stáže v jednom z 9 HPC center v programu HPC-Europa3

Vážení uživatelé,

předáváme nabídku stáží v HPC centrech v Eropě (program HPC-Europe3)

=============================================

HPC-Europa3 programme offers visit grants to one of the 9 supercomputing centres around Europe: CINECA (Bologna - IT), EPCC (Edinburgh - UK), BSC (Barcelona - SP), HLRS (Stuttgart - DE), SurfSARA (Amsterdam - NL), CSC (Helsinki - FIN), GRNET (Athens, GR), KTH (Stockolm, SE), ICHEC (Dublin, IE).

The project is based on a program of visit, in the form of traditional transnational access, with researchers visiting HPC centres and/or scientific hosts who will mentor them scientifically and technically for the best exploitation of the HPC resources in their research. The visitors will be funded for travel, accommodation and subsistence, and provided with an amount of computing time suitable for the approved project.

The calls for applications are issued 4 times per year and published online on the HPC-Europa3 website. Upcoming call deadline: Call #3 - 28 February 2018 at 23:59

For rmore details visit programme webpage http://www.hpc-europa.eu/guidelines

===============================================

V případě zájmu se obracejte přímo na organizátory akce.

Coordinator:

Paola Alberigo

SCAI Department - CINECA
Via Magnanelli 6/3
40033 Casalecchio di Reno (Italy)

e-mail: staff@hpc-europa.org

S přátelským pozdravem,
MetaCentrum

Zprovoznili jsme nový cluster aman

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový SMP cluster aman[1-10].ics.muni.cz (lokalita Brno, vlastník CESNET), 560 CPU, 10 uzlů s následujíci HW specifikací:

• CPU: 4x 14-core Intel Xeon E7-4830 v4 (2.00GHz)
• RAM: 512 GB
• disk: 2x 4TB 7k2 SATA III, 480 GB Intel SSD S3610
• Výkon každého uzlu dle SPECfp2006: 1490 (26,6 na jádro)
• Dočasně podporuje pouze krátké úlohy. Pokud nebudou problémy, maximální doba běhu úloh bude postupně navyšována až na 30 dní.

Cluster je dostupný v prostředí plánovacího serveru @arien-pro prostřednictvím standardních front. Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Zprovoznili jsme nový cluster hildor

Vážení uživatelé,

MetaCentrum bylo rozšířeno o nový cluster hildor[1-28].metacentrum.cz (lokalita České Budějovice, vlastník CESNET), 672 CPU, 28 uzlů s následujíci HW specifikací

• CPU: 2x 8-core Intel Xeon E5-2665 2.40GHz
• RAM: 64 GB
• disk: 2x 1TB
• Výkon každého uzlu dle SPECfp2006: 468 (29,25 na jádro)
• Dočasně podporuje pouze krátké úlohy, aktuálně maximálně 24 hodin. Pokud nebudou problémy, maximální doba běhu úloh bude postupně navyšována až na 30 dní.

Cluster je dostupný v prostředí plánovacího serveru @arien-pro prostřednictvím standardních front. Kompletní seznam aktuálně dostupných výpočetních serverů je na http://metavo.metacentrum.cz/pbsmon2/hardware.

S přáním příjemného počítání,

Novinky infrastruktury

1) Reinstalace strojů na Debian9 (CERIT-SC @wagap-pro)

Seznam uzlů s OS Debian9 je možné zobrazit v Sestavovači Qsub (volba :os=debian9) https://metavo.metacentrum.cz/pbsmon2/qsub_pbspro

Pokud nenastavíte nic, budete ještě po přechodnou dobu spouštět úlohy ve frontě default@wagap-pro na strojích výhradně s OS Debian8. Pokud chcete vyzkoušet připravenost svých skriptů na nový operační systém, můžete využit následující volby:

• Pro spuštění úlohy na stroji s OS Debian9 přidejte do zadání úlohy parametr "os=debian9"

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=debian9 …

• Podobně pro spuštění úloh na strojích s OS Debian8 (v případě problémů na OS Debian9) zadejte "os=debian8"

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=debian8 …

• Pro úplnost, pro spuštění úloh na stroji s libovolným OS zadejte "os=^any"

zuphux$ qsub -l select=1:ncpus=2:mem=1gb:scratch_local=1gb:os=^any …

Případné problémy s během aplikací (chybějícími knihovnami apod.) na strojích s OS Debian9 nám, prosím, neprodleně hlaste na meta@cesnet.cz .

Poznámka: Některé speciální stroje dostupné ve speciálních frontách mohou mít odlišný OS, např. urga, ungu (ve frontě uv@wagap-pro) a phi (ve frontě phi@wagap-pro) běží na OS CentOS 7.

2) Speciální uzel/frontend oven.ics.muni.cz pro řízení a plánování úloh

Speciální uzel/frontend oven.ics.muni.cz s velkým množstvím nevýkonných virtuálních CPU je určený především pro běh výkonnostně nenáročných řídících/resubmitovacích úloh. Je přístupný přes speciální frontu 'oven', která je dostupná všem uživatelům MetaCentra.

Nastavení fronty 'oven':

• slouží pro spouštění výkonově nenáročných řídících úloh pro administraci spouštění dalších úloh v klasických frontách
• maximální doba běhu řídící úlohy až měsíc, default je 24 hodin
• defaultně přiděluje úloze 100 MB paměti
• oddělený fairshare (pouze pro řídící/resubmitovací úlohy)

Parametry uzlu oven.ics.muni.cz:

• 80 nevýkonných, virtuálních CPU
• 8 GB RAM
• nezabijí úlohy při překročení požadovaného počtu procesorů nebo paměti
• zabíjí úlohy při překročení walltime
• je dostupný pouze přes frontu oven

Jednoduchý příklad submitovací úlohy:

echo "echo hostname | qsub" | qsub -q oven

Více informací na wiki https://wiki.metacentrum.cz/wiki/Uzel_Oven

Pozvánka na kurz "What you need to know about performance analysis using Intel tools"

Kdy: středa 14. června 2017 9.00-17.30 hod.

Kde: areál VŠB-TUO v Ostravě-Porubě, budova IT4Innovations, místnost 207

Jazyk: angličtina

Úroveň: pokročilý

Tutor: Georg Zitzlsberger (IT4Innovations)

Podrobnější informace o kurzu a registraci naleznete na webové stránce:
http://training.it4i.cz/en/PAUIT-06-2017

Případné dotazy směřujte na: training[at]it4i.cz  

Training Team IT4Innovations

-------------------------

Pozvánka na Gaussian Workshop (Španělsko)

Vážení uživatelé,

dovolujeme si Vám předat pozvánku na workshop "Introduction to Gaussian: Theory and Practice":

 ============================================================

WORKSHOP IN SPAIN IN JULY 2017
We are very pleased to announce that the workshop "Introduction to Gaussian: Theory and Practice" will be held at the University of Santiago de Compostela in Spain from July 10-14, 2017.  Researchers at all levels from academic and industrial sectors are welcome.

Full details are available on our website at:
www.gaussian.com/ws_spain17


Follow us on LinkedIn for announcements, Tips & FAQs, and other info: www.linkedin.com/company/gaussian-inc
 ============================================================

S přátelským pozdravem
MetaCentrum

Aktualizace frontendu zuphux.cerit-sc.cz na PBS Pro a OS Centos 7.3

CERIT-SC pokračuje s přesunem běžných výpočetních strojů z prostředí PBS Torque @wagap do nového prostředí s plánovacím systémem PBS Pro @wagap-pro.

***ZMĚNA SYSTÉMU FRONTENDU***

Připomínáme hlavní odlišnosti PBS Pro:

• Odlišná syntaxe (požadavek na 1 uzel ve frontě uv se 48 cpu, 20 GB RAM, 20 GB scratch, 1 hodina walltime):

  • qsub -q uv -l select=1:ncpus=48:mem=20gb:scratch_local=20gb -l walltime=1:00:00 skript.sh

• Nutno vždy specifikovat
  • walltime ve formátu [hh:mm:ss]
  • velikost a typ scratche <scratch_local|scratch_ssd|scratch_shared>

S omluvou za komplikace a s díky za pochopení,

Uživatelská podpora centra CERIT-SC

Další rozšíření PBS Pro prostředí v CERIT-SC

CERIT-SC pokračuje s přesunem běžných výpočetních strojů z prostředí PBS Torque @wagap do nového prostředí s plánovacím systémem PBS Pro @wagap-pro.

 zuphux$ module add pbspro-client  ... nastaví PBSPro prostředí @wagap-pro

obdobně 

 zuphux $ module rm pbspro-client   ... vrátí Torque prostředí @wagap

Připomínáme hlavní odlišnosti PBS Pro:

• Odlišná syntaxe (požadavek na 1 uzel ve frontě uv se 48 cpu, 20 GB RAM, 20 GB scratch, 1 hodina walltime):

  • qsub -q uv -l select=1:ncpus=48:mem=20gb:scratch_local=20gb -l walltime=1:00:00 skript.sh

• Nutno vždy specifikovat
  • walltime ve formátu [hh:mm:ss]
  • velikost a typ scratche <scratch_local|scratch_ssd|scratch_shared>

Uživatelská podpora centra CERIT-SC

Prezentace ze Semináře gridového počítání 2017

Vážení uživatelé,

ve čtvrtek 30. března proběhl další ročník Semináře gridového počítání 2017, zaměřený na zpracování, analýzu a ukládání dat a představení novinek v gridovém a cloudovém prostředí MetaCentrum a CERIT-SC. Semináře se zúčastnilo více než 90 vědců.

Seminář byl organizován projektem MetaCentrum sdružení CESNET a Centrem CERIT-SC.

Program semináře a prezentace z jednotlivých přednášek jsou k dispozici na stránce semináře.

S přátelským pozdravem
MetaCentrum & CERIT-SC

Nastavení expirace virtuálních strojů v MetaCloudu

Vážení uživatelé,

s cílem zlepšit využití cloudových zdrojů v MetaCloudu jsme zavedli mechanismus expirace zapomenutých virtuálních strojů. Jeho podstatou je, že každý vlastník musí vždy po určité době potvrdit trvající zájem o běh každého svého stroje, jinak bude stroj odstraněn a zdroje se uvolní pro ostatní uživatele. Již nyní můžete u svých virtuálních strojů vidět naplánované akce na vypnutí. Celý popis systému najdete na wiki stránce Expirace virtuálních strojů a včas vám přijde upozornění elektronickou poštou.