Béluga

From CC Doc
Jump to navigation Jump to search
Other languages:
Disponibilité : mars 2019
Nœud frontal : beluga.calculcanada.ca
Point de chute Globus : computecanada#beluga-dtn
Nœud de copie (rsync, scp, sftp,...) : beluga.calculcanada.ca

Béluga est une grappe hétérogène et polyvalente conçue pour les calculs ordinaires; elle est située à l'École de technologie supérieure. Son nom rappelle la baleine béluga, un mammifère marin vivant dans les eaux du fleuve Saint-Laurent.

Particularités

Notre politique veut que les nœuds de calcul de Béluga n'aient pas accès à l'internet. Pour y faire exception, contactez le soutien technique en expliquant ce dont vous avez besoin et pourquoi. Notez que l'outil crontab n'est pas offert.

Chaque tâche devrait être d'une durée d’au moins une heure (au moins cinq minutes pour les tâches de test) et un utilisateur ne peut avoir plus de 1000 tâches (en exécution et en attente) à la fois. La durée maximale d'une tâche est 7 jours (168 heures).

Stockage

HOME
Système de fichiers Lustre, 105 To d’espace au total
  • Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace project pour les grands besoins en stockage.
  • 50 Go d’espace et 500K fichiers par utilisateur.
  • Il y a une sauvegarde automatique une fois par jour.
SCRATCH
Système de fichiers Lustre, 2.6 Po d’espace au total
  • Grand espace pour stocker les fichiers temporaires pendant les calculs.
  • Pas de système de sauvegarde automatique.
  • 20 To d’espace et 1M fichiers par utilisateur.
PROJECT
Système de fichiers Lustre, 25 Po d’espace au total
  • Cet espace est conçu pour le partage de données entre membres d'un groupe et pour le stockage de beaucoup de données.
  • 1 To d’espace et 500K fichiers par groupe.
  • Il y a une sauvegarde automatique une fois par jour.

Pour les transferts de données par Globus, on devrait utiliser le point de chute computecanada#beluga-dtn, alors que pour les outils comme rsync et scp, on peut utiliser un nœud de connexion.

Réseautique haute performance

Le réseau Infiniband EDR (100 Gb/s) de Mellanox relie tous les nœuds de la grappe. Un commutateur central de 324 ports rassemble les connexions des îlots avec un facteur de blocage maximum de 5:1. Les serveurs de stockage sont branchés avec une interconnexion non bloquante. L’architecture permet de multiples tâches parallèles avec jusqu’à 640 cœurs (voire plus) grâce à une réseautique non bloquante. Pour les tâches plus imposantes, le facteur de blocage est de 5:1; même pour les tâches exécutées sur plusieurs îlots, l’interconnexion est de haute performance.

Caractéristiques des nœuds

Le mode Turbo est maintenant activé sur tous les noeuds de Béluga.

nœuds cœurs mémoire disponible CPU stockage GPU
160 40 92G ou 95000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD de 480G -
579 40 186G ou 191000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD de 480G -
10 6 x SSD de 480G
51 40 752G ou 771000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD de 480G -
2 6 x SSD de 480G
172 40 186G ou 191000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD NVMe de 1.6T 4 x NVidia V100SXM2 (mémoire 16G), connectés via NVLink
2 64 4000G ou 4096000M 2 x AMD EPYC 7502 Rome @ 2.5 GHz 1 x SSD NVMe de 960G -
1 32 375G ou 384000M 2 x Intel Gold 6226R Cascade Lake @ 2.9 GHz 2 x SSD de 480G 8 x NVidia T4 (mémoire 16G)
  • Pour obtenir un plus grand espace $SLURM_TMPDIR, il faut demander --tmp=xG, où x est une valeur entre 350 et 2490.
  • Les noeuds à 4 To peuvent être demandés avec --partition=c-slarge. Note: ces noeuds ne sont pas compatibles avec les instructions AVX512.
  • Les GPUs T4 ne sont pas encore disponibles via Slurm; seuls les CPUs sont utilisables.