Terminologie des concours pour l'allocation de ressources

From CC Doc
Jump to: navigation, search
This page is a translated version of the page Technical glossary for the resource allocation competitions and the translation is 100% complete.

Other languages:
English • ‎français

Ressources de calcul

CPU (pour central processing unit) : Unité centrale de traitement; cerveau de l’ordinateur où s’effectuent la plupart des calculs. On l'appelle aussi processeur.

GPU (pour graphics processing unit) : Processeur utilisé pour accélérer les applications d’apprentissage profond, d’analytique et de génie, par exemple. Des accélérateurs de processeurs graphiques font fonctionner des centres de données écoénergétiques dans des laboratoires universitaires, des universités, de grandes entreprises ainsi que des petites et moyennes entreprises partout dans le monde. Ils jouent un rôle important dans l’accélération des applications, que ce soit sur des plateformes en intelligence artificielle, dans les domaines de l’automobile, des drones ou de la robotique.

VCPU (pour virtual central processing unit) : Unité centrale de traitement virtuelle. Dans un environnement infonuagique, un ou plusieurs CPU virtuels sont assignés à chaque machine virtuelle. Le système d’exploitation de la machine virtuelle considère chaque CPU virtuel comme un cœur de processeur physique simple.

VGPU (pour virtual graphics processing unit) : Processeur graphique virtuel. Un ou plusieurs VGPU peuvent être assignés à une instance dans un environnement infonuagique. Le système d'exploitation de l'instance voit chaque VGPU voit comme étant un cœur GPU physique distinct.

Allocation de ressources

Les ressources infonuagiques et les ressources de stockage sont allouées différemment des ressources de calcul CPU et GPU.

  • Un groupe de recherche obtient un maximum de ressources de stockage pour sa consommation exclusive pendant la durée de la période d’allocation. Pour l'allocation de ressources infonuagiques, la quantité de VCPU et d'espace de stockage alloués ne peut être dépassée au cours de la période d'allocation.
  • Les CPU et les GPU alloués ne le sont pas en quantités maximales, mais plutôt en quantités cibles dont la disponibilité est soumise à la priorisation par l’ordonnanceur. Une allocation de n CPU signifie que le groupe de recherche peut s’attendre à pouvoir accéder à ce nombre de CPU tout au long de la durée de la période d’allocation. Il demeure possible d’utiliser plus de ressources pourvu qu’elles ne soient pas utilisées par d’autres groupes. Les périodes de sous-utilisation, par exemple lorsque les activités de recherche sont ralenties ou que le matériel est en panne ou en maintenance, ne sont pas compensées. Pour en savoir plus sur les allocations de calcul, voyez Allocations et ordonnancement.

Traitement par lots

grappe (en anglais, cluster) : Groupe de nœuds de calcul interconnectés qui est géré par un programme d'ordonnancement.

nœud de calcul (en anglais, compute node) : Unité de calcul d’une grappe. Un nœud de calcul possède sa propre image du système d’exploitation, un ou plusieurs cœurs de processeur (CPU) et de la mémoire vive (RAM). Il peut être assigné à une tâche seul ou en groupe et les tâches l'utilisent de manière exclusive ou partagée, selon la grappe.

cœurs-année (en anglais, core year) : Mesure qui équivaut à utiliser un cœur de calcul de façon continue pendant une année complète. L’utilisation de 12 cœurs pendant un mois et celle de 365 cœurs pendant une seule journée équivalent toutes deux à l’utilisation d’un cœur-année. Calcul Canada alloue ses ressources de calcul aux chercheurs sur une base de cœurs-années.

équivalent-cœur (en anglais, core equivalent) : Un équivalent-cœur se compose d’un cœur simple et d’une certaine quantité de mémoire; pour le nommer, nous utilisons souvent le terme bundle. En plus du cœur, le bundle contient aussi la mémoire considérée comme étant associée à ce cœur. Pour en savoir plus, voyez Allocations et ordonnancement.

nœud de connexion ou d'accès (en anglais, login or head node) : L’accès à une grappe se fait habituellement par le nœud d’accès, point d’entrée ou nœud de connexion à la grappe. La configuration du nœud d’accès en fait le point de départ des tâches à exécuter sur la grappe. L’utilisateur qui accède ou se connecte à une grappe est automatiquement connecté au nœud d’accès; il s’agit souvent d’un nœud configuré comme point de liaison entre la grappe et le réseau.

juste part des ressources, allocation basée sur la … (en anglais, fair-share allocation) : De façon générale, Calcul Canada utilise un algorithme de juste part (fair share algorithm) pour établir la priorité des traitements par lots. Une portion de l’ensemble des ressources du système est allouée à chaque utilisateur, ce qui détermine sa priorité d’accès. Si vous avez récemment utilisé une large portion des ressources du système (c’est-à-dire plus que votre juste part), vous serez rétrogradé dans l’ordre de priorité. Le logiciel d’ordonnancement utilise toutefois une fenêtre limitée pour calculer la priorité. Après une certaine période de temps (par exemple, des semaines), le système « oublie » graduellement que vous avez surutilisé les ressources dans le passé. La grappe est ainsi utilisée dans sa pleine mesure et les utilisateurs qui se prévalent des ressources inutilisées ne sont pas pénalisés. Ceci fait en sorte que le total des ressources qui vous sont allouées ne limite en aucune façon les ressources de calcul que vous pouvez utiliser. Ce total représente plutôt la quantité de ressources que vous devriez pouvoir utiliser au cours de l’année si vous faites exécuter des tâches de façon continue et que le système fonctionne à capacité maximale. Autrement dit, continuez à travailler même si le total de vos ressources est atteint.

tâche (en anglais, job) : Élément de base exécuté par le système de traitement par lots. Une tâche se compose d’un ou plusieurs processus de calcul connexes gérés comme un tout. Les utilisateurs décrivent la tâche au moment de mettre celle-ci en file d’attente dans le système de traitement par lots. Cette description comprend une demande de ressources qui précise la quantité de mémoire requise, la durée de la tâche et le nombre de cœurs requis. En fonction des ressources utilisées, les tâches peuvent être exécutées en série (par un seul cœur) ou en parallèle (par plusieurs cœurs).

tâche en parallèle (en anglais, parallel job) : Tâche exécutée simultanément par plusieurs cœurs. En gros, les tâches en parallèle se divisent en deux catégories : a. les tâches de traitement multifil ou de multitraitement symétrique exécutées sur un même nœud et partageant le même espace mémoire, et b. les tâches à mémoire distribuée pouvant être exécutées sur plusieurs nœuds.

tâche en série (en anglais, serial job) : Tâche exécutée par un seul cœur.

utilisation irrégulière (en anglais, uneven usage) : La plupart des systèmes de traitement par lots sont configurés pour offrir un certain nombre de cœurs-années sur une période de temps déterminée, supposant une utilisation régulière de la grappe. Cependant, les tâches des utilisateurs peuvent être de taille inégale, avec une utilisation plus ou moins intense dans le temps. Les utilisateurs pourraient avoir besoin d’une utilisation intensive (burst) des ressources de calcul afin de bien profiter de leur allocation. Nous présumons que les ressources seront utilisées de façon régulière dans la période d’allocation. Si vous prévoyez devoir exécuter des tâches ponctuelles intensives ou utiliser vos ressources de manière variable, veuillez le mentionner sur votre formulaire de demande d’allocation de ressources; nous vous contacterons pour discuter des solutions possibles.

Mémoire

mémoire par cœur (en anglais, memory per core) : Quantité de mémoire vive (RAM) par cœur de processeur. Si un nœud de calcul comporte 2 unités centrales ayant chacune 6 cœurs et 24Go de mémoire vive (RAM), ce nœud possède alors 2Go de mémoire par cœur.

mémoire par nœud (en anglais, memory per node) : Quantité totale de mémoire vive (RAM) installée sur un nœud de calcul.

Stockage

disque : Support statique à semiconducteurs pour l'enregistrement, entre autres, de programmes et de données en lecture et en écriture. Contrairement à la mémoire principale de l'ordinateur ou à la mémoire vive (RAM) qui sont volatiles, le disque est un support de stockage permanent.

système de fichiers (en anglais, filesystem) : Structure de fichiers pour les systèmes d’une grappe. Un système de fichiers peut avoir des caractéristiques spécifiques en termes de performance, d’espace disponible et d’utilisation. Certains systèmes de fichiers peuvent être utilisés seulement par les nœuds d’accès d’une grappe, alors que d’autres peuvent servir de nœuds de stockage pendant l’exécution d’une tâche. Les types de systèmes de fichiers sont :

/scratch : Système de fichier visible à partir des nœuds de calcul et qui sert de stockage haute performance utilisé lors des tâches de calcul. Il est conçu principalement pour les fichiers temporaires ou transitoires, les résultats bruts des calculs et simulations, et tout contenu pouvant aisément être recréé ou reproduit. Les données devraient être copiées dans les fichiers de travail /scratch, puis retirées lorsque la tâche est terminée. Ces fichiers sont purgés selon la politique du système local. Ils ne sont pas alloués par voie de concours, mais offrent des quotas élevés.
/home : Système de fichiers de base généralement utilisé pour le stockage de fichiers personnels, d’exécutables, de scripts pour l’exécution des tâches et d’ensembles de données d’entrée de relative petite taille. Chaque utilisateur possède son propre système de fichiers /home appelé « répertoire personnel  » (home directory). Le répertoire personnel est persistant, plus petit que la zone de travail /scratch et, dans la plupart des cas, sauvegardé régulièrement. Le répertoire personnel est visible par tous les nœuds de la grappe.
/project : Système de fichiers qui utilise des disques de performance moyenne à haute et est visible par les nœuds de calcul d’une grappe. L’espace de stockage y est plus grand que celui d’un répertoire /home et, dans la plupart des cas, la sauvegarde en est effectuée régulièrement. Ce type de système de fichiers est habituellement utilisé pour stocker les données fréquemment utilisées d’un projet qui ne sont toutefois pas souvent modifiées. Ils sont alloués dans le cadre des concours d’allocation de ressources.
/nearline : Système de fichiers quasi en ligne constitué de disques et de bandes; lorsque la taille des données sur un disque atteint un certain seuil, elles sont automatiquement transférées sur bande et retournées au disque pour les opérations de lecture. Pour utiliser cet espace de stockage, les utilisateurs doivent y placer les fichiers par ligne de commande Linux avec cp, mv, rsync ou autre, ou encore y transférer des fichiers en provenance d’un autre système de fichiers. Si les bandes offrent une très grande capacité, la latence est cependant augmentée lorsqu’il s’agit d’accéder à nouveau aux fichiers. Ils devraient donc être utilisés pour stocker les données rarement utilisées, mais qui doivent être conservées à long terme. Ce n’est pas à proprement parler un espace d’archivage, car les ensembles de données sont utilisés par des projets « actifs ». Ils sont soumis à des quotas et sont alloués dans le cadre des concours d’allocation de ressources.
dCache : Système de stockage initialement conçu pour les projets en physique des hautes énergies comportant des ensembles de données de l’ordre de pétaoctets. Il est surtout utilisé pour les projets de grande envergure auxquels sont associés plusieurs chercheurs et chercheurs principaux. dCache comporte un niveau de fichiers de stockage objet superposé à des fichiers classiques. Ces deux couches intégrées supportent plusieurs protocoles d’accès et de transfert pour les données sous-jacentes. L’espace de stockage dCache est alloué dans le cadre des concours d’allocation de ressources. Pour utiliser ce type de stockage, écrivez à l’équipe nationale de physique subatomique à support@calculcanada.ca.
stockage local : Lecteur de disque dur ou disque statique dans un nœud de calcul pouvant être utilisé de façon temporaire pour le stockage de programmes, de fichiers en lecture ou de leurs résultats. Les fichiers de l'espace de stockage local ne peuvent être accédés par les autres nœuds. Ce stockage pourrait ne pas être persistant, donc les fichiers qui y sont créés devraient être déplacés vers un espace de stockage autre que local afin d'éviter la perte de données.

site : Membre d’un consortium régional de Calcul Canada offrant des ressources de calcul informatique de pointe (CIP) (grappes de calcul haute performance, nuages, stockage, soutien technique).

bande magnétique (en anglais, tape) : Technologie utilisée pour stocker à long terme des données à accès peu fréquent. Considérablement plus abordable que le stockage sur disque, elle convient à plusieurs scénarios d’utilisation.

téraoctet (To) (en anglais, terabyte) : Unité utilisée le plus souvent pour mesurer la capacité des gros appareils de stockage. Un téraoctet égale 1000 gigaoctets et précède l’unité de mesure pétaoctet.

Infonuagique

service infonuagique de Calcul Canada : Ensemble d’équipements permettant la virtualisation sur le modèle IaaS (Infrastructure as a Service).

cloud ou nuage de calcul (en anglais, compute cloud) : Type de ressource de courte durée, avec utilisation élevée et constante du processeur. Ces ressources sont aussi connues sous l’appellation « instances en lots ». Parce qu’elles sont de courte durée, elles recevront un quota plus fort de processeurs virtuels (VCPU).
nuage persistant (en anglais, persistent cloud) : Type de ressource de durée indéterminée (par exemple, selon la disponibilité du service), pour l’usage entre autres de serveurs Web ou de serveurs de bases de données. Ces ressources sont généralement moins exigeantes en termes de processeur ou y ont recours de façon intermittente (bursty instance). Parce qu’elles sont de longue durée, elles recevront un quota moins fort de processeurs virtuels (VCPU).

adresse IP flottante (en anglais, floating IP) : Adresse IP publique qui est associée à une machine virtuelle; l’instance utilise la même adresse IP publique chaque fois qu’elle est lancée. Un groupe d’adresses IP flottantes est créé et elles sont ensuite assignées aux instances; l’adresse IP demeure la même et elle est toujours reliée au même nom de domaine (DNS pour domain name system).

instance (en anglais, instance et souvent virtual machine) : Machine virtuelle active ou dont l’état indique qu’elle est, par exemple, « suspendue »; elle peut être utilisée comme serveur physique

mémoire par cœur (en anglais, memory per core) : Voir mémoire par cœur dans la section Mémoire.

disque local éphémère (en anglais, ephemeral local storage)  : Espace disque souvent utilisé pour les applications cloud natives où les instances sont de courte durée et les données n’ont pas besoin d’être conservées au-delà de la durée de vie de l’instance, par exemple : quand une instance enregistre des données dans la cache pour un utilisation brève; quand une instance héberge des applications qui répliquent les données sur plusieurs instances; ou quand les données d’une instance sont enregistrées dans un volume ou dans un support de stockage externe. Contrairement aux volumes qui résident sur l’espace de stockage résilient d’une grappe, les disques locaux éphémères utilisent l’espace de stockage directement relié à l’hôte de virtualisation. Ils sont purgés et supprimés quand l’instance est supprimée par l’utilisateur ou par l’administrateur, et ne survivent pas aux bris de matériel.

portail de service (en anglais, service portal) : L’infrastructure de Calcul Canada héberge plusieurs portails Web où les chercheurs ont accès à des outils et des ensembles de données. Ces portails ne nécessitent généralement pas une grande quantité de ressources de calcul ou de stockage, mais peuvent requérir l’intervention de l’équipe technique de Calcul Canada. Les groupes qui présentent un projet de portail de service utilisant souvent le nuage de Calcul Canada, requièrent généralement une adresse IP publique et peuvent avoir (ou non) un besoin plus impérieux de temps en ligne que la plupart des projets de recherche. Sur le formulaire en ligne, cette option se nomme « Portal ».

machine virtuelle : Voir instance.

stockage des volumes et des instantanés : Espace de stockage persistant pour l’ensemble des volumes et des instantanés. Mesuré en Go.

instantané de volume (en anglais, volume snapshot) : Copie transactionnelle en lecture seule d’un volume OpenStack. Utilisé pour les copies de sauvegarde et l’instanciation d’autres instances.

stockage objet (en anglais, object storage) : Espace de stockage objet persistant utilisé pour de grandes quantités de données accédées principalement en mode lecture. Accessible de partout par les protocoles S3 et Swift. Mesuré en To.

stockage dans un système de fichiers partagé (en anglais, shared filesystem storage) : Espace de stockage persistant Unix pouvant être monté par plusieurs hôtes d’un même projet pour partager les données. Ce service utilise CephFS et requiert un pilote Fuse sous Windows ou Linux, ou le pilote du noyau (kernel driver) CephFS sous Linux. Mesuré en To.