Qu'est-ce qu'un ordonnanceur?

From CC Doc
Jump to: navigation, search
This page is a translated version of the page What is a scheduler? and the translation is 100% complete.

Other languages:
English • ‎français

Qu'est-ce qu'une tâche (job)?

Notre expérience avec les ordinateurs passe le plus souvent par les interfaces utilisateurs (GUIs pour graphical user interfaces). Par des fenêtres, des menus et des boutons, nous n'avons qu'à cliquer pour obtenir une réaction. L'environnement n'est pas le même avec les serveurs de Calcul Canada. D'abord, il ne s'agit pas de cliquer, mais d'entrer les commandes via une console, ce qui s'appelle une interface en ligne de commande; pour une description de ce type d'interface, consultez la page Introduction à Linux. Une autre différence importante est que vos programmes ne s'exécutent pas toujours immédiatement, mais sont placés dans une file d'attente, une queue; les tâches sont exécutées quand les cœurs CPU sont disponibles pour éviter le risque d'interférence et la baisse de performance.

Utiliser cette interface comprend les étapes suivantes :

  • vous préparez un script qui indique le programme à exécuter, la source des données et la destination du résultat;
  • vous soumettez ce script à un logiciel ordonnanceur qui détermine le moment et l'endroit où il sera exécuté;
  • vous pouvez récupérer le résultat lorsque la tâche est terminée.

Vous n'avez habituellement pas d'interaction avec le programme pendant que la tâche est en exécution, mais vous pouvez cependant vous informer de sa progression.

Voici un script des plus simples :

Fichier : simple_job.sh

#!/bin/bash
#SBATCH --time=00:01:00
echo 'Hello, world!'
sleep 30


Il y a deux programmes (echo et sleep), aucune donnée en entrée et le résultat en sortie ira à la destination par défaut. Les lignes commençant par #SBATCH sont des directives décrivant ce que l'ordonnanceur doit connaitre de la tâche à exécuter. Dans notre exemple, le temps d'exécution n'est que de une minute (00:01:00).

Ordonnanceur de tâches

L'ordonnanceur accomplit plusieurs fonctions :

  • entretenir une base de données relative aux tâches;
  • appliquer les règles quant aux limites et aux priorités;
  • empêcher que les ressources soient surchargées, par exemple en assignant un cœur CPU à une tâche à la fois;
  • déterminer quelles sont les tâches à exécuter et quels sont les nœuds de calcul à utiliser;
  • lancer les tâches sur les nœuds appropriés;
  • procéder à un nettoyage chaque fois qu'une tâche est complétée.

Pour ses grappes, Calcul Canada a adopté la solution d'ordonnancement Slurm Workload Manager (la version anglaise de cette page est plus étoffée). Ici, les exemples et la syntaxe sont pour Slurm.

Demander des ressources

Pour demander les ressources nécessaires à l'exécution d'un calcul, vous utilisez un script de tâche. Les paramètres d'une tâche sont le temps d'exécution et le nombre de processeurs. Dans l'exemple montré plus haut, le script demande une minute de temps d'exécution et puisqu'aucun nombre de processeurs n'est spécifié, un seul processeur sera alloué par défaut. D'autres types de requêtes sont décrits ci-après, dont l'utilisation de processeurs multiples, la quantité de mémoire et l'emploi de processeurs spéciaux comme les GPUs (la version anglaise de cette page est plus étoffée).

Il est important de bien spécifier les paramètres. Si les valeurs sont inférieures à celles exigées par les calculs et que la tâche dépasse le temps ou la mémoire spécifiée, elle sera arrêtée. Si au contraire les valeurs sont supérieures aux besoins, la tâche pourrait rester en file d'attente plus longtemps que nécessaire et son exécution utiliserait des ressources qui ne seraient donc pas disponibles pour d'autres tâches.

Tâche simple avec Slurm

Soumettons maintenant le script simple_job.sh avec la commande sbatch :

[someuser@host ~]$ sbatch simple_job.sh
Submitted batch job 1234
[someuser@host ~]$ squeue -u $USER
             JOBID PARTITION     NAME     USER ST       TIME  NODES NODELIST(REASON)
              1234 mem12_sho simple_j someuser  R       0:03      1 zeno001
[someuser@host ~]$ cat slurm-1234.out
Hello, world!

Suite à la commande squeue, la colonne ST indique l'état de la tâche (voir la section Suivi des tâches dans Exécuter des tâches). Les états les plus communs sont PD (pending) pour en attente, et R (running) pour en cours. Si la tâche est complétée, la colonne ST est vide.

Remarquez que chaque tâche qui est soumise reçoit un identifiant unique; 1234 dans notre exemple. Si vous avez plusieurs tâches possédant le même nom, cet identifiant permet de les distinguer. Comme l'endroit où placer le résultat n'est pas spécifié, ce dernier est enregistré dans un fichier nommé avec l'identifiant de la tâche, ici slurm‑1234.out.

La ligne de commande peut aussi définir les options pour sbatch. Par exemple, avec

[someuser@host ~]$ sbatch --time=00:30:00 simple_job.sh 

la durée d'exécution devient 30 minutes. Toutes les options peuvent ainsi être modifiées.

Enregistrer le résultat

Pour donner au fichier de sortie un nom plus significatif que slurm‑1234.out, modifiez-le avec --output. Le prochain script définit le nom de la tâche (job name) à paraître dans squeue et enregistre le résultat dans un fichier identifié par le job name comme préfixe ainsi que l'identifiant de la tâche.


Fichier : name_output.sh

#!/bin/bash
#SBATCH --time=00:01:00
#SBATCH --job-name=test
#SBATCH --output=test-%J.out
echo 'Hello, world!'


Le même fichier comprendrait aussi les erreurs, tout comme si les commandes étaient données interactivement. Il est cependant possible de séparer le canal stderr (pour standard error) du canal stdout pour (pour standard output) en utilisant l'option ‑e pour spécifier les noms des fichiers.

Comptes et projets

Les renseignements en rapport avec la tâche sont enregistrés pour que nous puissions faire un suivi de la qualité de nos services et faire rapport de la bonne utilisation des fonds aux organismes subventionnaires; ces renseignements relatifs aux tâches comprennent le temps en file d'attente, la durée d'exécution et le nombre de cœurs utilisés. Chaque tâche doit être associée à un nom de compte correspondant à un projet; voir la rubrique Qu'est-ce qu'un RAP?


la rubrique [1].

#SBATCH --account=def-user-ab

Si vous soumettez une tâche avec sbatch sans spécifier de nom de compte alors que ceci est requis, vous devrez choisir parmi la liste de noms de comptes valides qui sera affichée.