Espace projet

From CC Doc
Jump to: navigation, search
This page is a translated version of the page Project layout and the translation is 100% complete.

Other languages:
English • ‎français

Page enfant de: Stockage et gestion de fichiers

Les espaces projet des systèmes de fichiers sur Cedar et Graham sont organisés selon des groupes à l'aide d'une interface utilisateur simple. L'accès à un espace projet se fait habituellement par des liens symboliques à partir de votre répertoire home. Les liens symboliques se présentent sous le format $HOME/projects/group_name. Dans les comptes de plus longue date, l'autre lien symbolique $HOME/project pointe sur le répertoire projet de votre groupe; pour les utilisateurs qui sont associés à plus d’un groupe, le lien pointe sur le groupe désigné comme étant leur groupe par défaut.

Dans l’espace réservé à un groupe, le chercheur principal est propriétaire du répertoire et les membres du groupe ont des permissions de lecture et écriture pour ce répertoire. Cependant, pour tout nouveau fichier enregistré dans le répertoire, les membres du groupe ont par défaut un droit de lecture seulement; pour que les membres puissent avoir un droit en écriture, la meilleure approche est de créer un répertoire particulier, ainsi

[name@server ~]$ mkdir $HOME/projects/def-profname/group_writable

suivi de

[name@server ~]$ setfacl -d -m g::rwx $HOME/projects/def-profname/group_writable

Sur le partage de données, la propriété de fichiers et les listes de contrôle d’accès (ACLs), voyez Partage de données.

Par défaut, un espace projet a un quota de 1To et cinq millions de fichiers; l’espace peut être augmenté jusqu’à 10To sur demande auprès du soutien technique. Si votre groupe dispose de quotas plus élevés par suite du concours d’allocation de ressources, vous avez été informé du quota qui vous est alloué pour l’année. Notez que l'espace de stockage alloué dépend de la grappe et ne peut en principe être utilisé sur une autre grappe.

Pour connaitre les espaces utilisés et disponibles pour scratch et projet sur Cedar et Graham, ou l'espace home sur Cedar, utilisez

[name@server ~]$ diskusage_report

Pour faire en sorte que les fichiers copiés ou déplacés dans un espace projet appartiennent au même groupe et soient comptabilisés dans le quota prévu, il peut être utile d'attribuer le bit setgid au répertoire approprié. De cette manière, tous les nouveaux fichiers et sous-répertoires ajoutés sous le répertoire en question héritent du même groupe que leur parent; de plus, les sous-répertoires héritent aussi de setgid. Cependant, l'appartenance au groupe n'est pas modifiée pour les fichiers et sous-répertoires déjà existants, ce qui se fait par la commande chgrp; aussi, tout fichier déplacé dans le répertoire conserve son appartenance de groupe. Pour attribuer setgid à un répertoire, utilisez la commande

[name@server ~]$ chmod g+s <directory name>

Pour attribuer setgid aux sous-répertoires existants, utilisez la commande

[name@server ~]$ find <directory name> -type d -print0 | xargs -0 chmod g+s

Pour plus d'information sur setgid, consultez cette page.

La commande newgrp modifie votre groupe par défaut pendant une session interactive; par exemple

[name@server ~]$ newgrp rrg-profname-ab

Copiez ensuite les données vers le répertoire projet approprié. Cependant, le groupe par défaut est modifié uniquement pour cette session; vous devrez utiliser newgrp à nouveau pour changer le groupe par défaut à votre prochaine connexion.

Si vous recevez des messages d'erreur disk quota exceeded, ceci peut très bien être dû au fait que des fichiers sont associés au mauvais groupe, notamment votre groupe personnel, c'est-à-dire le groupe qui porte le même nom que votre nom d'utilisateur et qui a un quota de seulement 2Mo. Pour trouver et résoudre un problème de propriété de groupe pour ces fichiers, vous pouvez utiliser la commande

find <directory name> -group $USER -print0 | xargs -0 chgrp <group>

<group> est quelque chose comme def-profname, donc un groupe qui possède un quota raisonnable d'un téraoctet ou plus.

Exemple

Dans notre exemple, Sue est chercheur principal et Bob est membre de son groupe. Au départ, les répertoires de Sue et Bob semblent structurés de manière identique.

  • /home/sue/scratch (lien symbolique)
  • /home/sue/projects (répertoire)
  • /home/bob/scratch (lien symbolique)
  • /home/bob/projects (répertoire)

Cependant, le lien symbolique scratch pointe sur des répertoires différents : /scratch/sue pour Sue et /scratch/bob pour Bob.

En supposant que Bob n'ait qu'un seul rôle défini dans la base de données CCDBCompute Canada Data Base, le répertoire project de Bob aurait le même contenu que les répertoires project de Sue, et projects pour Bob serait identique à projects pour Sue. Aussi, si Sue et Bob n'ont aucun autre rôle et ne sont associés à aucun autre projet, chacun de leur répertoire projects ne comprendrait qu'un sous-répertoire, soit def-sue.

Chacun de /home/sue/project, /home/bob/project, /home/sue/projects/def-sue et /home/bob/projects/def-sue pointeraient au même répertoire, soit /project/<numéro quelconque>. Ce répertoire est le meilleur endroit où partager les données de Sue et Bob; ils peuvent y créer des répertoires et ont un accès en lecture et en écriture. Ainsi, Sue peut créer un répertoire foo

$ cd ~/projects/def-sue
$ mkdir foo

et Bob peut copier des fichiers dans ~/projects/def-sue/foo, pour que les deux puissent y avoir accès.

En supposant maintenant que Sue ait obtenu des ressources avec espace de stockage suite au concours d'allocation de ressources (comme c'est souvent le cas), il y aurait une autre entrée dans leurs répertoires projects respectifs, semblable à

~/projects/rrg-sue-ab

Ce répertoire servirait à stocker et partager les données pour un projet dans le cadre du concours.

Pour partager un fichier avec un utilisateur qui n’est pas parrainé par le chercheur principal, par exemple Heather, le plus simple est de configurer les permissions pour que cet utilisateur puisse lire le répertoire ou le fichier, habituellement par une liste de contrôle des accès (ACL); pour les détails, consultez la page Partage de fichiers. Notez que les permissions pour les systèmes de fichiers peuvent être modifiées pour tous les répertoires ou fichiers, et non seulement pour ceux de votre espace project. Vous pouvez partager un répertoire de votre espace scratch ou encore un seul sous-répertoire particulier de votre espace projet. Il est de bonne pratique de limiter le partage des fichiers aux espaces projet et scratch.

N’oubliez pas que Heather devra probablement avoir accès à plus d’un niveau de la structure du système de fichiers; il faut lui accorder les permissions de lecture et d’écriture pour chacun des répertoires entre ~/projects/def-sue et le répertoire où sont situés les fichiers à partager. Nous avons supposé que Heather détient un compte sur la grappe en question, mais il est aussi possible de partager des données avec des chercheurs qui n’ont pas de compte avec Calcul Canada, en créant un point de chute commun dans GlobusGlobus is a file transfer service [https://www.globus.org/].

Bien sûr, si Heather devient une collaboratrice régulière de Sue, cette dernière pourrait la parrainer et lui accorder les mêmes accès que ceux accordés à Bob.

En résumé :

  • l'espace scratch est utilisé pour les fichiers privés et temporaires
  • l'espace home est habituellement utilisé pour un petit nombre de fichiers relativement privés (par exemple des scripts de tâches)
  • l'espace project du groupe est habituellement utilisé pour les données partagées puisque cet espace est persistant, sauvegardé et plutôt de grande taille (jusqu'à 10To et plus si alloué dans le cadre du concours d'allocation de ressources)