ciclad next generation depuis Octobre 2014
L'ensemble des serveurs du mésocentre de l'IPSL (ciclad et climserv) sont en cours de mis à jour vers une version plus récente de la distribution Linux actuellement utilisée (Passage de Centos 5.5 à Scientific Linux 6.5). Cette mise à jour s'accompagnera d'une mise à jour de la plupart des logiciels installés.
Pour préparer cette transition, plusieurs serveurs ont été installés afin de tester vos programmes sur cette nouvelle version :
nouvelle machine d'accès ciclad-ng.ipsl.jussieu.fr (134.157.176.129 ( ssh ouvert sur internet ) 32 coeurs 128Go de ram
( l'accès à l'idris et au CCRT est possible depuis cette machine )
Il peut être necessaire voir même souhaitable de recompiler vos binaires
il est possible de lancer des jobs depuis cette machines qui tourneront sur des machines elles aussi en scientific linux 6.5
ce cluster dispose au 01/03/2016 de noeuds :
- 15 machines 64 processeurs 256Go de ram
- 5 machine 32 Processeurs 128 Go de ram
Il ne reste plus de noeuds dans l'ancien cluster seul ciclad1 reste
Les outils disponibles :
Désormais beaucoup d'outils sur le mésocentre de l'IPSL (ciclad + climserv ) sont gérés par la commande module
( c'est vrai aussi pour toutes les machines Scientific Linux 6 du LATMOS , du LOCEAN , du LMD et de l'IPSL à jussieu )
Syntaxe
module (avail [produit] | load produit[/version] | list | switch produit/version1 produit/version2 | display produit[/version] …)
-
''avail'' : liste les différents produits disponibles et leurs versions,
-
''load'' : charge le produit dans sa version par défaut (notée default), si aucune
version
n'est spécifiée, -
''list'' : liste les différents produits chargés et leur version,
-
''switch'' : change la version d'un produit déjà chargé.
- ''purge" : décharge tous les modules déjà chargés
- ''display" : montre le contenu du fichier module
produit
représente au choix :
-
un compilateur,
-
une bibliothèque,
-
une application ou un utilitaire.
version
représente les évolutions d'un même produit, elle peut être égale à :
-
default
: version par défaut; c'est celle qui est prise si vous ne spécifiez aucune version. Cette version est en général la plus adaptée, -
numéro
: numéro de version complet du type X.Y.Z
Initialisation de la commande module
L'initialisation de module
est faite implicitement dans les fichiers d'environnement général. Il n'y a donc rien à positionner pour avoir l'accès à la commande module
.
Liste des produits disponibles
Vous cherchez un produit spécifique, une version particulière d'une bibliothèque ? L'avons-nous à votre disposition ? Pour répondre à cette question, la commande à exécuter est module avail
:
$ module avail
------------------------------------------------------- /usr/share/Modules/modulefiles -------------------------------------------------------
dot module-git module-info modules null use.own
--------------------------------------------------------- /etc/modulefiles/Compilers ---------------------------------------------------------
gnu/4.4.7(default) intel/12.1.3.293(default) nagfor/5.3(default) pgi/2013(default)
--------------------------------------------------------- /etc/modulefiles/Libraries ---------------------------------------------------------
hdf5/1.8.10.patch1-gfortran netcdf4/4.2.1.1-gfortran oasis3-mct/2.0-gfortran openmpi/1.4.5-pgf2011 openmpi/1.6.5-ifort
hdf5/1.8.10.patch1-ifort netcdf4/4.2.1.1-ifort oasis3-mct/2.0-ifort openmpi/1.4.5-pgf2011gcc openmpi/1.6.5-pgf2011
hdf5/1.8.10.patch1-pgf2011 netcdf4/4.2.1.1-pgf2011 oasis3-mct/2.0-pgf2013 openmpi/1.4.5-pgf2013 openmpi/1.6.5-pgf2013
hdf5/1.8.10.patch1-pgf2013 netcdf4/4.2.1.1-pgf2013 openmpi/1.4.5-gfortran openmpi/1.4.5-pgfgcc openmpi/1.6.5-pgfgcc
hdf5/1.8.14-gfortran netcdf4/4.3.3.1-gfortran openmpi/1.4.5-ifort openmpi/1.6.5-gfortran
--------------------------------------------------------- /etc/modulefiles/Products ----------------------------------------------------------
cdo/1.6.8(default) grads/2.0.2.oga.2-opengrads ncl/6.1.2(default) python/2.7-anaconda
ferret/6.7.2(default) idl/6.4(default) nco/4.3.7(default) python/3.4-anaconda3
ferret/6.9 idl/8.2 nco/4.4.8 R/3.2.1
gmt/4.5.11(default) matlab/2010b.sp2 python/2.7.3-epd7 scilab/5.4.1(default)
grads/2.0.2(default) matlab/2013b(default) python/2.7.6-canopy-1.3(default) scilab/5.5.1
exemples pour la commande module :
[weill@ciclad-ng ~]$ type pgf90
pgf90 est /opt/pgi-2013/linux86-64/2013/bin/pgf90
[weill@ciclad-ng ~]$ module load pgi/2011
[weill@ciclad-ng ~]$ type pgf90
pgf90 est /opt/pgi-2011/linux86-64/2011/bin/pgf90
[weill@ciclad-ng ~]$ type matlab
matlab est /opt/matlab-2013b/matlab
[weill@ciclad-ng ~]$ module load matlab/2010b.sp2
[weill@ciclad-ng ~]$ type matlab
matlab est /opt/matlab-2010b.sp2/matlab
[weill@ciclad-ng ~]$ module switch matlab/2013b
[weill@ciclad-ng ~]$ type matlab
matlab est /opt/matlab-2013b/matlab
[weill@ciclad-ng ~]$ module list
Currently Loaded Modulefiles:
1) pgi/2011 2) matlab/2013b
[weill@ciclad-ng ~]$ module purge
[weill@ciclad-ng ~]$ type pgf90
-bash: type: pgf90 : non trouvé
[weill@ciclad-ng ~]$ module list
No Modulefiles Currently Loaded.
Passage de l'ancien ciclad au nouveau : ce qu'il faut impérativement savoir
pour tous les programmes fortran ou C il faut recompiler vos applications
changement important pour les jobs parallèles au niveau du gestionnaire de batch
les queues sont désormais en WALLTIME et non plus en CPUTIME
la queue paralong n'existe plus ( la queue week à la même fonction )
les queue week2 et infini n'accepte pas les jobs //
la mémoire est désormais par job et non plus par process ( -l mem= -l vmem= )
openmpi version 1.6.5 et 1.4.5
qsub -VI doit être remplacé par qsub -IV
si dans votre job vous avez
#PBS -l "nodes=x:ppn=y"
il faut retirer les " pour que cela fonctionne sur la nouvelle version
mpi-selector n'a plus besoin d'être utilisé
Pour être sûr d'utiliser les bonnes versions des logiciel dans vos jobs , je vous conseille de commencer vos jobs par le déchargement
de tous les modules et ne charger que ceux dont vous avez besoin
exemples pour un programme utilisant pgf 2011 , openmpi 1.6.5 et netcdf 4.2.1.1
#!/bin/bash
#PBS -l node=1:ppn=16
module purge
module load pgi/2011 openmpi/1.6.5-pgf2011 netcdf4/4.2.1.1-pgf2011
cd mon_beau_rep
mpirun mon_beau_program