Your browser version is outdated. We recommend that you update your browser to the latest version.

ciclad next generation   depuis Octobre 2014

 

L'ensemble des serveurs du mésocentre de l'IPSL (ciclad et climserv) sont en cours de mis à jour vers une version plus récente de la distribution Linux actuellement utilisée (Passage de Centos 5.5 à Scientific Linux 6.5). Cette mise à jour s'accompagnera d'une mise à jour de la plupart des logiciels installés.

Pour préparer cette transition, plusieurs serveurs ont été installés afin de tester vos programmes sur cette nouvelle version :

nouvelle machine d'accès ciclad-ng.ipsl.jussieu.fr (134.157.176.129 ( ssh ouvert sur internet ) 32 coeurs 128Go de ram

( l'accès à l'idris et au CCRT est possible depuis cette machine )

 

Il peut être necessaire voir même souhaitable de recompiler vos binaires

 

il est possible de lancer des jobs depuis cette machines qui tourneront sur des machines elles aussi en scientific linux 6.5

ce cluster dispose au 01/03/2016 de   noeuds :

  - 15 machines 64 processeurs  256Go de ram

  - 5 machine 32 Processeurs 128 Go de ram

Il ne reste plus de noeuds dans l'ancien cluster seul ciclad1 reste

 

Les outils disponibles :

Désormais beaucoup d'outils sur le mésocentre de l'IPSL (ciclad + climserv ) sont gérés par la commande module

( c'est vrai aussi pour toutes les machines Scientific Linux 6 du LATMOS , du LOCEAN , du LMD et de l'IPSL à jussieu )

 

Syntaxe

module (avail [produit] | load produit[/version] | list | switch produit/version1 produit/version2 | display produit[/version] …)

  • ''avail'' : liste les différents produits disponibles et leurs versions,
  • ''load'' : charge le produit dans sa version par défaut (notée default), si aucune version n'est spécifiée,
  • ''list'' : liste les différents produits chargés et leur version,
  • ''switch'' : change la version d'un produit déjà chargé.
  • ''purge" : décharge tous les modules déjà chargés
  • ''display" : montre le contenu du fichier module

produit représente au choix :

  • un compilateur,
  • une bibliothèque,
  • une application ou un utilitaire.

version représente les évolutions d'un même produit, elle peut être égale à :

  • default : version par défaut; c'est celle qui est prise si vous ne spécifiez aucune version. Cette version est en général la plus adaptée,
  • numéro : numéro de version complet du type X.Y.Z

Initialisation de la commande module

L'initialisation de module est faite implicitement dans les fichiers d'environnement général. Il n'y a donc rien à positionner pour avoir l'accès à la commande module.

Liste des produits disponibles

Vous cherchez un produit spécifique, une version particulière d'une bibliothèque ? L'avons-nous à votre disposition ? Pour répondre à cette question, la commande à exécuter est module avail :

$ module avail
------------------------------------------------------- /usr/share/Modules/modulefiles -------------------------------------------------------
dot         module-git  module-info modules     null        use.own

--------------------------------------------------------- /etc/modulefiles/Compilers ---------------------------------------------------------
gnu/4.4.7(default)        intel/12.1.3.293(default) nagfor/5.3(default)       pgi/2013(default)

--------------------------------------------------------- /etc/modulefiles/Libraries ---------------------------------------------------------
hdf5/1.8.10.patch1-gfortran netcdf4/4.2.1.1-gfortran    oasis3-mct/2.0-gfortran     openmpi/1.4.5-pgf2011       openmpi/1.6.5-ifort
hdf5/1.8.10.patch1-ifort    netcdf4/4.2.1.1-ifort       oasis3-mct/2.0-ifort        openmpi/1.4.5-pgf2011gcc    openmpi/1.6.5-pgf2011
hdf5/1.8.10.patch1-pgf2011  netcdf4/4.2.1.1-pgf2011     oasis3-mct/2.0-pgf2013      openmpi/1.4.5-pgf2013       openmpi/1.6.5-pgf2013
hdf5/1.8.10.patch1-pgf2013  netcdf4/4.2.1.1-pgf2013     openmpi/1.4.5-gfortran      openmpi/1.4.5-pgfgcc        openmpi/1.6.5-pgfgcc
hdf5/1.8.14-gfortran        netcdf4/4.3.3.1-gfortran    openmpi/1.4.5-ifort         openmpi/1.6.5-gfortran

--------------------------------------------------------- /etc/modulefiles/Products ----------------------------------------------------------
cdo/1.6.8(default)               grads/2.0.2.oga.2-opengrads      ncl/6.1.2(default)               python/2.7-anaconda
ferret/6.7.2(default)            idl/6.4(default)                 nco/4.3.7(default)               python/3.4-anaconda3
ferret/6.9                       idl/8.2                          nco/4.4.8                        R/3.2.1
gmt/4.5.11(default)              matlab/2010b.sp2                 python/2.7.3-epd7                scilab/5.4.1(default)
grads/2.0.2(default)             matlab/2013b(default)            python/2.7.6-canopy-1.3(default) scilab/5.5.1

exemples pour la commande module :

[weill@ciclad-ng ~]$ type pgf90
pgf90 est /opt/pgi-2013/linux86-64/2013/bin/pgf90
[weill@ciclad-ng ~]$ module load pgi/2011
[weill@ciclad-ng ~]$ type pgf90
pgf90 est /opt/pgi-2011/linux86-64/2011/bin/pgf90
[weill@ciclad-ng ~]$ type matlab
matlab est /opt/matlab-2013b/matlab
[weill@ciclad-ng ~]$ module load matlab/2010b.sp2
[weill@ciclad-ng ~]$ type matlab
matlab est /opt/matlab-2010b.sp2/matlab
[weill@ciclad-ng ~]$ module switch matlab/2013b
[weill@ciclad-ng ~]$ type matlab
matlab est /opt/matlab-2013b/matlab
[weill@ciclad-ng ~]$ module list
Currently Loaded Modulefiles:
  1) pgi/2011       2) matlab/2013b
[weill@ciclad-ng ~]$ module purge
[weill@ciclad-ng ~]$ type pgf90
-bash: type: pgf90 : non trouvé

[weill@ciclad-ng ~]$ module list
No Modulefiles Currently Loaded.

Passage de l'ancien ciclad au nouveau : ce qu'il faut impérativement savoir

pour tous les programmes fortran ou C il faut recompiler vos applications

changement important pour les jobs parallèles au niveau du gestionnaire de batch

les queues sont désormais en WALLTIME et non plus en CPUTIME

la queue paralong n'existe plus ( la queue week à la même fonction )

les queue week2 et infini n'accepte pas les jobs //

la mémoire est désormais  par job et non plus par process ( -l mem= -l vmem= )

openmpi version 1.6.5 et 1.4.5

qsub -VI doit être remplacé par qsub -IV

si dans votre job vous avez

#PBS -l "nodes=x:ppn=y"

il faut retirer les " pour que cela fonctionne sur la nouvelle version  

mpi-selector n'a plus besoin d'être utilisé

Pour être sûr d'utiliser les bonnes versions des logiciel dans vos jobs , je vous conseille de commencer vos jobs par le déchargement

de tous les modules et ne charger que ceux dont vous avez besoin

exemples pour un programme utilisant pgf 2011 , openmpi 1.6.5 et netcdf 4.2.1.1

#!/bin/bash

#PBS -l node=1:ppn=16

module purge

module load pgi/2011 openmpi/1.6.5-pgf2011 netcdf4/4.2.1.1-pgf2011

cd mon_beau_rep

mpirun mon_beau_program