SPIRO : l’ONERA double la capacité de son calculateur de développement mutualisé

Visuel par défaut

Une extension significative de la plate-forme de développement SPIRO voit le jour : décryptage de la genèse de ce projet ambitieux, dédié aux activités de développement des départements scientifiques de l'ONERA et mis au point sous l’impulsion commune de la DTG, SG, DSI et DPI.

Le projet SPIRO démarre en 2016, sur proposition commune des directions DSI et DPI à la DTG qui décide alors le lancement de l’opération en parallèle de celle du renouvellement du calculateur de production central (projet SATOR).

Paroles d'experts

  • Eugénie Terreaux Ingénieure au DEMR Palaiseau
  • Jean-Didier Garaud Ingénieur chercheur au DMAS Châtillon
  • Bruno Maugars Développeur Elsa et SONYX, au DAAA Châtillon
  • Adrien Chan Hon Tong Ingénieur chercheur au DTIS/IVA / porteur du PRF DELTA Palaiseau

Objectif : optimiser les moyens de calcul spécifiques ou dédiés au développement des départements scientifiques par leur mutualisation.

Le principe

Contrairement au calculateur de production SATOR - entièrement mutualisé avec des règles d'exploitations strictes en vue d’une production 24h/24 -, SPIRO vise à fournir des "partitions" privatives et évolutives à chaque département dans lesquelles celui-ci est libre de choisir son mode d'exploitation et d'allocation des ressources.

Le  cluster dispose également d'une partition commune ouverte à tous les départements, composée d'éléments spécifiques mutualisés (nœuds à grosse mémoire, nœuds avec cartes graphiques spécifiques).

S’il dispose de nœuds de calculs classiques permettant la mise au point de codes destinés à la réalisation de calculs intensifs sur SATOR, le calculateur SPIRO présente également des technologies plus récentes par la mise en place régulière d'extensions dont le principe et l'ordre de grandeur sont prévus dans l'accord-cadre signé avec le fournisseur (HPE).

Le projet SPIRO est l’occasion d’entrainer tous les départements  dans une démarche de mutualisation de moyens, y compris pour des besoins relativement spécifiques, du moment qu’ils intéressent plusieurs unités de recherche. Cette politique permet d'éviter l'acquisition de multiples moyens dispersés dont l'utilisation n'est pas toujours optimisée et qui représente un coût cumulé important de mise en place et d'entretien.

C’est ainsi que les besoins spécifiques orientés « IA » (intelligence artificielle) ont été pris en compte de manière significative dans la dernière extension de SPIRO.

Les spécificités

La particularité SPIRO est son architecture hybride, avec :

  • d'un côté, des partitions "départementales" privatives, dont la composition est issue des dialogues avec le(s) RID(s), les correspondants scientifiques des départements, et la DSI.
  • de l'autre, une partition dite "commune", qui rassemble des nœuds de calculs ouverts à l'ensemble des départements (noeuds GPU, Xeon Phi).

La modularité de l’outil lui permet également de bénéficier d'extensions périodiques (nœuds supplémentaires, nouvelles architectures...) en adéquation avec les besoins des départements.

La conduite du projet

Avec une mise en production initiale fin 2017, une première extension relativement importante de SPIRO a été acquise fin 2018 et mise en service en 2019. Mais c’est fin 2019 qu’est décidée une seconde extension très ambitieuse : au-delà de l’ajout de nombreux nœuds de calcul pour plusieurs départements, celle-ci intègre les besoins particuliers de simulation en Intelligence Artificielle notamment des départements du DTIS, DEMR et du DOTA. Ce choix d’intégration dans SPIRO a permis de bénéficier de toute la base déjà mise en place par la DSI pour ce moyen : architecture générale, infrastructures réseau et stockage, supervision, outils logiciels scientifiques, gestion des licences logicielles, procédures d’exploitation – en partie externalisées, maintenance matérielle et système.

Nadir Soualem, responsable du service DSI/OST et ingénieur système spécialisé dans l'intégration d'outils logiciels LINUX.

« Le défi majeur de l’équipe DSI/OST a été de procéder à la mise en œuvre des librairies utilisés par les développeurs en fonction des spécificités matérielles de SPIRO et d'assurer une compatibilité des environnements entre les postes de travail Linux et le cluster de calcul SPIRO. Pour nous, il est primordial de pouvoir répondre aux besoins utilisateurs et d’assurer un suivi et une qualité de service pour l'avancement de leur projet ».

Mise en service début 2021, l’extension majeure et nouvelle de SPIRO est le fruit d’un fructueux travail d’équipe d'intégration et de paramétrage, d’autant plus ambitieux dans la période difficile de 2020.  « Au-delà d’ajouter près de 20% de nœuds de calcul avec des problématiques d’intégration inédites, installer SPIRO au sein du centre de calcul de Châtillon, de plus en plus contraint, a été un premier défi », relate Pierre-Frédéric Berte, Chef de Service Infrastructure Systèmes et Réseaux.

L'équipe DSI/ISR aux commandes du calculateur SPIRO :
Bruno Agneray, Cécile Yoshikawa et Pierre-Frédéric Berte.

« Par ailleurs, la crise sanitaire a provoqué des retards de notre fournisseur HPE quant à la livraison des machines supplémentaires, qui s’est étalée de mars à juillet 2020 », poursuit Pierre-Frédéric. « Cela a mené à un décalage de l’installation en plein cœur de l’été 2020, et une recette en fin d’année 2020, avec la nécessité de gérer les collisions de planning avec les autres projets majeurs au sein de l’équipe, notamment le renouvellement du stockage scientifique mutualisé.  La forte mobilisation de l’équipe, en particulier de Bruno Agneray, puis de Cécile Yoshikawa qui a rejoint le service DSI/ISR en janvier 2021, a été un atout majeur pour mettre en production cette extension début 2021, en lien étroit avec le service DSI/OST pour la mise à disposition des outils. ».

Encore bravo aux équipes de DSI qui se sont fortement mobilisées pour la gestion du projet, l'entretien et l'assistance utilisateur du calculateur SPIRO.

Pour en savoir plus

 

Différentes simulations numériques réalisées par le DMAS sur SPIRO

Fissuration d'un engrenage de boîte de transmission d'hélicoptères, avec prise en compte des contraintes résiduelles.  Celles-ci sont la conséquence du traitement thermique de "cémentation" (trempe, recuit et revenu, permettant le durcissement de l'alliage).Calculs réalisés sur SPIRO avec Z-set/Z-cracks par Maël Zaïd et Vincent Chiaruttini (DMAS/MS2).Fissuration d'un engrenage de boîte de transmission d'hélicoptères, avec prise en compte des contraintes résiduelles.
Celles-ci sont la conséquence du traitement thermique de "cémentation" (trempe, recuit et revenu, permettant le durcissement de l'alliage)
Calculs réalisés sur SPIRO avec Z-set/Z-cracks par Maël Zaïd et Vincent Chiaruttini (DMAS/MS2).

 

Rupture ductile (en grandes déformations) d'une éprouvette en alliage d'aluminium laminé. Gauche : carte de déformations obtenue expérimentalement et par corrélation d'images (codes Folki+escale utilisant les GPU de SPIRO)  Droite : simulation de plasticité cristalline (on représente la déformation plastique cumulée) tenant compte de l'orientation des grains de l'alliage dans la zone d'intérêt (code Z-set). Contacts : Anna Ask et Sylvia Feld-Payet (DMAS/M3S).Rupture ductile (en grandes déformations) d'une éprouvette en alliage d'aluminium laminé.
Gauche : carte de déformations obtenue expérimentalement et par corrélation d'images (codes Folki+escale utilisant les GPU de SPIRO)
Droite : simulation de plasticité cristalline (on représente la déformation plastique cumulée) tenant compte de l'orientation des grains de l'alliage dans la zone d'intérêt (code Z-set).
Contacts : Anna Ask et Sylvia Feld-Payet (DMAS/M3S).

 

Simulation par champ de phase à l'échelle de la microstructure de la rupture transverse d'un composite à matrice céramique (CMC). Une approche par décomposition de domaines (méthode FETI) appliquée à une résolution par couplage de codes exploite 2x40 cœurs pour modéliser cette structure avec une très grande finesse de maillage (9 millions d'inconnues). Cette nouvelle méthodologie de calculs a été mise au point sur SPIRO. Collaboration avec Craig Przybyla (AFRL). Contacts : Johann Rannou et Christophe Bovet (DMAS/MS2).Simulation par champ de phase à l'échelle de la microstructure de la rupture transverse d'un composite à matrice céramique (CMC).

Une approche par décomposition de domaines (méthode FETI) appliquée à une résolution par couplage de codes exploite 2x40 cœurs pour modéliser cette structure avec une très grande finesse de maillage (9 millions d'inconnues).

Cette nouvelle méthodologie de calculs a été mise au point sur SPIRO.

Collaboration avec Craig Przybyla (AFRL). Contacts : Johann Rannou et Christophe Bovet (DMAS/MS2).

 

Cet article a été réalisé en collaboration avec

Pierre Malecki
David Denis

ET

Eugénie Terreaux
Jean-Didier Garraud
Adrien Chan Hon Tong
Bruno Maugars
Pierre-Frédéric Berte
Nadir Soualem

Paroles d'experts

Ingénieure au DEMR
Eugénie Terreaux

Des nœuds de calculs performants et uniques

« Il arrive fréquemment que les problèmes de traitement du signal radar ne trouvent pas de solutions satisfaisantes avec les méthodes de calcul "classiques", à cause de la complexité des données. Les nœuds de calculs SPIRO ouvrent alors un horizon de solutions beaucoup plus large, que nous ne pourrions implémenter autrement. Ces solutions englobent des méthodes statistiques qui demandent de gros volumes de données, et des méthodes type intelligence artificielle, nous permettant ainsi de rester dans la course pour le traitement du signal radar ».

Visuel par défaut
Ingénieur chercheur au DMAS
Jean-Didier Garaud

Un échange interactif et immédiat entre Départements
« Grâce à SPIRO, nous pouvons coupler notre code de calcul de mécanique de structures Z-Set avec les codes Elsa ou Cèdre du DAAA et du DMPE par exemple. Par ailleurs, SPIRO propose aussi l’intégration simultanée de nœuds de calculs et de cartes graphiques ; on peut ainsi intégrer, au sein de la plateforme logicielle  « escale », des calculs de mécanique avec les outils de corrélation d’image du DAAA et du DTIS. Obtenir des ressources de calculs de façon immédiate et interactive est un réel avantage pour le DMAS. »

Un outil phare pour le développement de calcul haute performance (HPC)

« Lors des phases de développement de HPC, nous devons commencer avec un faible nombre de processeurs, avant de passer à l'échelle supérieure en production sur les super calculateurs comme SATOR. Les ressources mutualisées de SPIRO nous permettent d’accéder facilement à la tranche entre la dizaine et la centaine de processeurs, nécessaires à nos travaux préparatoires et aux éventuels débogages. Avant, bien sûr, de passer sur les milliers de cœurs disponibles sur des calculateurs plus puissants. Le développement de calcul haute performance (HPC) est un axe de recherche fort au sein du DMAS/MS2. »

 

Visuel par défaut
Développeur Elsa et SONYX, au DAAA
Bruno Maugars

Des GPU au service d’une veille technologique efficace

« La multitude de GPU disponible sur SPIRO nous a permis de faire de la veille technologique sur des machines à venir, ou en cours chez des clients actuels/futurs. Par exemple, grâce aux processeurs AMD - partie commune de SPIRO -  nous avons pu démontrer la capacité des développements récents sur la vectorisation, aussi efficace sur AMD que sur les concurrents Intel. Mais également de faire des premières démonstrations de l'utilisation des GPU pour des applications CFD (dans le proto SoNICS) ».

Un maillon précieux pour a fourniture d'un service d'intégration continue

« Les discussions avec la DSI ont abouti cette année à la mise en place d'une plate-forme Gitlab "pilote" intégrée dans l'écosystème du calcul scientifique ONERA. L'un des enjeux est notamment de pouvoir utiliser automatiquement  des noeuds de SPIRO pour les tests d'intégration continue. La démarche doit aboutir à la fourniture d'un service  permettant d'améliorer l'efficacité et le confort des développeurs, tout en respectant les contraintes de sécurité et de traçabilité requises sur le SI ONERA. »

 

Visuel par défaut
Ingénieur chercheur au DTIS/IVA / porteur du PRF DELTA
Adrien Chan Hon Tong

Le Deep Learning accessible à tous  

 « Prenons par exemple le PRF DELTA, visant notamment à diffuser les méthodes de deep learning dans tous les départements de l’ONERA ; la disponibilité de matériel spécifique "GPU-Nvidia"- quasiment indispensable pour utiliser les boites à outil de deep learning les plus performantes - était problématique, l'achat de postes dédiés étant inadapté quand il s’agit d’ équiper des stagiaires ou des doctorants. L'idée de centraliser ce type de matériel sur un serveur commun s'est concrétisée par une demande commune DTIS-DSI de réaliser une extension "IA/GPU" de la partition commune de SPIRO auprès de DPI, qui y a répondu favorablement ».

Une puissance de calcul GPU quasiment équivalente à celle du CNES

« Par ailleurs, SPIRO va pouvoir servir de miroir à HAL - serveur équivalent au CNES – afin de rapatrier les développements ONERA réalisés dans le projet AI4GEO. Ce projet,  qui permet à l'équipe ONERA de disposer d'accès sur HAL, est aussi très instructif pour observer les différences et points communs entre l'ONERA et le CNES dans la façon d'administrer leurs serveurs. Enfin, on peut dire, que grâce à cette extension SPIRO, l'ONERA dispose aujourd'hui d'une puissance de calcul GPU quasiment équivalente à celle du CNES. »

 

Visuel par défaut