Apprentissage profond pour la modélisation de systèmes dynamiques non-linéaires de haute dimension avec traitement de séries temporelles multivariées
- Lazzara, Michele (1994-....) (2023)
Thèse
Accès restreint
- Titre en français
- Apprentissage profond pour la modélisation de systèmes dynamiques non-linéaires de haute dimension avec traitement de séries temporelles multivariées
- Titre en anglais
- Deep learning for surrogate modelling of high-dimensional nonlinear dynamical systems involving multivariate time series
- Auteur
- Lazzara, Michele (1994-....)
- Directeur de recherche
- Teste, Olivier (1972-....)
- Co-directeur de recherche
- Chevalier, Max (1975-.... ; enseignant-chercheur en informatique)
- Date de soutenance
- 30 juin 2023
- Établissement
- Université Toulouse-Jean Jaurès
- École doctorale
- MITT : Mathématiques Informatique Télécommunications de Toulouse
- Unité de recherche
- Institut de Recherche en Informatique de Toulouse - IRIT
- Mots-clés en français
- Apprentissage profond
- Modèles de substitution
- Systèmes dynamiques
- Séries temporelles multivariées
- Mots-clés en anglais
- Deep learning
- Surrogate modelling
- Dynamical systems
- Multivariate time series
- Résumé en français
- L’essor de l’ère du Big data et les progrès des techniques d’intelligence artificielle (IA) transforment rapidement le paysage scientifique et ouvrent de nouvelles perspectives pour un nouveau paradigme dans le domaine de la recherche où les processus sont régis par la physique : la modélisation guidée par les données. La modélisation et la simulation ont une longue tradition dans de nombreux secteurs et domaines, car leur combinaison a représenté un support efficace pour comprendre facilement le comportement de systèmes complexes et de phénomènes naturels. Cependant, même avec l’évolution du calcul à haute performance, les simulations numériques à haute fidélité de systèmes complexes multiéchelles et à haute dimension restent encore trop coûteuses. L’industrie aéronautique est particulièrement bien placée pour bénéficier des progrès réalisés dans de nombreuses techniques de modélisation et pour les étendre avec l’IA : les méthodes émergentes en matière d’apprentissage profond offrent un énorme potentiel pour ouvrir la voie à des avancées significatives dans le traitement des problèmes posés par la construction de modèles de substitution robustes pour les systèmes physiques à grande échelle. La modélisation de substitution vise à fournir un outil simple, rapide et robuste pour émuler les relations d’entrée-sortie de modèles complexes de haute fidélité aussi précisément que possible tout en étant moins coûteux à évaluer. La portée générale de cette étude de recherche, résultat d’une thèse de doctorat CIFRE de 3 ans réalisée entre le bureau d’études d’Airbus et le laboratoire de l’IRIT à Toulouse, jette les bases pour un rapprochement entre les méthodes d’IA émergentes et le nouveau paradigme de découverte basé sur les données dans la modélisation des systèmes physiques complexes. Plus précisément, la recherche vise à contribuer au développement des approches de modélisation de substitution basées sur l’apprentissage profond pilotées par les données pour les systèmes dynamiques non linéaires à haute dimension. L’accent est mis en particulier sur l’étude des autoencodeurs pour la réduction non lineaire de la dimensionnalité et le développement de modèles de substitution basés sur des réseaux neuronaux multiniveaux pour l’approximation des réponses temporelles dépendantes des paramètres des systèmes dynamiques. Notamment, les contributions présentées dans ce manuscrit concernent : i) le développement d’un modèle de substitution pour la prédiction des séries temporelles multivariées dépendant des paramètres pour les systèmes dynamiques à haute dimension ; ii) la mise au point d’une stratégie de régularisation basée sur l’injection de bruit pour améliorer les modèles de substitution basés sur l’autoencodeur; iii) l’élaboration d’un methodologie permettant l’utilisation des Neural ODE pour la prédiction des séries temporelles parametrisées. Des applications académiques et industrielles dans le domaine aéronautique sont utilisées pour soutenir le développement et la vérification de la robustesse des approches proposées. D’autres études devraient être menées afin de combler le fossé entre les connaissances théoriques de la communauté académique et la maturité des techniques d’apprentissage profond au niveau appliqué. Des recherches plus approfondies sont nécessaires pour évaluer les possibilités et les limites de notre contribution sur d’autres domaines.
- Résumé en anglais
- The rise of Big data era and advances in Artificial Intelligence (AI) techniques are rapidly transforming the scientific landscape, opening up new opportunities for a new paradigm in disciplines where processes are governed by physics: data-driven modelling. Modelling and simulation have a long tradition across many different industries and areas, as their combination has represented an outstanding support to easily understand the behaviour of complex systems and natural phenomena. Even with high performance computing facility, however, high-fidelity numerical simulations of high-dimensional, multi-scale complex systems still remain computationally too expensive. Particularly, the aeronautical industry is poised to both benefit from and drive further ad- vancements in many modelling techniques under the aegis of AI: emerging methods in deep learning offer an enormous potential to pave the way towards significant advances in dealing with the challenges arise when building robust surrogate models for large-scale physical systems. Surrogate modelling aims at providing a simple, fast and robust tool to emulate the input-output mapping of high-fidelity complex models as accurately as possible while being computationally cheaper to evaluate. The general scope of this research study, the result of a 3 years CIFRE PhD thesis between the Airbus design office and IRIT laboratory in Toulouse, is laying some foundations in bridging emerging AI methods and the new data-driven discovery paradigm in modelling complex physical systems. More specifically, the research aims at contributing to the development of data-driven deep-learning-based surrogate modelling approaches for high-dimensional nonlinear dynamical systems. Particular emphasis is placed on the investigation of autoencoders for nonlinear dimensionality reduction and the development of surrogate models based on multilevel neural networks for the approximation of parameter-dependent temporal responses of dynamical systems. Notably, the contributions presented in this manuscript concern: i) the development of a surrogate model for parameter-dependent multivariate time series prediction for high-dimensional dynamical systems; ii) a regularization strategy based on noise injection to improve the autoencoder-based surrogate models; iii) the formulation of a methodology allowing the use of Neural ODEs for the prediction of parameterized temporal response of physical systems. Both academic and industrial applications in the aeronautical domain are used to support the development and verification of the robustness of the proposed approaches. Further studies should be carried out in order to fill the gap between the theoretical knowledge of the academic community and the maturity of deep-learning techniques at applied level. Deeper investigations are desired to assess further possibilities and limitations of our contribution on other domains.
- Accès au document
- Accès restreint
Citation bibliographique
Lazzara, Michele (1994-....) (2023), Apprentissage profond pour la modélisation de systèmes dynamiques non-linéaires de haute dimension avec traitement de séries temporelles multivariées [Thèse]