Domaine, spécialité : Traitement d’image
Mots-Clés :
Traitement du signal, Machine learning, Astrophysique
Unité d’accueil : DEDIP / LILAS
Résumé
Quantification d’incertitude pour les méthodes de restauration de données utilisant les approches de Deep Unrolling.
Sujet détaillé
Les problèmes de démélange aveugle et semi-aveugle [1] sont des problèmes inverses classiques dans un très large éventail de domaines scientifiques allant du traitement du son [2], du traitement des signaux médicaux à la télédétection [3] ou à l’astrophysique [9]. Dans ces domaines, le développement rapide de capteurs multispectraux à haute résolution et à haute sensibilité nécessite la mise au point d’outils d’analyse spécifiques. La figure 1 montre un exemple particulièrement représentatif d’un reste de supernovae observé dans plusieurs bandes de rayons X. Pour ce type de données, les observations peuvent être modélisées comme la combinaison linéaire ou non linéaire de diverses composantes physiques élémentaires, qui doivent être récupérées par l’astrophysicien.
Pour estimer ces composantes physiques élémentaires, il faut s’attaquer à un problème de démélange non supervisé (lorsqu’aucune information n’est disponible) ou semi-supervisé (disponibilité d’informations partielles). Le même problème mathématique se pose en télédétection ou en observation de la terre pour l’extraction de composants élémentaires tels que l’eau, la végétation, les bâtiments, etc.
Bien que ces problèmes aient déjà été largement étudiés au cours des dernières décennies, l’utilisation des algorithmes correspondants à des fins scientifiques, telles que l’astrophysique, nécessite des solutions interprétables. En particulier, il est de la plus haute importance de quantifier les incertitudes des estimations des algorithmes de séparation des sources. Jusqu’à présent, très peu de travaux ont été réalisés dans cette direction avec des algorithmes basés sur l’apprentissage profond, qui dépendent de manière non linéaire de la donnée d’entrée.
Pour surmonter ces limitations, l’objectif de ce stage est d’étudier les méthodes de quantification de l’incertitude pour les algorithmes de démixage basés sur des outils d’apprentissage automatique (profond) dédiés.
Plusieurs voies de recherche sont à considérer. Aujourd’hui, les approches prometteuses basées sur l’apprentissage automatique utilisent des modèles de déroulement d’algorithme introduits dans un cadre général par Gregor&LeCun [6]. En bref, le cœur de cette classe de résolveurs de problèmes inverses est un réseau neuronal récurrent qui imite la structure des résolveurs itératifs standard (par exemple, les méthodes de minimisation du gradient). Leur avantage est que la procédure d’apprentissage peut capturer des informations dépendant des données, ce qui la rend plus adaptable aux données à traiter. En outre, seul un nombre limité de paramètres algorithmiques est appris au cours du processus d’apprentissage, ce qui fait que les solveurs finaux ont un faible coût de calcul [8]. Dans le cadre du démélange, nous avons maintenant étudié avec succès des algorithmes de démélange déroulés pour des algorithmes renforçant la parcimonie ou, plus récemment, basés sur des antériorités construites à partir de modèles génératifs particuliers. Cependant, aucune de ces approches ne permet de quantifier l’incertitude de la solution calculée. A cette fin, le travail de stage explorera le développement d’architectures d’algorithmes de déroulage stochastique dédiés. Différentes voies de recherche seront explorées, notamment la conception de diverses architectures, les pertes d’entraînement adaptées au calcul des incertitudes.
D’autres voies de recherche pourraient être étudiées. Les méthodes développées seront évaluées de manière approfondie, à la fois sur des ensembles de données simulées et réalistes (par exemple en télédétection, en physique nucléaire ou en astrophysique).
Le candidat doit poursuivre un Master 2 (ou équivalent) et avoir une bonne connaissance du traitement du signal/de l’image et de l’apprentissage automatique.
[1] Comon P and Jutten C 2010 Handbook of Blind Source Separation : Independent component analysis and applications
[2] Fevotte C, Bertin N and Durrieu J L 2009 Nonnegative matrix factorization with the Itakura-Saito divergence with application to music analysis. Neural computation 21 793–830
[3] Dobigeon N et Al. 2014 Nonlinear unmixing of hyperspectral images : Models and algorithms. IEEE Signal Processing Magazine
[5] Kervazo C et Al. 2020 Use of PALM for l1 sparse matrix factorization : Difficulty and rationalization of a two-step approach. Digital Signal Processing
[6] Gregor K and LeCun Y 2010 Learning fast approximations of sparse coding Proceedings of the 27th International Conference on International Conference on Machine Learning 399–406.
[7] Monga V, Li Y and Eldar Y C 2019 Algorithm Unrolling : Interpretable, Efficient Deep Learning for Signal and Image Processing. arXiv preprint arXiv :1912.10557.
[8] Ablin P, Moreau T, Massias M and Gramfort A 2019 Learning step sizes for unfolded sparse coding. Advances in Neural Information Processing Systems 13100–13110.
[9] Bobin J, Acero F, and Picquenot A 2019 Metric Learning for Semi-Supervised Sparse Source Separation with Spectral Examples. 2019 IEEE 8th International Workshop on Computational Advances in Multi-Sensor Adaptive Processing (CAMSAP)
[10] Fahes M, Kervazo C, Bobin J and Tupin F, Unrolling PALM for sparse semi-blind source separation, 10th International Conference on Learning Representations, ICLR 2022.
Lieu du stage
Saclay
Conditions de stage
- Durée du stage : 6 mois
- Niveau d’étude requis : Bac+5
- Formation : Master 2
- Poursuite possible en thèse : Oui
- Date limite de candidature : 1 mars 2024
Compétences requises
Langue : Anglais
Méthodes, techniques :
Machine learning, deep unrolling
Langages informatiques et logiciels :
Python, Pytorch