Deux postes autour du thème Robust and explainable AI sont disponibles (postdoc/ingénieur de recherche) à partir de mars 2022.
Ces deux postes de postdoc/ingénieur de recherche seront intégrés dans une équipe incluant deux doctorants (Jayneel Parekh et Mélanie Gornet), des encadrants : Florence d’Alché et Pavlo Mozharovskyi, et des collaborations avec Winston Maxwell (Télécom Paris, éthique de l’IA opérationnelle), Stéphan Clémençon (DSAIDIS) et IDEMIA à travers le projet ANR LIMPID.
Le dossier de candidature doit être formaté en un seul fichier PDF et doit comprendre :
Le fichier PDF doit être envoyé aux superviseurs : florence.dalche@telecom-paris.fr, pavlo.mozharovskyi@telecom-paris.fr, avec en objet [DSAIDIS Postdoc].
(premier tour de sélection – 15 mars 2022)
Postdoc/ingénieur de recherche (poste 1)
We are currently working on a novel framework named FLINT for Learning with Interpretability (see our last paper) that allows to tackle by-design learning and that can be specialized to post-hoc explanation. It consists on learning jointly a pair of models one devoted to the interpretation of the other. An axiomatic view of the loss and penalties is adopted, which yields to the learning of a dictionary of hegh level features.
This framework was successfully tested on image recognition and we now consider next challenges –
– still on image recognition: ensuring faithfulness, imposing knowledge-based properties (invariance by transformation for instance) to high level features and improving understandability of the high level feature functions by adding auxiliary tasks to solve,
– on other tasks like multilabel classification and structured prediction: development of the FLINT framework
Postdoc/ingénieur de recherche (poste 2)
– definition of evaluation metrics for robustness, uncertainty and interpretability assessment
– study of theoretical guarantees
– development of a Python platform dedicated to measure/test several approaches at the lens of robustness and explainability in for image data, including our tools (FLINT).