Deux postes autour du thème Robust and explainable AI sont disponibles (postdoc/ingénieur de recherche) à partir de mars 2022.

Ces deux postes de postdoc/ingénieur de recherche seront intégrés dans une équipe incluant deux doctorants (Jayneel Parekh et Mélanie Gornet), des encadrants : Florence d’Alché et Pavlo Mozharovskyi, et des collaborations avec Winston Maxwell (Télécom Paris, éthique de l’IA opérationnelle), Stéphan Clémençon (DSAIDIS) et IDEMIA à travers le projet ANR LIMPID.

Information pratique aux candidats

  • Lieu: Campus de l’Institut Polytechnique de Paris (25 km de Paris): Télécom Paris [TP], 19 place Marguerite Perey, F-91120 Palaiseau accessible en transport.
  • Date de démarrage: A partir du 20 Février 2022

Le dossier de candidature doit être formaté en un seul fichier PDF et doit comprendre :

  • Un curriculum vitae complet et détaillé
  • Une lettre de motivation
  • Une sélection de deux publications internationales et des rapports de thèse de doctorat.
  • Les coordonnées de deux personnes de référence.

Le fichier PDF doit être envoyé aux superviseurs : florence.dalche@telecom-paris.fr, pavlo.mozharovskyi@telecom-paris.fr, avec en objet [DSAIDIS Postdoc].

(premier tour de sélection – 15 mars 2022)

Postdoc/ingénieur de recherche (poste 1)

We are currently working on a novel framework named FLINT for Learning with Interpretability (see our last paper) that allows to tackle by-design learning and that can be specialized to post-hoc explanation. It consists on learning jointly a pair of models one devoted to the interpretation of the other. An axiomatic view of the loss and penalties is adopted, which yields to the learning of a dictionary of hegh level features.

This framework was successfully tested on image recognition and we now consider next challenges –

– still on image recognition: ensuring faithfulness, imposing knowledge-based properties (invariance by transformation for instance) to high level features and  improving understandability of the high level feature functions by adding auxiliary tasks to solve,

– on other tasks like multilabel classification and structured prediction: development of the FLINT framework

Postdoc/ingénieur de recherche (poste 2)

– definition of evaluation metrics for robustness, uncertainty and interpretability assessment

– study of theoretical guarantees

– development of a Python platform dedicated to measure/test several approaches  at the lens of robustness and explainability in for image data, including our tools (FLINT).