Thèse ‘Conception d’algorithmes d’explicabilité robustes’ F/H

Description de la mission

Votre rôle est d’effectuer un travail de thèse sur : “ la conception d’algorithmes d’explicabilité robustes ”

Le contexte de la thèse est celui de “ l’explicabilité “ des algorithmes d’intelligence artificielle : c’est-à-dire la capacité à faire comprendre à un humain les facteurs qui ont motivé la décision de l’algorithme (pourquoi cette décision plutôt qu’une autre, s’appuyant sur quels facteurs etc.). Les enjeux de l’explicabilité sont multiples : mieux comprendre le modèle permet d’identifier les causes d’une faible performance, de corriger les biais éventuels et ainsi d’améliorer le modèle et sa fiabilité. Pouvoir expliquer les prédictions d’un modèle est crucial pour les équipes opérationnelles pour permettre son acceptabilité et apporter de la confiance dans les décisions prises. L’explicabilité devient nécessaire pour répondre aux normes réglementaires (RGPD, AI Act). Elle peut être importante également pour permettre aux personnes affectées par une décision de contester ou d’en changer le résultat. La plupart des méthodes d’explication sont très sensibles aux perturbations même faibles (perturbation des données d’entrée ou du modèle lors d’un réapprentissage par exemple). Cela se traduit par le fait que deux exemples proches peuvent obtenir des explications très différentes ou que l’explication proposée va devenir invalide. On dit que les explications ne sont pas robustes. La littérature sur le sujet distingue plusieurs stratégies qui visent à rendre les explications robustes à différents types de perturbations par l’augmentation des données d’apprentissage, la résistance aux exemples adverses ou encore une optimisation dédiée [1].
Le doctorant devra avoir une bonne connaissance des statistiques et des mathématiques.
Des connaissances en apprentissage machine sont un réel plus.
Des compétences en programmation sont indispensables : maitrise d’un langage de script dédié à l’analyse de données (Python, éventuellement R ou Matlab).
Une forte motivation, des capacités de synthèse, à bien rédiger et présenter les travaux (anglais) et à s’intégrer dans une équipe sont également demandées.
Le profil souhaité est BAC + 5, école d’ingénieur ou Master Recherche statistiques et/ou mathématiques appliquées et/ou data sciences
Une expérience est souhaitée sous la forme d’un stage de recherche dans le domaine statistique/ apprentissage machine.