Dealing with confidence issues in deep learning models

Abstract

Cette thèse explore le concept de confiance dans les modèles d'apprentissage profond et examine comment il peut être compris et amélioré à la fois dans un contexte industriel et académique. L'intelligence artificielle et en particulier les modèles d'apprentissage profond (deep learning) ont été utilisés dans des domaines très variés, notamment les institutions bancaires et financières, la santé par le diagnostic médical ou le traitement automatique des documents. Dans les applications critiques telles que les voitures autonomes ou le diagnostic médical, une défaillance du modèle utilisé pourrait avoir des conséquences graves pour l'utilisateur final. Dans nos travaux, trois domaines de recherche ont été identifié: l'ambiguïté, l'incertitude et la robustesse.Nous allons d'abord introduire les éléments de fond nécessaires sur l'apprentissage automatique et l'apprentissage profond, puis explorer l'impact des données hors domaine sur un sous-ensemble de modèles d'apprentissage profond spécifiques au traitement d'images, introduire une proposition pour améliorer la calibration des modèles d'apprentissage profond et conclure par la mesure d'incertitude bayésienne sur les modèles de langue. Nos contributions comprennent une étude comparative de l'effet des données hors domaine sur différents modèles de vision, une nouvelle méthode pour la calibration des modèles profond en utilisant une approche d'accumulation de gradients et une application des méthodes d'apprentissage profond bayésien pour la quantification de l'incertitude avec des outils récents pour transférer des modèles d'un cadre fréquentiste à un cadre bayésien.