Les algorithmes d'apprentissage automatique sont conçus pour assister les experts en leur proposant des prédictions construites à partir d’exemples. Ces algorithmes tendent même à remplacer les décisions humaines dans de nombreux domaines, en atteignant des performances extrêmement élevées. Au cours des dernières décennies, la complexité de ces algorithmes a augmenté, passant de modèles de prédiction simples et interprétables basés sur des règles de regression, à des modèles très complexes tels que le random forest, le gradient boosting et les réseaux neuronaux profonds.

Les modèles en question sont conçus pour maximiser la précision de leurs prédictions au détriment de l'interprétabilité de la règle de décision. On sait finalement peu de choses sur la manière dont l'information est traitée. Cela explique pourquoi ces modèles sont encore largement considérés comme des boîtes noires.

Nous définissons et développons des outils permettant aux spécialistes des données de prendre en compte les contraintes d'explicabilité. Nous définissons également des métriques qui permettent une évaluation objective des performances des algorithmes d'explicabilité.