Cautious Decision-Making for Tree Ensembles
Décision prudente pour les ensembles d'arbres
Résumé
Cautious classifiers are designed to make indeterminate decisions when the uncertainty on the input data or the model output is too high, so as to reduce the risk of making wrong decisions. In this paper, we propose two cautious decision-making procedures, by aggregating trees providing probability intervals constructed via the imprecise Dirichlet model. The trees are aggregated in the belief functions framework, by maximizing the lower expected discounted utility, so as to achieve a good compromise between model accuracy and determinacy. They can be regarded as generalizations of the two classical aggregation strategies for tree ensembles, i.e., averaging and voting. The efficiency and performance of the proposed procedures are tested on random forests and illustrated on three UCI datasets.
Les classificateurs prudents sont conçus pour prendre des décisions indéterminées lorsque l'incertitude sur les données d'entrée ou la sortie du modèle est trop élevée, afin de réduire le risque de prendre de mauvaises décisions. Dans cet article, nous proposons deux procédures de prise de décision prudente, en agrégeant des arbres fournissant des intervalles de probabilité construits via le modèle de Dirichlet imprécis. Les arbres sont agrégés dans le cadre des fonctions de croyance, en maximisant l'utilité escomptée actualisée la plus faible, afin de parvenir à un bon compromis entre la précision du modèle et le caractère déterminant. Elles peuvent être considérées comme des généralisations des deux stratégies d'agrégation classiques pour les ensembles d'arbres, à savoir le calcul de la moyenne et le vote. L'efficacité et la performance des procédures proposées sont testées sur des forêts aléatoires et illustrées sur trois ensembles de données de l'UCI.
Fichier principal
ECSQARU2023_Cautious_Decision_Making_for_Tree_Ensembles.pdf (3.74 Mo)
Télécharger le fichier
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|