Correction bayésienne de prédictions issues d'arbres de décision et évaluation crédibiliste - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2019

Bayesian correction for decision tree predictions and evidential evaluation

Correction bayésienne de prédictions issues d'arbres de décision et évaluation crédibiliste

Résumé

As for many classifiers, decision trees predictions are naturally probabilistic, with a frequentist probability distribution on labels associated to each leaf of the tree. Those probabilities have the major drawback of being potentially unreliable in the case where they have been estimated from a limited number of examples. Empirical Bayes methods enable the updating of observed probability distributions for which the parameters of the prior distribution are estimated from the data. This paper presents an approach of correcting decision trees predictive binary probabilities with an empirical Bayes method. The update of probability distributions associated with tree leaves creates a correction concentrated on small-sized leaves, which improves the quality of probabilistic tree predictions. The amplitude of these corrections is used here to generate predictive belief functions which are finally evaluated through the extension of three evaluation indexes of predictive probabilities.
Comme pour de nombreux classifieurs, les prédictions issues d'arbres de décision sont naturellement probabilistes. A chaque feuille de l'arbre est associée une distribution de probabilité sur les labels estimée de façon fréquentiste. Ces probabilités présentent ainsi l'inconvénient majeur d'être potentiellement non-fiables dans le cas où elles sont estimées à partir d'un faible nombre d'exemples. Les approches bayésiennes empiriques permettent la mise-à-jour de distributions de probabilité en fonction des effectifs observés. Cet article présente une approche de correction des probabilités prédictives binaires issues d'arbres de décision au travers l'utilisation d'une méthode bayésienne empirique. L'ajustement des probabilités prédictives des arbres est ainsi concentré sur les feuilles de petites tailles, ce qui entraîne une nette amélioration des performances prédictives. L'amplitude de ces corrections est utilisée pour générer des fonctions de croyance prédictives qui sont finalement évaluées par l'extension incertaine de trois indices d'évaluation de probabilités prédictives.
Fichier principal
Vignette du fichier
LFA2019suttonCharani - reviewed paper.pdf (359.58 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-02294377 , version 1 (23-09-2019)

Identifiants

  • HAL Id : hal-02294377 , version 1

Citer

Nicolas Sutton-Charani. Correction bayésienne de prédictions issues d'arbres de décision et évaluation crédibiliste. LFA 2019 - 28ème Rencontres Francophones sur la Logique Floue et ses Applications, Nov 2019, Alès, France. ⟨hal-02294377⟩
43 Consultations
142 Téléchargements

Partager

Gmail Facebook X LinkedIn More