\vspace*{-0.6cm}
\section{Méthodologie expérimentale et résultats}\label{results}
\vspace*{-0.2cm}
\subsection{Ensemble de données contenant exclusivement des attributs numériques}
\vspace*{-0.2cm}
Afin d'évaluer la performance des deux classifieurs développés, nous avons effectué des expériences sur un total de 26 EDs numériques, précisément tous les EDs présents sur la page d'accueil de l'Université de Waikato\footnote{\url{http://www.cs.waikato.ac.nz/ml/weka/}}, ayant pour origine le répertoire UCI \cite{Asuncion+Newman2007}, qui ciblent les problèmes de classification et ne contiennent que des attributs numériques selon Weka \cite{Weka}. Le tableau \ref{bdd} affiche ces EDs et leurs principales caractéristiques.


\begin{table}[ht!]
\vspace{-0.4cm}
\caption{Principales caractéristiques des EDs: nombre de variables prédictives ($n$), nombre de classes ($k$) et nombre de cas ($i$).}\label{bdd}
\vspace{1mm}
\begin{center}
\begin{small}
%\begin{sc}
\scriptsize{
\setlength{\tabcolsep}{2pt}
\begin{tabular}{rlrrr|rlrrr} \hline %\\ 
%\abovespace\belowspace
Id  & Datasets       & $n$& $k$ &$I\ \ $ &Id  & Datasets       & $n$& $k$ &$I\ \ $  \\ \hline \hline
 $1$&balance-scale   &  $4$&  $3$&  $625$&  $14$&mfeat-fourier & $76$& $10$& $2000$\\
 $2$&breast-w        &  $9$&  $2$&  $699$&  $15$&mfeat-karh    & $64$& $10$& $2000$\\
 $3$&diabetes        &  $8$&  $2$&  $768$&  $16$&mfeat-morph   &  $6$& $10$& $2000$\\
 $4$&ecoli           &  $7$&  $8$&  $336$&  $17$&mfeat-zernike & $47$& $10$& $2000$\\
 $5$&glass           &  $9$&  $7$&  $214$&   $18$&optdigits    & $64$&  $9$& $5620$\\
 $6$&hayes-roth      &  $4$&  $4$&  $160$&   $19$&page-blocks  & $10$&  $5$& $5473$\\
 $7$&heart-statlog   & $13$&  $2$&  $270$&  $20$&pendigits     & $16$&  $9$&$10992$\\
 $8$&ionosphere      & $34$&  $2$&  $351$&   $21$&segment      & $19$&  $7$& $2310$\\
 $9$&iris            &  $4$&  $3$&  $150$&   $22$&sonar        & $60$&  $2$& $208$\\
 $10$&kdd-JapanV & 14&  $9$& $9961$& $23$&spambase             & $57$&  $2$& $4601$\\
 $11$&letter          & $16$& $26$&$20000$&  $24$&vehicle      & $18$&  $4$& $946$\\
 $12$&liver-disorders &  $6$&  $2$&  $345$&  $25$&waveform-5000& $40$&  $3$& $5000$\\
 $13$&mfeat-factors   &$216$& $10$& $2000$&  $26$&wine         & $13$&  $3$& $178$\\ \hline 

\end{tabular}
}
\end{small}
\end{center}
\vskip -0.1in
\vspace*{-0.2cm}
\end{table}

Le tableau \ref{t3} montre les résultats de précision obtenus en utilisant une validation croisée (CV) $5$x$2$ afin d'évaluer les différents classifieurs. Chaque valeur représente la moyenne arithmétique des $10$ exécutions. La balle à côté de certaines sorties signifie que le classifieur correspondant à cet ensemble particulier de données, soit obtient le degré de précision le plus élevé ou bien n'est pas significativement pire que le classifieur qui l'obtient. Les résultats ont été comparés en utilisant le F test $5$x$2$ cv défini par \cite{Alpaydin}, qui comporte un taux d'erreur de type I plus bas et une puissance plus élevée que le t-test $5$x$2$ cv. Le niveau de signification a été fixé à $95\%$ ($\alpha=0.05$). %Le F test $5$x$2$ cv est plus conservateur que le t-test $5$x$2$ cv, donc un plus grand nombre de liens sera obtenu avec le même niveau d'importance.


 \begin{table}[ht!]
%\vspace{-0.3cm}
 \caption{Résultats de la précision obtenus pour le NB à distributions gaussiennes (NB-G), NB, AODE ($m=1$), GAODE et HAODE ($m=1$) sur les EDs numériques.}\label{t3}
\vspace{1mm}
\begin{center}
\small
\setlength{\tabcolsep}{3.8pt}
\scriptsize{
\begin{tabular}{llllll}\hline %\\ 
%\abovespace\belowspace
Id   &   NB-G            &    NB              &   AODE             &   \textbf{GAODE}   & \textbf{HAODE}  \\ \hline \hline
$1$ &$\bullet88,864$     &$\phantom{7}77,632$ &$\phantom{7}76,992$ &$\bullet89,088$     &$\bullet87,68$  \\ 
$2$ &$\bullet96,0801$    &$\bullet97,1102$    &$\bullet96,6237$    &$\bullet95,9662$    &$\bullet95,0787$\\
$3$ &$\bullet74,974$     &$\bullet74,6875$    &$\bullet74,5573$    &$\bullet74,7917$    &$\bullet75,9115$\\ 
$4$ &$\bullet83,9881$    &$\bullet80,7738$    &$\bullet81,0119$    &$\bullet84,5238$    &$\bullet84,3452$\\ 
$5$ &$\phantom{7}49,7196$&$\bullet60$         &$\bullet60,7477$    &$\bullet52,8037$    &$\bullet60,6542$\\
$6$ &$\bullet65,375$     &$\bullet57,5$       &$\bullet57,5$       &$\bullet65,625$     &$\bullet68,5$  \\
$7$ &$\bullet83,4815$    &$\bullet81,2593$    &$\bullet80,8148$    &$\bullet83,7778$    &$\bullet83,037$ \\
$8$ &$\bullet82,963$     &$\bullet88,8889$    &$\bullet90,7123$    &$\bullet92,0228$    &$\bullet91,7379$\\
$9$ &$\bullet95,0667$    &$\bullet93,4667$    &$\bullet93,3333$    &$\bullet97,4667$    &$\bullet95,6$   \\
$10$&$\phantom{7}85,7444$&$\phantom{7}84,5758$&$\phantom{7}90,3885$&$\phantom{7}91,8442$&$\bullet93,9966$\\
$11$&$\phantom{7}64,06$  &$\phantom{7}73,296$ &$\bullet86,292$     &$\phantom{7}71,235$ &$\bullet86,138$\\
$12$&$\bullet54,2609$    &$\bullet58,6087$    &$\bullet58,6087$    &$\bullet57,3333$    &$\bullet54,2029$\\
$13$&$\phantom{7}92,29$  &$\phantom{7}92,36$  &$\bullet96,08$      &$\bullet95,94$      &$\bullet96,31$\\
$14$&$\phantom{7}75,7$   &$\phantom{7}75,87$  &$\phantom{7}79,25$  &$\bullet79,39$      &$\bullet80,69$  \\
$15$&$\phantom{7}93,16$  &$\phantom{7}90,48$  &$\bullet93,83$      &$\bullet96,15$      &$\bullet95,92$\\
$16$&$\bullet69,32$      &$\phantom{7}68,03$  &$\phantom{7}68,9$   &$\bullet70,79$      &$\bullet69,95$ \\
$17$&$\phantom{7}72,99$  &$\phantom{7}70,21$  &$\phantom{7}74,63$  &$\bullet77,42$      &$\bullet78,1$   \\
$18$&$\phantom{7}91,1317$&$\phantom{7}91,7544$&$\bullet96,3167$    &$\phantom{7}93,637$ &$\bullet96,9181$\\
$19$&$\bullet87,7142$    &$\phantom{7}93,1336$&$\bullet96,6307$    &$\bullet90,9446$    &$\bullet91,8144$\\
$20$&$\phantom{7}85,7041$&$\phantom{7}87,3362$&$\bullet97,1161$    &$\phantom{7}94,2085$&$\bullet97,5182$\\
$21$&$\phantom{7}80,6753$&$\phantom{7}90,4416$&$\bullet94,1732$    &$\phantom{7}86,6667$&$\bullet95,1602$\\ 
$22$&$\phantom{7}67,5$   &$\bullet75,6731$    &$\bullet75,5769$    &$\bullet71,4423$    &$\bullet75,9615$\\ 
$23$&$\phantom{7}79,5131$&$\phantom{7}89,8544$&$\bullet92,7277$    &$\phantom{7}79,8566$&$\phantom{7}77,3658$\\ 
$24$&$\phantom{7}43,1678$&$\phantom{7}58,6052$&$\phantom{7}67,4704$&$\bullet68,5106$    &$\bullet72,9787$\\
$25$&$\phantom{7}80$     &$\phantom{7}79,968$ &$\bullet84,508$     &$\bullet4,46$       &$\bullet84,22$ \\ 
$26$&$\phantom{7}97,4157$&$\phantom{7}96,9663$&$\bullet96,9663$    &$\bullet98,427$     &$\phantom{7}97,4157$\\\hline \hline
$Av$&$\phantom{7}78,4842$&$\phantom{7}80,3262$&$\phantom{7}83,1445$&$\phantom{7}82,4739$&$\phantom{7}84,1233$\\ \hline
\end{tabular}
\vspace*{-1cm}
}
\end{center}

\end{table}
 

En plus du GAODE et de l'HAODE, $3$ autres classifieurs ont été inclus dans la comparaison. De gauche à droite: classifieur NB à distributions gaussiennes pour traiter les attributs continus (NB-G);  et classifieurs NB et AODE avec les EDs précédemment discretisés (NB et AODE) en utilisant la méthode de Fayyad et Irani (MDL) \cite{Fayyad1993}.  La discrétisation des attributs super-parents pour HAODE, a également été effectuée à l'aide de cette méthode \footnote{D'autres expériences ont été réalisées avec les méthodes de discrétisation différentes, et les résultats obtenus suivent la même tendance \cite{DiscreCAEPIA09}.}.


Le tableau \ref{tab:ResumenTA5x2} montre, dans la moitié supérieure de chaque cellule, la comparaison entre chaque paire d'algorithmes, où chaque entrée $w$-$t$-$l$  à la ligne $i$ et la colonne $j$ signifie que l'algorithme à la ligne $i$ gagne en $w$ EDs, égalise en $t$ (c'est à dire, qu'il n'y a pas de différence statistique selon le F test $5$x$2$ cv) et il perd en $l$ EDs, par rapport à l'algorithme dans la colonne $j$. La moitié inférieure de chaque cellule contient les résultats des tests de Wilcoxon, avec $\alpha=0,05$, qui comparent chaque paire d'algorithmes avec les $26$ EDs: chaque fois que le résultat du test représente une amélioration significative en faveur d'un classifieur sur l'autre, le nom du gagnant est affiché, sinon \texttt{NO} est affichée.

\begin{table}[ht!]
%\vspace{-0.4cm}
\caption{Comparaison de la précision entre les paires d'algorithmes.}\label{tab:ResumenTA5x2}
\vspace{1mm}
%\small
\begin{center}
\scriptsize{
\begin{tabular}{|l||c|c|c|c|c|c|c|}\hline
\textbf{Ftest}       &\multirow{2}{*}{NB-G}&\multirow{2}{*}{NB}&\multirow{2}{*}{AODE}&\multirow{2}{*}{\textbf{GAODE}} \\\cline{1-1} 
\textbf{Wilcoxon}   &		           &		       &                     &               \\ \hline \hline
\multirow{2}{*}{NB}  &  $7$-$16$-$3$           &                 &                &                 \\ \cline{2-2} 
                     &  NO			&		  &	           &                  \\ \hline
\multirow{2}{*}{AODE} &  $11$-$14$-$1$       &  $14$-$12$-$0$    &                &                 \\ \cline{2-3} 
                      &       AODE        &            AODE   &                &			\\ \hline
\multirow{2}{*}{\textbf{GAODE}} & $12$-$14$-$0$    &  $12$-$12$-$2$    & $5$-$16$-$5$    &        \\ \cline{2-4}
				&  GAODE	   &     GAODE		&   NO		&		\\ \hline
\multirow{2}{*}{\textbf{HAODE}} & $13$-$13$-$0$  & $13$-$12$-$1$  & $6$-$19$-$1$  & $6$-$18$-$2$  \\ \cline{2-5}
				& HAODE		&	HAODE	&      HAODE	&       HAODE       \\ \hline
\end{tabular}
\vspace*{-1cm}
}
\end{center}

\end{table}


En termes de moyenne arithmétique obtenue, on pourrait penser que NB avec discrétisation fonctionne mieux que NB-G, mais le nombre d'EDs où NB-G n'est pas significativement plus mauvais que la meilleure méthode ou bien en fait représente la meilleure méthode, est de $11$, contre $10$ pour NB. En fait, le test de Wilcoxon ne fait apparaître aucune différence significative entre ces deux méthodes pour ces EDs. On pourrait espérer que le même raisonnement s'applique à la comparaison entre AODE et GAODE. Toutefois, cela n'est pas tout à fait vrai car la différence entre les moyennes des algorithmes est plus faible et le nombre d'EDs où les résultats ne sont pas sensiblement plus mauvais que pour les autres classifieurs est exactement le même. Dans ce cas, le test de Wilcoxon n'a pas non plus réussi à montrer une différence significative.

Si on analyse ces résultats, nous pouvons confirmer que GAODE et HAODE à la fois, sont significativement meilleurs que NB dans toutes ses versions. En ce qui concerne HAODE, non seulement il obtient la plus grande moyenne de précision, mais aussi le plus grand nombre d'EDs dont les précisions ne sont pas significativement différentes des meilleures fournies par n'importe lequel des autres classifieurs. De plus, selon le test de Wilcoxon, il est significativement meilleur qu'AODE et GAODE en ce qui concerne ce groupe d'EDs, malgré le nombre considérable d'égalisations.


De plus, un test de Friedman a été effectué sur les $5$ classifieurs, révélant une différence statistique. Les tests Nemenyi postérieurs \cite{Demsar,GarciaHerrera09} ont uniquement rejeté l'hypothèse que les 2 algorithmes ne sont pas significativement différents en faveur de GAODE et HAODE par rapport à NB-G et NB, alors qu'AODE n'a pas pu être révélée significativement mieux que n'importe quel d'entre eux.


