Programmation linéaire pour améliorer la performance de K-NN avec la distance euclidienne pondérée - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2021

Programmation linéaire pour améliorer la performance de K-NN avec la distance euclidienne pondérée

Résumé

Un algorithme d'apprentissage supervisé vise à classifier des observations inconnues à l'aide des observations déjà classifiées. L'un des algorithmes les plus connus est celui des plus proches voisins (K-Nearest Neighbor, KNN) [6]. La classe d'une nouvelle observation est déterminée par la majorité de ses k plus proches voisins, où k est un paramètre de l'algorithme. Dans ce qui suit, nous considérons un jeux de données avec N observations et M attributs. Chaque observation X i (i = 1..N) est définie par sa classe y i et les valeurs x i,m pour chaque attribut m (m = 1..M). Le plus souvent, la distance utilisée est la distance euclidienne. C'est un choix simple mais rarement optimal, en particulier lorsque les différents attributs n'ont pas le même ordre de grandeur. Il est alors possible d'améliorer les performances de l'algorithme en utilisant d'autres distances. Dans ce travail nous nous intéressons à des distances euclidiennes pondérées, c'està-dire que la distance entre deux observations X 1 et X 2 est donnée par M m=1 w j (x 1,m − x 2,m) 2. Notre but est de trouver une façon efficace d'attribuer les poids w m. Hocke et Martinetz [5] ont proposé un modèle linéaire pour déterminer ces poids. L'idée de leur modèle est de minimiser la plus grande distance au sein d'une même classe (la distance intra-classe). Afin de faciliter la formulation, on pré-calcule la matrice a i,j,m = (x i,m − x j,m) 2. Les variables de décisions sont les poids à déterminer (w m ≥ 0, m = 1..M) et la distance intra-classe (r ≥ 0). On obtient :
Fichier principal
Vignette du fichier
Resume.pdf (235.71 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03330006 , version 1 (31-08-2021)

Identifiants

  • HAL Id : hal-03330006 , version 1

Citer

Yuzhen Wang, Pierre Lemaire, Iragaël Joly, Nadia Brauner. Programmation linéaire pour améliorer la performance de K-NN avec la distance euclidienne pondérée. ROADEF 2021 - 22ème congrès de la société Française de Recherche Opérationnelle et d’Aide à la Décision, société Française de Recherche Opérationnelle et d’Aide à la Décision, Apr 2021, Mulhouse, France. ⟨hal-03330006⟩
152 Consultations
98 Téléchargements

Partager

Gmail Facebook X LinkedIn More