Déduplication sur des types d'attributs hétérogènes - Archive ouverte HAL Access content directly
Conference Papers Year : 2023

Deduplication Over Heterogeneous Attribute Types

Déduplication sur des types d'attributs hétérogènes

Abstract

Deduplication is the task of recognizing multiple representations of the same real-world object. The majority of existing solutions focuses on textual data, this means that data sets containing boolean and numerical attribute types are rarely considered in the literature, while the problem of missing values is inadequately covered. Supervised solutions cannot be applied without an adequate number of labelled examples, but training data for deduplication can only be obtained through time-costly processes. To address these challenges, we go beyond existing works through D-HAT, a clustering-based pipeline that is inherently capable of handling high dimensional, sparse and heterogeneous attribute types. At its core lies: (i) a novel matching function that effectively summarizes multiple matching signals, and (ii) MutMax, a greedy clustering algorithm that designates as duplicates the pairs with a mutually maximum matching score. We evaluate D-HAT on five established, real-world benchmark data sets, demonstrating that our approach outperforms the state-of-the-art supervised and unsupervised deduplication algorithms to a significant extent.
La déduplication est une tâche qui consiste à reconnaître plusieurs représentations d'un même objet du monde réel. La majorité des solutions existantes se concentrent sur les données textuelles et souvent négligent les attributs booléens et numériques, tandis que le problème des valeurs manquantes n'est pas suffisamment couvert. Les solutions supervisées ne peuvent être appliquées sans un nombre adéquat d'exemples étiquetés, ce qui implique des processus d'étiquetage coûteux en temps. Nous proposons dans ce papier D-HAT, un pipeline non supervisé qui est intrinsèquement capable de traiter des types d'attributs de haute dimension, épars et hétérogènes. Au coeur de ce pipeline se trouvent : (i) une nouvelle fonction de matching qui résume efficacement les signaux de correspondance multiples, et (ii) MutMax, un algorithme de regroupement glouton qui désigne comme doublons les paires ayant un score de matching mutuellement maximal. Nous évaluons D-HAT sur cinq datasets réels, et démontrons que notre approche surpasse significativement l'état de l'art.
Fichier principal
Vignette du fichier
EGC_D_HAT.pdf (240.78 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-04097249 , version 1 (15-05-2023)
hal-04097249 , version 2 (25-05-2023)

Licence

Attribution

Identifiers

  • HAL Id : hal-04097249 , version 2

Cite

Loujain Liekah, Yacine Gaci, George Papadakis. Déduplication sur des types d'attributs hétérogènes. Extraction et Gestion des Connaissances (EGC) 2023, Jan 2023, Lyon, France. ⟨hal-04097249v2⟩
98 View
46 Download

Share

Gmail Facebook X LinkedIn More