Towards a machine learning-based approach for identifying cases of cyberbullying on social networks
Vers une approche à base d’apprentissage automatique pour l’identification de cas de cyber harcèlement sur les réseaux sociaux
Résumé
Cyberbullying is a growing online problem requiring swift detection and prevention on social media platforms. Effective detection enables quick action and preventive measures by identifying at-risk profiles.
Various techniques exist to detect suspicious situations in user interactions. Cyberbullying involves deliberate and repetitive acts through digital means. An automated mechanism is necessary to distinguish between different situations and user profiles.
This thesis proposes an identification strategy incorporating an ontology, semi-automatic data construction, and classifiers based on expert rules.
The system includes modules using data mining and machine learning. Data is cleaned, anonymized, and labeled using a cyberbullying ontology. The latter provides a semantic foundation, while machine learning analyzes user context and characteristics.
The methodology relies on several independent classifiers, such as toxicity and personality, to effectively detect cyberbullying. The system identifies cyberbullying indicators through four key datasets:
frequency of toxic interactions between users,
time interval between exchanges,
content classification,
membership in non-conventional users.
Rules determine the nature of suspicious situations, triggering alerts when necessary.
The approach, both evolving and adaptive, is based on three indicators: content, profile, and network. The study focuses on linguistic aspects and content toxicity. A cyberbullying ontology establishes toxicity concepts and serves as a basis for semantic annotation.
To address the lack of annotated corpora, a semantic annotation method was developed. Experiments on Twitter and Instagram enabled toxicity detection and prediction, with precise classification based on domain ontology.
The method was tested on various phrases, achieving satisfactory F-scores and validation from a linguistic expert. Detection of at-risk profiles is crucial, using a two-phase approach: individual behavioral analysis and grouping of similar characteristics.
Profiles are classified as conventional or non-conventional based on their personality traits (BigFive) and posts. This modular approach can be integrated into a technological monitoring system against malicious online behaviors.
The proposed algorithms serve as a foundation for future research. The study of toxic content and profiling contributes to addressing these social challenges. This research aims to improve digital security, particularly for young users, enabling safer exploitation of online resources.
Le cyberharcèlement est un problème croissant en ligne, nécessitant une détection et une prévention rapides sur les réseaux sociaux. Une détection efficace permet d'agir rapidement et de prendre des mesures préventives en identifiant les profils à risque.
Diverses techniques existent pour détecter les situations suspectes dans les échanges entre utilisateurs. La cyberintimidation implique des actes délibérés et répétitifs via les moyens numériques. Un mécanisme automatisé est nécessaire pour distinguer les différentes situations et profils d'utilisateurs.
Cette thèse propose une stratégie d'identification intégrant une ontologie, une construction semi-automatique de données et des classificateurs basés sur des règles d'experts.
Le système comprend des modules utilisant le data mining et l'apprentissage automatique. Les données sont nettoyées, anonymisées et étiquetées via une ontologie du cyberharcèlement. Cette dernière fournit une base sémantique, tandis que l'apprentissage automatique analyse le contexte et les caractéristiques des utilisateurs.
La méthodologie s'appuie sur plusieurs classificateurs indépendants, comme la toxicité et la personnalité, pour détecter efficacement la cyberintimidation. Le système identifie les indicateurs de cyberharcèlement à travers quatre ensembles de données clés :
la fréquence des interactions toxiques entre utilisateurs,
l'intervalle temporel entre les échanges,
la classification du contenu,
l'appartenance aux utilisateurs non-conventionnels.
Des règles déterminent la nature des situations suspectes, déclenchant des alertes si nécessaire.
L'approche, évolutive et adaptative, repose sur trois indicateurs : contenu, profil et réseau. L'étude se concentre sur l'aspect linguistique et la toxicité du contenu. Une ontologie du cyberharcèlement établit les concepts de toxicité et sert de base pour l'annotation sémantique.
Pour pallier le manque de corpus annotés, une méthode d'annotation sémantique a été développée. Des expérimentations sur Twitter et Instagram ont permis de détecter et prédire la toxicité, avec une classification précise basée sur l'ontologie du domaine.
La méthode a été testée sur diverses phrases, obtenant des F-scores satisfaisants et la validation d'un expert linguiste. La détection des profils à risque est cruciale, utilisant une approche en deux phases : l'analyse comportementale individuelle et le regroupement des caractéristiques similaires.
Les profils sont classés en conventionnels et non conventionnels selon leurs traits de personnalité (BigFive) et leurs publications. Cette approche modulaire peut être intégrée dans un système de surveillance technologique contre les comportements malveillants en ligne.
Les algorithmes proposés servent de fondement pour de futures recherches. L'étude du contenu toxique et le profilage contribuent à résoudre ces enjeux sociaux. Cette recherche vise à améliorer la sécurité numérique, particulièrement pour les jeunes utilisateurs, permettant une exploitation plus sûre des ressources en ligne.