System for detecting users with violent and threatening behavior on social networks.

Abstract

La prolif´eration de faux profils et d’utilisateurs affichant un comportement violent et mena¸cant sur les r´eseaux sociaux pose des d´efis significatifs `a la confiance et `a la s´ecurit´e des communaut´es en ligne. Les m´ethodes de d´etection traditionnelles sont souvent insuffisantes en raison des tactiques sophistiqu´ees et ´evolutives employ´ees par les acteurs malveillants. Cette recherche vise `a d´evelopper un syst`eme de d´etection robuste qui tire parti des mod`eles d’apprentissage automatique et de l’optimisation m´etaheuristique pour am´eliorer la pr´ecision et l’efficacit´e. Nous avons collect´e et pr´etrait´e des ensembles de donn´ees provenant de diverses plateformes de m´edias sociaux, notamment Facebook, Twitter, Instagram et un ensemble de donn´ees sp´ecifique `a l’ISIS. Une gamme de mod`eles d’apprentissage automatique, y compris les arbres de d´ecision, les forˆets al´eatoires, les machines `a vecteurs de support, les Naive Bayes, les k-plus proches voisins et le Gradient Boosting, ont ´et´e impl´ement´es et ´evalu´es. L’algorithme d’optimisation de golf (GOA) et l’optimiseur de jeu de calmar (SGO) ont ´et´e introduits pour optimiser les param`etres du mod`ele, conduisant `a des am´eliorations significatives des m´etriques de performance. Nos conclusions indiquent que le choix des techniques de pr´etraitement, telles que la normalisation et la s´election des caract´eristiques, a un impact significatif sur les performances du mod`ele. Les r´esultats montrent que les mod`eles optimis´es par GOA et SGO surpassent syst´ematiquement les m´ethodes traditionnelles, soulignant l’efficacit´e de notre approche. Cette recherche contribue au d´eveloppement de syst`emes de d´etection plus robustes et efficaces pour am´eliorer la s´ecurit´e des plateformes de m´edias sociaux