En marge de l'usurpation d'identité, la création de faux comptes sur Facebook est un sujet sensible pour le groupe.
La plateforme étant en accès libre, la création de faux comptes est un problème difficile à gérer pour Facebook qui se dote d'un nouvel outil visant à mieux les identifier et à les neutraliser.
Les ingénieurs du réseau social ont ainsi mis en place une intelligence artificielle basée sur le machine learning baptisée Deep Entity Classification (DEP). Le module tire ainsi profit du machine learning pour analyser les comptes actifs sur la plateforme, mais aussi le comportement des profils et ses interactions avec la communauté.
Des modèles comportementaux sont établis en étudiant plus seulement la date de création des comptes et leur nombre d'amis, mais également la participation des profils aux groupes, les mentions j'aime et les interactions de ce dernier. L'enquête se poursuit en étudiant également les comptes des "amis" du compte suspect, puisque les créateurs de ces faux comptes ont tendance à se regrouper pour faciliter l'évolution du nombre d'amis et passer sous les radars de Facebook.
L'IA exploite pleinement les Deep Features des profils, et peut ainsi accéder à des dizaines de milliers de fonctionnalités par compte qui reflètent quel type d'utilisateur se cache derrière le profil. L'IA est alors à même de déterminer si l'utilisateur cherche à déformer son identité grâce à l'étude de plus de 200 000 caractéristiques.
Dans une première phase de tests, DEP a déjà banni plusieurs milliards de faux comptes et a même bloqué directement la création de comptes suspects avant qu'ils n'arrivent sur le réseau. Facebook estime avoir réduit de 27% le volume d'escrocs et de spammeurs sur son réseau grâce à ce nouvel outil, et estime désormais que le réseau ne compte plus que 5% de faux comptes.
