Suite au G7 en mai, il a été demandé aux fournisseurs de services de communications et sociétés de réseaux sociaux " d'accroître de manière substantielle leurs efforts pour résoudre le problème des contenus terroristes. " Cette semaine, un plan d'actions franco-britannique concernant l'utilisation de l'Internet à des fins terroristes a notamment évoqué l'amélioration et l'automatisation du retrait des contenus illicites.
C'est dans ce contexte que Facebook annonce le renforcement de sa lutte contre les contenus extrémistes et terroristes. " Nous souhaitons que Facebook soit un environnement hostile pour les terroristes. Nous restons résolument et fermement déterminés à maintenir les terroristes hors de notre plate-forme. "
Facebook dit vouloir identifier immédiatement les contenus terroristes - sans signalement préalable - en s'appuyant pour cela sur l'intelligence artificielle. Un recours qui n'est en fait pas nouveau, mais est encore relativement récent et avec des expérimentations en cours.
La technologie fait appel à de la correspondance d'image pour des photos et vidéos terroristes, de la compréhension linguistique avec des algorithmes de machine learning qui apprennent comment détecter des publications illicites en se basant sur des textes de propagande terroriste déjà supprimés.
Également, la détection de " grappes " où le contenu terroriste est publié à travers plusieurs comptes en relation, la mise au point de nouvelles techniques pour détecter et limiter l'apparition de comptes terroristes récidivistes.
Pour autant, Facebook est loin de s'appuyer entièrement sur l'intelligence artificielle qui peut faire preuve d'un manque de discernement dans certains cas. Un renfort humain demeure nécessaire, dont avec des experts dans la lutte contre le terrorisme. Le mois dernier, Mark Zuckerberg (le patron de Facebook) avait déjà annoncé l'ajout de 3 000 modérateurs supplémentaires au cours de l'année prochaine (4 500 modérateurs actuellement).
Ces efforts couvrent le réseau social lui-même mais aussi Instagram et WhatsApp. Le cas du chiffrement de bout-en-bout est mentionné. " Nous ne pouvons pas lire les contenus des messages chiffrés individuels, mais nous fournissons l'information que nous pouvons en réponse à des demandes d'autorités habilitées, dans le respect de la lois et de nos règles d'utilisation. "