Contenus haineux : Facebook donne une estimation de leur présence

Le par Jérôme G.  |  3 commentaire(s)
facebook

Facebook introduit un indicateur de prévalence des contenus haineux. L'objectif sera de le garder aussi bas que possible.

Facebook publie la 7e édition de son rapport de transparence trimestriel. Il porte sur la période du troisième trimestre 2020 et couvre une douzaine de catégories sur Facebook et une dizaine sur Instagram.

Une nouveauté du rapport est la publication de données en lien avec ce qui est introduit comme la prévalence des contenus haineux sur Facebook. À l'échelle mondiale, cette prévalence des contenus haineux est estimée de 0,10 % à 0,11 %.

Autrement dit et sur par exemple un ensemble de 10 000 contenus vus par des utilisateurs du réseau social, 10 à 11 concernent des contenus haineux. " Ce nouvel indicateur va désormais permettre, en toute transparence, de mieux suivre les progrès réalisés en matière de modération. "

L'effort de transparence revendiqué est évidemment louable, voire nécessaire pour répondre à des critiques. Toutefois, ce taux de prévalence qui semble bien bas en apparence est difficile à appréhender. Le réseau social grossit toujours plus et avec lui le nombre de publications diverses. Sans compter la question de la caractérisation même d'un contenu haineux.

L'IA à la manœuvre pour accélérer la modération

De juillet à septembre 2020, le groupe de Mark Zuckerberg souligne avoir modéré 22,1 millions de contenus haineux sur Facebook. Sur Instagram, ce sont 6,5 millions de contenus haineux qui ont été modérés. Le taux d'identification de manière proactive (sans signalement d'un utilisateur) a été de 95 %.

facebook-detection-proactive-contenus-haineux-evolution
Intimement lié aux progrès et aux investissements en intelligence artificielle, le taux de détection automatique des discours haineux a bondi de manière spectaculaire au fil des années (voir ci-dessus).

En 2017, il était de seulement 24 % sur Facebook. Sur Instagram, la progression sensible entre le 2e trimestre et le 3e trimestre 2020 est imputée à une extension de la technologie et son amélioration pour les langues anglaise, arabe et espagnole.


  • Partager ce contenu :
Complément d'information

Vos commentaires

Trier par : date / pertinence
Le #2113695
Tout dépend ce qu'ils appellent haineux : si on étend la haine à toute théorie complète autiste, j'ai bien peur que les réseaux sociaux ce soient au minimum 1/3 de contenus haineux haineux. Depuis les gilets jaunes et depuis que j'ai un peu regardé du côté des réseaux sociaux, je me suis rendu compte que je suis entouré de tarés. Nul doute selon moi que cela n'augure rien de bon pour l'avenir car cet arrêt prennent confiance en voyant qu'ils ne sont pas seuls. D'ailleurs on peut analyser la plupart de nos terroristes islamistes de cette façon : sans accès à cette information biaisée, jamais ils ne seraient passé à l'acte.
Le #2113697
Le même discours que sur les jeux vidéo qui créent de la violence. Les guerres de religions n'ont pas attendu les journaux,jeux vidéo,réseaux sociaux pour se faire.
C'est juste une nouvelle censure pour éviter qu'un autre trump arrive par surprise.
Le #2113727
si facebook estime aussi bien le contenu haineux qu'il détecte du contenue pornographie le réseau est mal barré..
J'ai eu un report automatique pour contenu porno en postant un meme avec piper perri.. (https://www.meme-arsenal.com/memes/6ab2306b3e5bc94633ecccfb3efc6351.jpg)
icone Suivre les commentaires
Poster un commentaire
avatar
Anonyme
Anonyme avatar