Facebook : avant les mèmes haineux, l'IA détecte proactivement 90% des discours haineux

Le par  |  4 commentaire(s)
facebook.

Facebook met en avant les progrès de l'intelligence artificielle pour la détection proactive de contenus haineux. Les mèmes haineux sont la prochaine étape.

À l'occasion de la publication de son rapport sur l'application des Standards de la communauté, Facebook révèle que sa technologie de détection proactive des discours haineux identifie désormais près de 90 % du contenu effectivement supprimé avant que celui-ci ne soit signalé par une personne.

Plus précisément, c'est un taux de détection par IA qui concerne 88,8 % des contenus haineux retirés au cours des trois premiers mois de l'année, alors qu'il était de 80,2 % au quatrième trimestre 2019. Facebook indique être intervenu sur 9,6 millions de discours haineux au premier trimestre et 5,7 millions au trimestre précédent.

Cela veut dire que les algorithmes ont détecté de manière proactive 8,5 millions de publications pour du contenu haineux au premier trimestre, contre 4,6 millions au quatrième trimestre 2019.

Facebook vante les progrès de sa technologie de machine learning pour l'analyse du langage et ce dans plusieurs langues. Les modèles linguistiques seraient devenus plus précis et plus nuancés pour permettre une identification des contenus.

facebook-ia-memes-haineux

Dans le but d'aller encore plus loin, Facebook a créé un jeu de données de mèmes haineux associant du texte et des images. Il contient plus de 10 000 exemples avec une signification ne prenant son sens qu'en traitant à la fois le texte, l'image et la relation entre eux.

Le jeu de données est à la disposition des chercheurs du domaine dans le cadre d'un défi Hateful Memes Challenge jusqu'au 31 octobre 2020. Quelque 100 000 $ de prix seront attribués pour le développement d'outils aptes à identifier les mèmes haineux.

" Si l'IA n'est pas la seule réponse au défi posé par les discours de haine et autres contenus nuisibles, nous sommes encouragés par les progrès que nous avons réalisés et désireux d'en faire plus ", écrivent les chercheurs de Facebook.

Complément d'information

Vos commentaires

Trier par : date / pertinence
Le #2098909
Et la loi Poulet (euh, pardon, la loi Avia), qui vient d'être votée, on en parle ?
Le #2098952
yam103 a écrit :

Et la loi Poulet (euh, pardon, la loi Avia), qui vient d'être votée, on en parle ?


C'est la loi ou si tu es censuré ,tu peux aller voir un juge et normalement au bout de 5 ans tu sais ou pas si tu as été censuré par erreur et si tu l'as été ton post réapparait au à l'endroi ou il a été censuré!
Les frais et le temps reste a ta charge.
Le #2098974
jacob13 a écrit :

yam103 a écrit :

Et la loi Poulet (euh, pardon, la loi Avia), qui vient d'être votée, on en parle ?


C'est la loi ou si tu es censuré ,tu peux aller voir un juge et normalement au bout de 5 ans tu sais ou pas si tu as été censuré par erreur et si tu l'as été ton post réapparait au à l'endroi ou il a été censuré!
Les frais et le temps reste a ta charge.


Je pense que tu es pessimiste ! Il faut faire confiance à la bonne volonté de nos dirigeants et de tous les lobbys qui poussent pour améliorer notre monde ou la haine vole bas le soir au fond des bois. Tu verras que tout ira pour le mieux en 2084 !
Le #2098986
C'est toujours compliqué, entre la liberté d'expression, et le respect d'autrui...
Un jeu d'équilibriste...
Suivre les commentaires
Poster un commentaire
Anonyme
Anonyme