Instagram : le machine learning pour détecter le harcèlement sur les photos

Le par  |  8 commentaire(s)
Instagram-logo

Instagram s'appuie sur l'intelligence artificielle pour tenter d'éliminer le harcèlement et l'intimidation sur les photos et dans les commentaires.

Même avec un nouveau dirigeant à sa tête, Instagram continue sa croisade contre le harcèlement et afin d'encourager la bienveillance sur sa plateforme. On se souviendra par exemple de la mise en place d'un filtre automatique pour bloquer les commentaires haineux ou choquants.

Toujours à renfort de machine learning, un filtre détectera désormais de manière proactive le harcèlement sur des photos et avec le texte ajouté à une image. Par ailleurs, les commentaires haineux ou d'intimidation sur les vidéos en direct pourront être filtrés.

Instagram-coeurUne fois identifiées par l'algorithme de machine learning, les photos jugées offensantes seront envoyées à une équipe de modération et pouvant aboutir à une éventuelle suppression.

D'après Instagram, l'algorithme a été entraîné pour signaler les photos et légendes comprenant des attaques contre l'apparence ou le caractère d'une personne, ainsi que des menaces à son bien-être et sa santé. Le déploiement de la nouvelle technologie a débuté et se poursuivra au cours des prochaines semaines.

" Le harcèlement en ligne est complexe, et nous savons que nous avons du travail à faire pour limiter davantage l'intimidation et diffuser la bienveillance sur Instagram. C'est pourquoi nous annonçons nos plus récents outils pour aider à combattre le harcèlement, y compris une nouvelle façon d'identifier et signaler l'intimidation sur les photos ", écrit Adam Mosseri.

Ancien responsable du News Feed (fil d'actualité) de Facebook, ce proche de Mark Zuckerberg a été nommé à la tête d'Instagram en début de mois après le départ des fondateurs Kevin Systrom et Mike Krieger qui auraient entretenu des relations tendues avec le patron de Facebook (Instagram est dans le giron de Facebook).

Complément d'information

Vos commentaires

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #2036116
y aura toujours un moyen de contourner ces machines
Le #2036135
"Une fois identifiées par l'algorithme de machine learning, les photos jugées offensantes seront envoyées à une équipe de modération"

Chérie, j'ai vu du cul toute la journée, j'ai plus envie ce soir ..


Le #2036147
ok donc:

"t'es gros" = offensant
"t'es maigre" = offensant ?
Le #2036157
skynet a écrit :

"Une fois identifiées par l'algorithme de machine learning, les photos jugées offensantes seront envoyées à une équipe de modération"

Chérie, j'ai vu du cul toute la journée, j'ai plus envie ce soir ..




Allez .... déconne pas ... je veux mon proco AMD .... ( bon ok j'arrête le comique de répétition ! )
Le #2036199
Si j'ai bien compris si un message est offensant il peut être identifié et supprimé par une équipe modératrice.

C'est un bon début mais .... et la personne qui l'a posté, il faudrait penser à la pénaliser aussi non ? (dans le cadre de harcèlement par exemple)


Et pour répondre à rborn, si "t'es maigre" est de plus en plus signalé alors il sera intégré comme offensant par l'algorithme de machine learning
Le #2036202
rborn a écrit :

ok donc:

"t'es gros" = offensant
"t'es maigre" = offensant ?


Harcèlement = je ne me contente pas de le dire une seule fois .... Je le répète inlassablement.
Anonyme
Le #2036209
Perso il y a une femme avec des gros.. oups une forte poitrine qui me harcèle sur le site de GNT dans la rubrique à découvrir avec le Top 30 des pires annonces vues sur Le Bon Coin !

Elle est là à chaque fois que j'ouvre une rubrique.

C'est dit ! ;o)
Anonyme
Le #2036211
youpiyo a écrit :

Perso il y a une femme avec des gros.. oups une forte poitrine qui me harcèle sur le site de GNT dans la rubrique à découvrir avec le Top 30 des pires annonces vues sur Le Bon Coin !

Elle est là à chaque fois que j'ouvre une rubrique.

C'est dit ! ;o)


Si vous aussi elle vous harcèle, je propose de monter un groupe qui s'appellera le 'nibharcèlement"
Suivre les commentaires
Poster un commentaire
Anonyme
Anonyme