Google propose un outil d'IA pour identifier des contenus pédopornographiques

Le par  |  8 commentaire(s)
Google-nouveau-logo

Avec du deep learning à la manœuvre, Google propose un accès gratuit à un outil pour identifier et supprimer des contenus pédopornographiques, y compris des contenus pas encore connus.

L'organisation britannique Internet Watch Foundation (IWF) indique avoir travaillé avec des entreprises pour trouver des solutions techniques afin d'arrêter la diffusion de contenus pédopornographiques en ligne.

C'est dans le cadre de cette initiative que Google publie un outil d'intelligence artificielle qui pourrait permettre d'accélérer l'identification de telles images et leur suppression. Il est gratuitement mis à disposition d'ONG et partenaires industriels par le biais d'un accès à une API Content Safety.

" En utilisant des deep neural networks pour le traitement des images, nous pouvons maintenant aider les examinateurs à trier de nombreuses images en donnant la priorité au contenu CSAM (ndlr : child sexual abuse material) le plus susceptible d'être examiné ", écrit Google.

Il est ainsi question de méthodes d'apprentissage automatique avec une architecture de deep learning, et avec une approche pour trouver des contenus qui ne s'appuie pas exclusivement sur la correspondance avec des empreintes numériques de fichiers déjà connus.

Complément d'information
  • Google : l'IA pour traduire la langue des signes
    Google propose déjà énormément de solutions de traductions pour les particuliers à travers Google Translate, mais prochainement le géant du Web pourrait aussi traduire la langue des signes automatiquement, grâce aux avancées de ...
  • Quake III : l'IA de Google bat les champions humains
    L'intelligence artificielle a encore frappé ! Après avoir dominé le jeu de Go, StarCraft, les échecs et le poker, c'est désormais Quake III Arena qui devient le nouveau terrain de jeu de l'IA.

Vos commentaires

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Anonyme
Le #2029965
Voilà une utilisation intelligente du deep learning, bravo Google.
Le #2029966
L'IA utilise quel critère pour voir un site pédopornographique ?

Ici c'est un site avec des enfants ,l'IA ne sera pas capable de reconnaitre correctement
http://www.famili.fr/enfant,7.asp2

Pour info je suis sur internet depuis 1995,j'ai jamais vu un contenu pédophile donc logiciel inutile
Le #2029968
Yves6 a écrit :

L'IA utilise quel critère pour voir un site pédopornographique ?

Ici c'est un site avec des enfants ,l'IA ne sera pas capable de reconnaitre correctement
http://www.famili.fr/enfant,7.asp2

Pour info je suis sur internet depuis 1995,j'ai jamais vu un contenu pédophile donc logiciel inutile


Je pense que cette outil sera utilisé dans des entreprise permettant l'échange de fichier (hébergeur de fichier entre autres)
Afin de supprimer automatiquement ce genre de fichier
Le #2029969
Yves6 a écrit :

L'IA reconnait utilise quel critère pour voir un site pédopornographique ?

Ici c'est un site avec des enfants ,l'IA ne sera pas capable de reconnaitre correctement
http://www.famili.fr/enfant,7.asp2

Pour info je suis sur internet depuis 1995,j'ai jamais vu un contenu pédophile donc logiciel inutile


Sur ton site, les enfants sont vétus, je pense que l'IA de gogole sait reconnaître ça (et d'autres choses...)

C'est pas parce que tu n'es jamais tombé sur un type de données qu'elles n'existent pas...

(Je n'ai jamais vu de vidéo jihadiste...)
Le #2030015
Ce que les gens ne comprennent pas c'est qu'il n'y a pas d'intelligence du genre "l'ordinateur essaye de comprendre / identifier une situation comme un humain le fait".

Il n'y a pas de raisonnement, il n'est pas écrit de programme pour identifier une situation / photo pédopornographique.

Pour faire une analogie, tout se passe comme si la machine, pendant la phase de calibrage (que certains appellent "apprentissage",) tournait des boutons de réglage de façon plus ou moins hasardeuse (en fait c'est une descente de gradient en math, donc c'est pas tout à fait du hasard), pour qu'un maximum des données en entrée identifiées comme pédopornographiques, soient, en sorties détectées comme pédopornographiques. Plus il y a de données en entrées plus les réglages de calibrage fourniront de bonnes réponses.

Pour être caricatural, une IA peut être aussi bien trompée par une image de crocodile qui joue au foot qu'avec une image représentant des enfants habillés.

Dans ce type d'algo il n'y a aucune explication logique du pourquoi le réglage obtenu est bon. Ce qu'on sait c'est qu'il va fournir le résultat attendu avec une très grosse probabilité. Et ça tombe bien puisque c'est exactement ce qu'on veut.

Fournir des données à une société qui entraîne son IA c'est lui donner énormément de pouvoir et une énorme avance sur ses concurrents qui voudraient à tout prix disposer de ces données pour les mêmes raisons et se lancer sur le marché.
Le #2030023
Il me semblait que pour le deep learning ça ne se programmait pas mais que ça s'éduquait. Il faudrait donc montrer des millions de photos pédo pour permettre à ce moteur de remplir son usage, à savoir faire de la reco automatique. Pas cool...
Le #2030027
Oui en gros c'est ce que je viens de dire (et ça concerne pas que le deep learning, le machine learning aussi).
Le #2030101
Yves6 a écrit :

L'IA utilise quel critère pour voir un site pédopornographique ?

Ici c'est un site avec des enfants ,l'IA ne sera pas capable de reconnaitre correctement
http://www.famili.fr/enfant,7.asp2

Pour info je suis sur internet depuis 1995,j'ai jamais vu un contenu pédophile donc logiciel inutile


Tous les enfants qui se filment en train de faire de la gym (parents inconscients ?) et postent sur YouTube, c'est du "contenu pédophile" (ça tourne entre pédophiles, c'est eux qui regardent et commentent), là on parle de pédopornographie donc c'est encore autre chose.

Et effectivement ce n'est pas parce que tu préfères rester dans l'ignorance qu'il ne faut pas lutter contre le phénomène de toutes nos forces.

Enfin bref tout ça c'est de la comm', on sait que n'importe quelle nouveauté passe par une phase de comm' sur un sujet qui met tout le monde d'accord, technique du pied dans la porte, et c'est un argument qui ressortira des années après à chaque fois qu'un détracteur se pointera.
Suivre les commentaires
Poster un commentaire
Anonyme
Anonyme