Depuis la fin de l'année dernière, une petite communauté sur Reddit (Deepfakes) utilise une application pour greffer des photos et visages de célébrités - principalement des stars féminines - dans des vidéos pornographiques.

Cette application s'appuie sur un algorithme de machine learning et le framework open source d'apprentissage automatique TensorFlow développé par Google. Ce n'est que récemment que l'application pour ordinateur a été publiée.

Il est ainsi question d'une application préliminaire FakeApp, dont une version 2.0 pèse 1,24 Go, avec notamment un lien sur Mega. Une version 1.0 est également hébergée sur Google Drive.

Wired explique qu'un utilisateur doit disposer d'une vidéo originale sur laquelle il veut transplanter une tête, et d'une base de données d'images ou de vidéos de la tête de la personne à transplanter dans la vidéo.

" Un algorithme de machine learning est entraîné pour modeler et positionner le visage. Une fois cette opération terminée, il est possible d'ajouter le visage à chaque image de la vidéo. " Pour le traitement d'une courte vidéo, la procédure peut prendre entre 8 et 12 heures avec un ordinateur grand public équipé d'une carte graphique relativement puissante.

À Motherboard, un certain deepfakeapp a déclaré qu'il escompte améliorer l'application, de sorte que les utilisateurs n'auraient qu'à sélectionner une vidéo sur leur ordinateur, télécharger un réseau de neurones artificiels corrélé à un certain visage à partir d'une bibliothèque disponible publiquement, et échanger la vidéo avec un visage différent via un simple bouton.

Discord-fermeture-groupe
Si le résultat obtenu est pour le moment plus ou moins probant, la simplicité d'utilisation et les améliorations à venir soulèvent des inquiétudes. Business Insider rapporte qu'un groupe Discord pour le partage de vidéos pornographiques avec cette technologie d'artificielle a été fermé (capture ci-dessus). Une violation des règles d'utilisation en rapport avec le revenge porn.