Après des enquêtes de presse révélant la prolifération de publicités pour des applications de « nudification » sur ses plateformes, Meta change de stratégie. Fini la simple modération et place à l'action en justice.
Une plainte a été déposée à Hong Kong contre la société Joy Timeline HK Limite qui est derrière les applications CrushAI. Avec une génération par IA, les applications permettent de créer des images dénudées - ou sexuellement explicites - de personnes réelles sans leur consentement.
Une riposte judiciaire et technique
L'action en justice vise à empêcher Joy Timeline de diffuser ses publicités pour CrushAI sur Facebook ou Instagram. L'entreprise est accusée d'avoir contourné à plusieurs reprises les processus de validation publicitaire.
« Cette action en justice souligne à la fois le sérieux avec lequel nous prenons ces abus et notre engagement à faire tout notre possible pour protéger notre communauté », écrit Meta dans un communiqué.
En parallèle, le groupe développe de nouvelles technologies pour identifier les annonces, même quand elles n'affichent aucune nudité, en se basant sur une liste élargie de termes, d'expressions et même d'émojis suspects.
La collaboration, une arme contre la prolifération
Le problème est loin de se limiter à un seul réseau social. Ces applications sont promues sur tout internet et disponibles directement sur des boutiques d'applications.
Conscient que bloquer les liens sur ses seules plateformes ne suffit pas, Meta a décidé de partager des informations avec ses concurrents. Via le programme Lantern de la Tech Coalition, Meta transmet les URL des applications et sites web en infraction qu'il identifie.
Depuis fin mars, plus de 3 800 URL uniques ont ainsi été partagées avec les entreprises partenaires pour qu'elles puissent agir à leur tour. Une initiative qui étend la collaboration déjà en place dans d'autres domaines, dont la lutte contre l'exploitation des enfants.
Un fléau aux multiples visages
Derrière ces applications « nudify » se cache un modèle économique qui cible majoritairement les hommes pour créer des montages de femmes et de célébrités.
Les contenus alimentent des schémas de chantage et de sextorsion, et peuvent aussi se retrouver entre les mains de mineurs. Les développeurs redoublent d'ingéniosité pour déjouer la modération, utilisant des images anodines dans leurs publicités ou créant sans cesse de nouveaux noms de domaine.
Cette lutte contre le deepfake non consenti s'inscrit dans un contexte où Meta soutient des lois plus strictes aux États-Unis, pour mieux protéger les victimes et responsabiliser les plateformes.
N.B. : Source images : Meta.
