La controverse autour de l'IA Grok et sa capacité à générer des images sexualisées n'était que la partie émergée de l'iceberg. Une enquête menée par le Tech Transparency Project (TTP) met en lumière une réalité bien plus vaste et inquiétante : les boutiques d'Apple et de Google sont des foyers pour des dizaines d'outils similaires, conçus pour créer des « deepfakes » nus sans consentement.
Quelle est l'ampleur de ce phénomène sur les plateformes ?
Le rapport du TTP est sans appel. En janvier, l'organisation a identifié pas moins de 55 applications sur le Google Play Store et 47 autres sur l'App Store d'Apple. Ces outils, souvent présentés sous des dehors innocents, permettent de « déshabiller numériquement » des femmes à partir d'une simple photo. La popularité de ces applications est massive.
Collectivement, elles cumulent plus de 705 millions de téléchargements à travers le monde et ont généré environ 117 millions de dollars de revenus. Un chiffre colossal qui interroge, sachant qu'Apple et Google prélèvent une commission sur chaque transaction effectuée via leurs plateformes, profitant ainsi indirectement de ce marché délétère.
Comment ces applications contournent-elles les règles de sécurité ?
Les chercheurs du TTP ont débusqué ces programmes en utilisant des mots-clés simples comme « nudify » ou « undress ». L'enquête a révélé deux types de fonctionnement : certaines utilisent une intelligence artificielle pour recréer une version nue de la personne sur la photo, tandis que d'autres, plus rudimentaires, pratiquent le « face swap » en superposant le visage de la victime sur un corps dénudé préexistant.
Pourtant, les politiques des deux entreprises sont claires. Le règlement de Google Play interdit explicitement les « applications qui prétendent déshabiller les gens ». De son côté, Apple bannit tout contenu « manifestement sexuel ou pornographique ». La présence de ces outils constitue donc une violation flagrante de leurs propres conditions d'utilisation. Katie Paul, directrice du TTP, souligne que ces applications ont été « conçues pour la sexualisation non consensuelle » des personnes.
Quelles sont les réactions et les conséquences pour les géants de la tech ?
Suite à la publication du rapport et aux sollicitations de CNBC, les réactions ne se sont pas fait attendre, bien que mesurées. Apple a déclaré avoir supprimé 28 des applications signalées, tandis que Google a affirmé en avoir suspendu « plusieurs » pour violation de ses règles, sans donner de chiffre précis. Cette situation n'est pas nouvelle, un rapport similaire de 404 Media en 2024 avait déjà forcé les deux firmes à réagir.
Cette affaire met en lumière une double-mesure. Alors que des sénateurs américains demandent le retrait de X des App Stores pour le scandale Grok, l'application reste disponible. La pression s'accentue également en Europe, où la Commission européenne a ouvert une enquête sur X. De plus, la provenance de certaines de ces applications, notamment 14 basées en Chine, soulève des inquiétudes supplémentaires sur la rétention des images et la sécurité des données en général.
