La controverse a éclaté suite à la diffusion massive sur X de captures d'écran montrant des images générées par l'IA de xAI. Celles-ci représentaient principalement de jeunes femmes et des mineures, numériquement déshabillées ou placées dans des tenues légères. L'affaire a rapidement pris une dimension internationale, provoquant une réaction ferme des pouvoirs publics des deux côtés de la Manche. Alors que xAI a reconnu des failles dans ses systèmes de sécurité, les régulateurs européens semblent déterminés à faire appliquer la loi.
Quelle a été la réaction des autorités françaises face à ces dérives ?
Le gouvernement français n'a pas tardé à réagir. Les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé ont conjointement saisi le procureur de la République. Ils ont également alerté la plateforme Pharos, en vertu de l'article 40 du code de procédure pénale, pour exiger le retrait immédiat des contenus illicites.
Parallèlement, l'Arcom a été sollicitée pour des contenus jugés « manifestement illicites » à caractère « sexuel et sexiste ». Cette double action, judiciaire et administrative, montre la détermination de Paris à ne pas laisser ces dérives sans réponse, mettant la pression sur la plateforme d'Elon Musk pour qu'elle assume ses responsabilités en matière de modération.
Comment l'Union européenne et le Royaume-Uni se sont-ils saisis du dossier ?
Au niveau européen, la Commission a qualifié ces images de « dégoûtantes, illégales et [n'ayant] pas leur place en Europe ». Un porte-parole a rappelé que X est « parfaitement au courant » de l'application rigoureuse du Digital Services Act (DSA), le nouveau règlement sur les services numériques. Cette affaire s'ajoute à d'autres enquêtes visant déjà la plateforme pour des manquements similaires, notamment pour la diffusion de propos négationnistes également générés par Grok.
Outre-Manche, le régulateur des médias, l'Ofcom, a exprimé de « sérieuses préoccupations » et contacté « urgemment » X et xAI. L'objectif est de comprendre les mesures prises pour se conformer à la législation britannique, qui interdit la création et la diffusion d'images intimes non consenties. L'Ofcom a précisé qu'une évaluation rapide déterminerait si une enquête formelle pour non-conformité est nécessaire.
Quelles sont les explications de xAI et l'ampleur du phénomène ?
Face à la polémique, xAI a reconnu des « failles » dans ses garde-fous de sécurité, admettant que « des cas isolés » avaient permis la génération d'images inappropriées. L'entreprise a assuré que des améliorations étaient en cours pour bloquer totalement ce type de requêtes et a rappelé que les contenus relevant du CSAM (Child Sexual Abuse Material) sont strictement interdits. Cependant, aucune explication technique détaillée n'a été fournie.
Une étude menée par l'ONG AI Forensics a permis de quantifier le problème. En analysant 20 000 images générées sur une semaine, les chercheurs ont découvert que plus de la moitié (53 %) représentaient des personnes légèrement vêtues, dont 81 % de femmes. Plus inquiétant, 2 % des contenus montraient des personnes semblant avoir 18 ans ou moins, soulignant l'ampleur des dérives permises par l'outil.
