La réalité des chiffres est venue percuter la vision d'Elon Musk pour son intelligence artificielle. Selon une analyse détaillée menée par l'ONG européenne AI Forensics, la période des fêtes de fin d'année a été le théâtre d'un détournement massif de Grok.
L'étude, qui a porté sur près de 20 000 images générées entre le 25 décembre et le 1er janvier, dresse un constat accablant : la moitié des visuels représentant des personnes les montraient dévêtues ou en sous-vêtements.
Le phénomène est non seulement massif, mais aussi profondément genré, puisque 81% de ces victimes étaient des femmes.
Une mécanique simple et dévastatrice
La mécanique derrière ce déferlement est d'une simplicité désarmante, s'appuyant directement sur l'intégration de Grok au sein du réseau social X. Une simple mention suffit pour que l'IA s'exécute.
L'analyse des requêtes envoyées par plus de 8 500 utilisateurs ne laisse aucune place au doute sur leurs intentions. Les termes les plus fréquents dans les commandes incluaient "bikini", "lingerie", "sexy" ou encore "soutien-gorge", transformant de fait l'outil en une machine à produire des deepfakes sexualisés sans le consentement des personnes visées.
Des cibles majoritairement anonymes et parfois mineures
Plus inquiétant encore, l'analyse révèle que l'écrasante majorité des cibles ne sont pas des personnalités publiques. Alors que seulement 6% des images générées concernent des célébrités, cela signifie que des milliers de femmes anonymes sont potentiellement victimes de ce harcèlement numérique.
Les mots-clés les plus utilisés dans les prompts de Grok durant les fêtes
(credit : AI Forensics)
Le rapport d'AI Forensics observe également que 2% des images mettaient en scène des personnes visiblement mineures, parfois même des enfants de moins de cinq ans.
Des cas documentés montrent des adolescentes, utilisant elles-mêmes l'IA pour créer des images innocentes, voir leurs publications détournées par des tiers demandant à Grok de les "mettre dans un petit bikini noir" ou "dans un uniforme SS". À chaque fois, l'IA s'est exécutée sans filtre.
La réaction ambivalente d'Elon Musk
Face à la polémique naissante, la réaction d'Elon Musk, propriétaire de X et de la société xAI, a semblé pour le moins déconcertante. Dans un premier temps, le milliardaire s'est amusé de la situation en publiant une image de lui-même retouchée en bikini.
Il a ensuite durci le ton, affirmant que toute utilisation illégale de Grok entraînerait des conséquences. Cette dualité interroge, alors même que l'étude souligne d'autres dérives, comme la génération d'images arborant des symboles nazis ou liés à l'organisation État islamique.
Ce scandale met en lumière le fossé entre la promesse d'une technologie libératrice et sa dangereuse instrumentalisation, posant la question cruciale de la modération et de la responsabilité des plateformes.
