Sous la pression croissante des régulateurs et de l'opinion publique, le réseau social X annonce la mise en place de nouvelles restrictions pour l'IA Grok. Le chatbot de xAI est au cœur d'une polémique pour sa capacité à générer des images dénudées non consensuelles, dont de mineurs, à la demande des utilisateurs.

Les mesures prises par X

La plateforme indique avoir déployé des mesures technologiques pour " empêcher le compte Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis ".

Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants, et s'accompagne d'un géoblocage pour respecter les législations locales. Ce blocage géographique paraît néanmoins quelque peu contradictoire avec des mesures à l'échelle globale.

Par ailleurs, X confirme avoir rendu la création et l'édition d'images via Grok exclusives aux abonnés de sa formule payante. Selon l'entreprise, cela ajoute une couche de protection supplémentaire pour éventuellement confondre ceux qui essaient d'enfreindre la loi ou les conditions d'utilisation.

La pression réglementaire a influencé la décision

L'annonce de X intervient juste après le lancement d'une enquête sur xAI et Grok par le procureur général de Californie. Ce dernier a pointé du doigt une avalanche de rapports sur du contenu non consensuel et sexuellement explicite produit par l'IA. 

Auparavant, l'indignation avait gagné plusieurs pays et déclenché des enquêtes de régulateurs, tandis que la Malaisie et l'Indonésie ont déjà bloqué le chatbot pour des raisons de sécurité.

De son côté, Elon Musk, le patron de xAI et fondateur de X, avait initialement minimisé le problème, déclarant notamment n'être " au courant d'aucune image de mineur nu générée par Grok ".

Suffisant pour éteindre la polémique ?

Malgré ces annonces, des doutes subsistent sur l'efficacité réelle des restrictions. Des chercheurs ont par exemple noté des incohérences dans le traitement de la génération d'images sensibles entre l'interface publique de Grok sur X et son site web dédié.