Procureur général de Californie, Rob Bonta a envoyé une lettre de mise en demeure à xAI, afin que la société d'Elon Musk cesse immédiatement la distribution d'images sexuelles générées sans consentement.
Quelle est la nature des accusations portées contre Grok ?
Le cœur du problème réside dans la capacité du chatbot Grok à générer des visuels explicites via ses fonctionnalités d'édition d'images.
Selon les autorités, cet outil est massivement détourné pour créer des deepfakes réalistes, déshabillant virtuellement des personnes réelles sans leur accord préalable.
Plus inquiétant encore, des rapports indiquent la production de contenus impliquant des mineurs. Le procureur affirme que xAI semble faciliter cette production illégale qui se retrouve sur la plateforme X.
xAI sous le coup de poursuites en justice
Face au tollé mondial, xAI a mis en place des restrictions techniques sur l'édition d'images. Pourtant, le compte de sécurité de X avait précédemment rejeté la responsabilité sur les utilisateurs, menaçant de sanctions ceux qui génèrent ce type de contenu.
L'injonction du procureur est assortie d'une échéance stricte, et xAI dispose d'une poignée de jours dans le but de prouver que des mesures concrètes ont été prises pour endiguer ce phénomène.
Dans le cas contraire, xAI s'expose à des poursuites judiciaires sévères pour violation des lois sur la protection des mineurs et la vie privée. Sachant qu'une enquête a déjà été ouverte.
