Aux États-Unis, Microsoft a déposé une plainte en justice pour lutter contre des cybercriminels qui développent des outils permettant de contourner des mesures de sécurité et des garde-fous de services d'IA générative. Un groupe basé à l'étranger est dans le collimateur.
Dans sa plainte, Microsoft indique avoir découvert le vol de clés API pour accéder au service Azure OpenAI et au générateur d'images DALL-E. Ces accès ont été exploités avec un outil de3u et pour générer des milliers d'images illicites.
Si la nature de ces images illicites n'est pas détaillée, le groupe de Redmond fait mention de contenus offensants et préjudiciables.
Un système de hacking-as-a-service
« Le logiciel de3u est conçu pour tenter d'empêcher le service Azure OpenAI de réviser le prompt textuel d'origine utilisé pour générer des images », peut-on lire dans la plainte. Une telle procédure doit par exemple se produire lorsqu'un prompt contient des mots qui déclenchent le filtrage de contenu de Microsoft.
Globalement, c'est un système de hacking-as-a-service et de proxy qui est pointé du doigt. Trois personnes sont visées pour sa mise en place, tandis que sept autres en étaient des utilisateurs finaux.
« Après la découverte, Microsoft a révoqué l'accès des cybercriminels, a ajouté des contre-mesures et a renforcé ses mesures de protection pour bloquer davantage de ces activités malveillantes à l'avenir », écrit Microsoft.