Une collaboration a vu le jour entre Hugging Face et VirusTotal. Les résultats d'analyse antivirus de VirusTotal sont désormais intégrés directement à la plateforme d'IA.
Les utilisateurs peuvent ainsi identifier les risques liés aux fichiers de modèles, aux jeux de données et aux artefacts associés avant téléchargement. Il est question d'une analyse continue pour plus de 2,2 millions de dépôts publics de modèles et de datasets sur le Hub Hugging Face.
Comment fonctionne la nouvelle protection ?
Lorsqu'un utilisateur visite une page de dépôt ou de fichier, le Hub compare automatiquement le hash du fichier avec la base de données de VirusTotal. Si le fichier a déjà été analysé, son statut est récupéré et affiché.
En matière de protection des données, Hugging Face précise qu'aucun contenu de fichier brut n'est partagé avec VirusTotal. Les résultats comprennent des métadonnées, comme le nombre de détections, et fournissent du contexte pour les développeurs.
Des menaces à prendre au sérieux
L'adoption croissante de l'IA introduit des risques tels que des charges utiles malveillantes déguisées en fichiers de modèles, des dépendances non sécurisées, l'empoisonnement de données ou encore des objets sérialisés qui exécutent du code dangereux lors du chargement.
VirusTotal développe ses propres outils d'analyse basés sur l'IA, comme Code Insight qui utilise des LLM pour expliquer le comportement du code, sans compter d'autres outils spécialisés.
Pour la chaîne d'approvisionnement de l'IA
Le partenariat entre Hugging Face et VirusTotal répond à un défi de la chaîne d'approvisionnement de l'IA. Des modèles, scripts ou datasets compromis peuvent affecter silencieusement d'innombrables applications en aval.
En connectant l'analyse de VirusTotal au Hub de Hugging Face, les deux entités espèrent étendre leurs recherches sur les menaces ciblant spécifiquement les modèles d'IA.