Après une phase d'intégration de deux ans au sein de son programme de récompenses existant, durant laquelle plus de 430 000 dollars ont déjà été versés, Google a décidé de créer un bug bounty spécifique pour l'IA.
Cette démarche apporte plus de clarté sur ce qui constitue une faille de sécurité éligible. Le groupe a également écouté les retours des chercheurs qui jugeaient le périmètre des récompenses parfois flou.
Les failles récompensées
Le programme se concentre sur les vulnérabilités à fort impact, qualifiées de Rogue Actions. Il ne s'agit pas de simplement faire halluciner Gemini ou de lui faire générer du contenu inapproprié.
Google recherche des failles de sécurité concrètes, comme une injection de prompt indirecte qui forcerait un Google Home à déverrouiller une porte, ou une exfiltration de données qui résumerait les e-mails d'un utilisateur pour les envoyer à un attaquant.
Les récompenses attendues pour les chercheurs
Les récompenses financières sont structurées en fonction de la criticité de la faille et du produit concerné.
La découverte d'une action malveillante sur un produit phare comme le Search, les applications Gemini ou les applications principales de Workspace (Gmail, Drive) peut rapporter une base de 20 000 dollars. Avec des multiplicateurs pour la qualité du rapport et la nouveauté de la découverte, ce montant peut grimper jusqu'à 30 000 dollars.
En revanche, les bugs trouvés sur des produits comme Jules ou NotebookLM, ou les failles moins critiques comme le vol de paramètres de modèle, sont associés à des primes plus faibles.
Les limites du programme
Google a défini ce qui reste hors du champ d'application de l'AI Vulnerability Reward Program. Les problèmes liés au contenu généré par l'IA, tels que les discours haineux, la désinformation ou la violation de droits d'auteur, doivent être signalés via les outils de feedback intégrés aux produits.
Google estime que ces questions nécessitent " des efforts à long terme et interdisciplinaires " qui ne correspondent pas au format d'une récompense ponctuelle.
Parallèlement à son programme, l'entreprise a également annoncé CodeMender, un agent IA développé par DeepMind capable de corriger de manière proactive le code vulnérable.
