Face à une pression croissante concernant la sécurité des enfants, la plateforme Roblox a déployé il y a quelques jours une nouvelle mesure de sécurité : un système de vérification de l'âge basé sur une analyse vidéo du visage. Obligatoire pour accéder aux espaces de discussion, cet outil vise à regrouper les joueurs par tranches d'âge similaires pour empêcher les prédateurs d'entrer en contact avec des mineurs. Sur le papier, l'intention est louable. Dans la pratique, l'exécution est un véritable désastre qui expose potentiellement les enfants à des risques encore plus grands.
Comment cette technologie est-elle censée fonctionner et où sont les failles ?
Le système, développé par un prestataire externe nommé Persona, analyse une courte vidéo du visage de l'utilisateur pour estimer son âge. Les joueurs sont ensuite placés dans des groupes de discussion restreints. Par exemple, les moins de 9 ans ne peuvent échanger qu'avec des joueurs de 13 ans ou moins, tandis que les adultes de 18 ans et plus sont cantonnés entre eux. Cependant, les ratés sont innombrables et documentés massivement sur les réseaux sociaux. La technologie commet des erreurs flagrantes, classant des enfants comme des adultes, parfois même dans la catégorie « 21+ », et inversement, des adultes avec une barbe fournie se retrouvent identifiés comme des adolescents de 13 ans.
Ces dysfonctionnements ne sont pas de simples bugs anecdotiques ; ils brisent complètement la promesse de sécurité. Un enfant incorrectement identifié comme majeur peut se retrouver exposé à des discussions et des contenus totalement inappropriés. À l'inverse, un adulte mal classé se voit privé de l'accès aux conversations avec ses amis de son âge, fragmentant ainsi la communauté et provoquant une frustration généralisée. L'outil, censé être un rempart, est devenu une source de chaos.
Quels sont les risques concrets engendrés par ce système défaillant ?
Au-delà des erreurs de classification, la facilité avec laquelle le système peut être trompé est alarmante. Des joueurs ont démontré qu'il suffisait d'utiliser des photos de célébrités, des avatars générés par IA ou même de se dessiner grossièrement des rides sur le visage pour déjouer l'analyse. Cette situation a rapidement donné naissance à un marché parallèle inquiétant. Le magazine Wired a révélé que des comptes « vérifiés » pour des âges spécifiques, y compris des profils de mineurs, étaient vendus pour quelques dollars sur des plateformes comme eBay. Un prédateur peut ainsi acheter un compte vérifié comme étant mineur pour infiltrer les groupes de discussion d'enfants en toute impunité.
Le contournement de la vérification âge est si simple qu'il rend la mesure non seulement inefficace, mais dangereusement trompeuse. Elle pourrait donner un faux sentiment de sécurité aux parents et compliquer le travail des modérateurs. L'impact sur la plateforme est déjà visible : des développeurs et créateurs de contenu dénoncent une chute brutale de l'activité, certains parlant d'un taux d'utilisation de leurs jeux passé de 85 % à seulement 36 % depuis le déploiement de cette fonctionnalité.
Quelle est la position de Roblox face à cette vague de critiques ?
Consciente des problèmes, l'entreprise a reconnu publiquement des « dysfonctionnements », expliquant notamment que certains soucis provenaient de parents effectuant la vérification à la place de leurs enfants, ce qui fausse les résultats. Roblox promet des ajustements et se défend en soulignant l'ampleur du projet sur une plateforme comptant plus de 150 millions d'utilisateurs quotidiens. L'entreprise affirme que des « dizaines de millions » de comptes ont déjà été vérifiés et que des contrôles supplémentaires pourront être menés en cas de suspicion de fraude.
Matt Kaufman, responsable de la sûreté chez Roblox, a déclaré travailler sur une « technologie constituant la base d'un nouveau standard d'excellence ». Pourtant, cette bonne volonté affichée peine à convaincre. Cette affaire tombe très mal pour la société, récemment qualifiée de « repaire de pédocriminels » par la Haute-commissaire à l'enfance française, Sarah El Haïry. À moins d'une amélioration radicale et immédiate, ce système de vérification défaillant risque de ternir durablement la réputation de Roblox et d'attirer l'attention des régulateurs.