L'intelligence artificielle de Google s'apprête à jouer un rôle crucial dans la protection des mineurs sur Internet. Le géant de la technologie a annoncé le déploiement d'un système innovant capable de déterminer l'âge des utilisateurs de ses services, dans le but de créer un environnement en ligne plus sûr pour les jeunes. Cette initiative soulève des questions sur la vie privée et l'efficacité de telles mesures.
Une IA pour deviner l'âge des internautes
Google mise sur un modèle d'apprentissage automatique sophistiqué pour estimer l'âge de ses utilisateurs. Ce système analysera diverses données, telles que les sites visités, les vidéos regardées et l'ancienneté du compte, pour déterminer si un utilisateur est mineur. L'objectif est de pouvoir adapter les contenus et les paramètres de sécurité en conséquence, sans avoir à passer par une vérification d'âge explicite comme c'est actuellement le cas sur la majorité des sites en ligne.
L'intérêt est multiple et vise à une navigation plus fluide sur la toile, avec un fil d'actualité et de contenu plus personnalisé non seulement en fonction des gouts des utilisateurs, mais aussi de leur âge.
Protection renforcée pour les mineurs
Lorsque l'IA identifiera un utilisateur comme potentiellement mineur, plusieurs mesures seront mises en place :
- Notification des changements dans les paramètres et les recommandations de contenus
- Options de vérification d'âge via selfie, carte bancaire ou pièce d'identité
- Restriction des contenus sensibles ou inappropriés
- Activation par défaut d'alertes pour les contenus sensibles dans Google Messages
Ces mesures visent à créer un environnement plus sûr pour les jeunes internautes, en limitant leur exposition à des contenus potentiellement dangereux ou inadaptés.
De nouveaux outils pour les parents
Google renforce également les outils de contrôle parental à disposition des familles :
- Possibilité de limiter les appels et messages sur les appareils des enfants pendant les heures de cours
- Ajout de contacts approuvés via l'application Family Link
- Gestion des cartes de paiement dans Google Wallet pour les enfants
Ces fonctionnalités permettront aux parents d'avoir un meilleur contrôle sur l'utilisation d'Internet et des appareils connectés par leurs enfants.
Enjeux et défis
Sur le papier, l'intention de Google est louable, mais dans la pratique, cette initiative soulève plusieurs questions.
On pense notamment au respect de la vie privée et la façon dont les données utilisées pour estimer l'âge seront exploitées et potentiellement détournées à d'autres fins (publicitaires principalement, ce qui est justement interdit avec les mineurs reconnus).
Autre élément à prendre en compte : la pertinence du modèle d'IA utilisé et sa capacité à effectivement repérer les mineurs, mais également à ne pas prendre des adultes pour des mineurs... Les éléments de calculs restent un peu flou et se basent sur des concepts abstraits qui varient énormément d'un individu à l'autre. On pourrait ainsi voir des mineurs facilement duper l'algorithme ou des adultes considérés comme des mineurs et à l'accès restraint à certains contenus.
Malgré tout, l'utilisation de l'IA pour identifier les mineurs sur Internet pourrait représenter une avancée significative dans la protection des jeunes en ligne, mais actuellement, son efficacité et son impact réel sur la sécurité des enfants restent à démontrer. Il est crucial que Google garantisse a transparence sur ses méthodes et collabore étroitement avec les autorités de protection des données pour garantir le respect des droits de tous les utilisateurs et s'éviter ainsi un nouveau scandale.
