OpenAI décide de ne plus se fier uniquement à l'âge déclaré lors de l'inscription. L'entreprise met en place une nouvelle couche de protection proactive pour appliquer des protections adéquates aux mineurs, tout en permettant aux adultes d'utiliser ChatGPT sans restrictions inutiles.
Comment fonctionne la prédiction d'âge ?
Le système repose sur un modèle de prédiction qui analyse une combinaison de signaux pour estimer si un utilisateur a probablement moins de 18 ans.
Le modèle examine des " signaux comportementaux et au niveau du compte ", tels que la durée d'existence du compte, les heures d'activité typiques et les schémas d'utilisation au fil du temps. L'âge déclaré par l'utilisateur est également pris en considération comme l'un des multiples facteurs.
En raison de la marge d'erreur inhérente à tout système automatisé, OpenAI a prévu une approche prudente. Lorsque le système n'est pas certain de l'âge d'un utilisateur ou que les informations sont incomplètes, il opte par défaut pour une " expérience plus sûre ", c'est-à-dire celle conçue pour les adolescents.
Cette approche adaptative est conçue pour s'améliorer continuellement à mesure que le modèle apprend des signaux qui augmentent sa précision.
Les conséquences pour un utilisateur identifié en tant que mineur
Lorsqu'un compte est identifié comme appartenant à un mineur, ChatGPT active automatiquement des protections supplémentaires.
Celles-ci sont conçues pour limiter l'exposition à des contenus sensibles, notamment la violence graphique, les défis viraux dangereux, les jeux de rôle à caractère sexuel ou violent, les contenus promouvant des standards de beauté extrêmes et des régimes alimentaires malsains.
Si un utilisateur majeur est classé de manière incorrecte, il dispose d'un moyen de recours. Il peut confirmer son âge via Persona, un service tiers de vérification d'identité utilisé par d'autres plateformes comme Roblox.
Le processus implique généralement la prise d'un selfie en direct et, selon le pays, le téléchargement d'une pièce d'identité officielle. OpenAI assure ne recevoir que la confirmation de l'âge et non les documents ou la photo eux-mêmes.
Pourquoi OpenAI met-il en place ce système ?
Ce déploiement intervient dans un climat de pression réglementaire et juridique. Aux États-Unis, la FTC enquête sur l'impact potentiel des chatbots IA sur les enfants, et OpenAI fait face à plusieurs poursuites en justice, y compris pour le suicide d'un adolescent ayant utilisé ChatGPT.
OpenAI renforce donc ses dispositifs de sécurité pour répondre à ces préoccupations et anticiper les futures régulations, notamment en Europe où le système sera déployé dans les semaines à venir.
Le système mis en place prépare en outre le terrain au lancement du mode adulte de ChatGPT attendu pour le début de cette année.
