Face aux inquiétudes grandissantes et à des événements tragiques, OpenAI a décidé de créer une version de ChatGPT spécifiquement adaptée et restreinte pour les utilisateurs de moins de 18 ans.
L'IA ne répondra pas de la même manière à un adolescent qu'à un adulte. OpenAI met désormais la sécurité des adolescents au-dessus de certains principes de vie privée.
Un système de détection d'âge pour séparer les utilisateurs
La première pierre de cet édifice sécuritaire est un système de prédiction de l'âge. L'idée est d'analyser la façon dont une personne utilise ChatGPT pour estimer si elle est mineure. Dans le doute, l'IA appliquera par défaut l'expérience la plus protectrice, celle destinée aux moins de 18 ans.
Sam Altman, le patron d'OpenAI, va même plus loin. Il évoque la possibilité de demander une pièce d'identité dans certains cas ou dans certains pays. « Nous savons qu'il s'agit d'un compromis en matière de vie privée pour les adultes, mais nous pensons que c'est un compromis qui en vaut la peine. »
Un contrôle parental renforcé et des limites strictes
D'ici la fin du mois, les parents se verront dotés d'un véritable tableau de bord. Des mesures déjà mentionnées avec la possibilité de lier un compte à celui de l'adolescent (dès 13 ans), la gestion de fonctionnalités comme la mémoire de l'IA ou l'historique des discussions, l'instauration de plages horaires durant lesquelles ChatGPT sera inaccessible.
Le point le plus sensible reste la notification envoyée aux parents si le système détecte une situation de « détresse aiguë » chez leur enfant. En cas d'urgence et d'impossibilité de joindre un parent, les forces de l'ordre pourraient même être contactées.
La sécurité, une priorité absolue face au drame
Cette évolution fait suite à une audition au Sénat américain, marquée par le témoignage d'un père qui accuse ChatGPT d'avoir passé des mois à coacher son fils pour son suicide.
Une accusation grave qui est appuyée par des chiffres chocs. Le mot « suicide » serait apparu 1 275 fois dans les conversations de l'adolescent avec le chatbot IA.
En réponse, OpenAI assure que la version pour ados de ChatGPT refusera désormais toute discussion sur le suicide ou l'automutilation, même dans un contexte de création littéraire par exemple.
