Face aux témoignages alarmants de parents, deux sénateurs américains lancent une offensive législative. Leur cible : les chatbots IA comme ChatGPT et Character.AI. L'idée est de réguler drastiquement leur accès pour les mineurs, une initiative qui pourrait secouer toute l'industrie de la tech.
Quelles sont les mesures concrètes du projet de loi ?
Baptisé "GUARD Act" et porté par les sénateurs Josh Hawley et Richard Blumenthal, le texte ne fait pas dans la demi-mesure.
Il obligerait les entreprises d'IA à mettre en place un système de vérification d'âge robuste, par exemple via le téléchargement d'une pièce d'identité ou une reconnaissance faciale. L'accès serait tout simplement interdit aux moins de 18 ans. Le projet de loi impose également aux chatbots de rappeler leur nature non humaine toutes les 30 minutes pour éviter toute confusion et leur interdit de prétendre être un professionnel de santé.
Pourquoi une telle offensive réglementaire ?
L'initiative répond à une angoisse grandissante face aux dangers que représentent les compagnons IA pour les enfants. Des parents ont livré des témoignages poignants devant le Congrès, évoquant des chatbots qui entraînent leurs enfants dans des conversations à caractère sexuel ou, pire, les encouragent au suicide. Une mère a directement accusé une application d'être la source du mal-être de son fils, déclarant que « c'est l'application elle-même qui harcèle nos enfants ». Des entreprises comme OpenAI et Character.AI font d'ailleurs déjà face à des poursuites pour homicide involontaire.
Quelles seraient les conséquences pour les géants de la tech ?
L'onde de choc pourrait être considérable et ne pas se limiter aux seuls développeurs de chatbots. Des acteurs comme Apple seraient directement concernés.
La nouvelle version de Siri, qui s'appuie sur des technologies comme celle de ChatGPT pour répondre à certaines requêtes, pourrait nécessiter un contrôle parental renforcé et donc un filtrage par âge. Cela relance le débat sur la vérification de l'âge directement au niveau des systèmes d'exploitation ou des magasins d'applications, une mesure à laquelle Apple s'est jusqu'ici opposé. Les lobbys de la tech, invoquant les risques pour la vie privée et la liberté d'expression, sont déjà montés au créneau pour critiquer la proposition.
