La plateforme Character.AI déploie une nouvelle fonctionnalité Stories. Simultanément, elle restreint comme prévu l'accès à ses chatbots IA en conversation ouverte pour tous les utilisateurs de moins de 18 ans.
Ce changement intervient dans un contexte tendu, marqué par plusieurs poursuites en justice et une surveillance accrue des régulateurs concernant l'impact des IA sur les plus jeunes.
Un virage vers un format plus structuré
Le pivot de Character.AI répond directement aux préoccupations grandissantes sur les risques pour la santé mentale des adolescents liés à des chatbots disponibles 24/7. L'entreprise fait en effet face à des actions en justice l'accusant d'avoir joué un rôle dans des drames personnels.
En proposant un format de Stories, Character.AI offre une expérience narrative qui limite les dérives potentielles des conversations totalement libres, que la plateforme juge désormais inadaptées aux mineurs.
La nouvelle fonctionnalité Stories
Avec Stories, l'expérience utilisateur est entièrement repensée pour la sécurité. Il est possible de choisir deux ou trois personnages, sélectionner un genre et définir une prémisse, soit en l'écrivant, soit en la faisant générer par l'IA.
Le récit se déroule ensuite comme une aventure dont vous êtes le héros, avec des choix réguliers qui orientent l'intrigue. La plateforme Character.AI présente cela comme une " manière guidée de créer et d'explorer la fiction ". Chaque partie est rejouable, offrant de nouvelles possibilités à chaque décision.
La voie à suivre avec des IA conversationnelles ?
" J'espère vraiment que notre initiative ouvrira la voie à une norme dans le secteur, démontrant que pour les moins de 18 ans, les discussions ouvertes ne sont probablement pas la solution ou le produit à offrir ", avait déclaré le patron de Character.AI (TechCunch).