OpenAI va assouplir ses règles en matière de contenus. Le patron Sam Altman a annoncé que ChatGPT autorisera la création de contenu érotique pour les adultes vérifiés à partir de décembre prochain.
Cette décision marque une évolution notable, après l'adoption d'une approche très restrictive pour des raisons de sécurité, notamment liées à la santé mentale des utilisateurs. OpenAI estime désormais disposer des outils nécessaires pour offrir plus de liberté aux adultes de manière responsable.
Pourquoi OpenAI change-t-il sa politique maintenant ?
Le changement de cap est le résultat d'un long travail visant à atténuer les risques. Sam Altman explique qu'OpenAI avait initialement rendu ChatGPT " assez restrictif pour s'assurer d'être prudent avec les problèmes de santé mentale ".
Une telle prudence faisait suite à des incidents graves, comme un procès en août où des parents accusaient le chatbot IA d'avoir encouragé le suicide de leur fils de 16 ans.
OpenAI affirme avoir depuis développé de nouveaux outils pour mieux détecter la détresse psychologique, lui permettant " d'assouplir en toute sécurité les restrictions dans la plupart des cas ". Le déploiement complet d'un système de vérification de l'âge est la clé de voûte.
Avec le système de vérification d'âge
Le nouveau système, désigné sous le nom de " age-gating ", doit détecter automatiquement l'âge des utilisateurs connectés. L'objectif est de bloquer l'accès aux sujets matures pour les adolescents, tout en ouvrant la voie à des expériences plus libres pour les adultes.
Selon Sam Altman, cette mesure s'inscrit dans le principe de " traiter les adultes comme des adultes ". Une fois le système de vérification d'âge pleinement opérationnel en décembre, non seulement la génération de contenu érotique sera possible, mais les développeurs pourront également créer des applications matures pour l'écosystème ChatGPT.
Dans un échange sur X, Sam Altman précise que la fonctionnalité sera optionnelle. " Vous ne l'obtiendrez pas à moins de le demander. "
Une version de ChatGPT plus chaleureuse
Avant l'ouverture au contenu pour adultes, OpenAI prévoit de lancer dans quelques semaines une nouvelle version de ChatGPT qui réintroduira plus de personnalité. Une réponse aux critiques d'utilisateurs qui trouvaient le modèle GPT-5 moins agréable et plus froid que son prédécesseur, GPT-4o.
Les utilisateurs pourront choisir si ChatGPT doit répondre " d'une manière très humaine, utiliser une tonne d'emojis, ou agir comme un ami ".