Lors du dévoilement officiel du grand modèle de langage GPT-4 (Generative Pre-trained Transformer 4) devenu multimodal, OpenAI avait souligné qu'il n'apprend pas de son expérience et qu'il lui manque généralement la connaissance d'événements ultérieurs à septembre 2021.
Cette date butoir de septembre 2021 est en rapport avec la coupure de la grande majorité des données de pré-entraînement. Toutefois, les données de pré-entraînement et de post-entraînement contiennent également une petite quantité de données plus récentes qui n'a pas été précisée.
Reste que l'agent conversationnel ChatGPT (Chat Generative Pre-trained Transformer), qui s'appuie sur une version optimisée de GPT-3.5 ou GPT-4, a obstinément répondu que ses connaissances sont basées sur des informations disponibles jusqu'à la date de septembre 2021. Ce n'est plus le cas désormais.
Pas avec GPT-3.5 pour le moment
En interrogeant directement ChatGPT, plusieurs utilisateurs ont signalé une évolution pour la date de coupure des données d'entraînement. ChatGPT répond maintenant que ses connaissances vont jusqu'en janvier 2022.
Ce gain supposé de quatre mois ne relève pas d'une hallucination de l'IA. ChatGPT a eu des réponses correctes sur des faits de fin 2021, comme des décès de personnalités, ce qui n'était pas le cas auparavant.
Aucune annonce particulière sur le sujet n'a eu lieu du côté d'OpenAI, ce qui est assez curieux. Il n'est pas clair si l'évolution est simplement en lien avec la fameuse petite quantité de données plus récentes déjà ingérées.
Quoi qu'il en soit, ce changement n'est pas d'actualité pour ChatGPT gratuit avec GPT-3.5 qui ignore toujours l'après-septembre 2021, sauf à faire des projections et extrapolations.