Le monde de l'IA avance vite et les modèles qui les animent aussi. OpenAI a rapidement fait évoluer ses deux dernières années son modèle GPT-3.x pour son robot conversationnel ChatGPT vers une évolution GPT-4 plus performante et qui s'est encore raffinée à l'occasion du lancement de sous-versions.
La dernière en date est GPT-4o (o pour omni), puissante et capable de répondre à des requêtes très diverses en texte, à la voix et en images. Cette version continue de mettre la pression sur la concurrence et d'imposer une direction.
GPT-5, une longue attente
Mais les yeux sont déjà tournés vers GPT-5, la prochaine évolution du LLM qui amènera la capacité d'interprétation de l'IA et sa compréhension du contexte à un tout autre niveau.
Sam Altman, patron d'OpenAI, a déjà évoqué cette transition mais plutôt pour modérer les attentes. Son développement et son entraînement prennent du temps et la firme ne veut pas aller trop vite, même si l'industrie IA reste actuellement en grande partie une course de vitesse.
L'événement DevDay du mois d'octobre pouvait être vu comme un point d'ancrage pour une première annonce autour de GPT-5 mais le site TechCrunch indique déjà qu'il n'en sera rien et qu'elle sera surtout technique et tournée vers les API et les services développeurs. Pour autant, on pourrait y découvrir des indices sur les directions prises pour la prochaine génération d'IA générative de la firme.
Un développement IA de plus en plus contraint
Et si OpenAi prend son temps et préfère peaufiner son modèle d'IA actuel, c'est peut-être aussi pour une question de disponibilité des jeux de données de qualité pour entraîner les IA.
La récupération libre des données disponibles sur Internet devient plus compliquée à mesure qu'une résistance des ayants droit émerge, remettant en lumière les notions d'emprunt et de fair use et obligeant dans certains cas à négocier de coûteux droits d'accès, tandis que de nombreux sites ont pris des mesures pour empêcher les robots dits web crawlers d'accéder à leur contenu.
Selon les estimations, les modèles d'IA pourraient se retrouver à court de jeux de données de qualité entre 2026 et 2032 pour entraîner les modèles, ce qui risque de limiter les capacités des futures générations d'IA.
D'autres améliorations restent possibles comme le renforcement des capacités de raisonnement des IA pour fournir des réponses plus pertinentes et ciblées. C'est d'ailleurs l'un des axes de développement chez OpenAI.
Faire émerger des intelligences artificielles plus puissantes est aussi une question d'infrastructures et de coûts. Or, la rumeur veut qu'OpenAI soit déficitaire de plusieurs milliards de dollars pour ses coûts de fonctionnement et d'embauche des meilleurs spécialistes IA.
Le ralentissement forcé des lancements de nouveaux modèles pourrait donner plus de temps à consacrer à la sécurité des IA. OpenAI a été régulièrement critiquée pour en faire le parent pauvre de ses travaux ces derniers trimestres et ce pourrait être l'occasion de tenter de renforcer cet aspect.