Le milliardaire Elon Musk a une fringale de GPU pour alimenter les intelligences artificielles de ses différentes entreprises. Tandis que Tesla renforce ses ressources afin de pouvoir proposer une conduite autonome intégrale dans des robotaxis et dans ses véhicules électriques, la priorité du moment est donnée à sa startup x.AI et son IA Grok.
Engagé dans la course aux performances des IA, il a multiplié les livraisons de GPU à x.AI et contribué à accélérer les déploiements pour construire rapidement un datacenter IA à Memphis.
La mise en place du datacenter Colossus est allée tellement vite que l'approvisionnement électrique n'a pas suivi et qu'il a fallu installer des turbines à gaz, aggravant la pollution ambiante de l'air dans l'agglomération, déjà bien impactée par d'autres causes, alors que l'entreprise ne semble pas avoir obtenu les permis nécessaires.
Multiplier par dix le nombre déjà colossal de GPU
Colossus est déjà équipé de 100 000 GPU pour entraîner l'IA Grok (ce serait le nombre nécessaire pour entraîner la future IA Grok 3) utilisable via le réseau social X mais le projet est de multiplier par dix ce nombre pour atteindre un volume de 1 million de GPU, nécessaires pour l'entraînement des prochaines générations de l'IA.
Pour cette nouvelle étape d'expansion du datacenter IA de Memphis, x.AI fait appel aux accélérateurs IA de Nvidia mais aussi aux serveurs et équipements de Dell et Super Micro, indique Reuters.
La montée en puissance de Colossus vise à répondre aux avancées de la concurrence comme OpenAI (ChatGPT) et Google (Gemini). x.AI a récemment négocié un gros approvisionnement d'électricité de 150 MW avec le fournisseur d'énergie local mais il faudra sans doute encore beaucoup plus d'électricité pour faire tourner le datacenter à plein régime.
Cela va sans doute de nouveau poser des questions sur l'impact environnemental et la distribution de l'électricité dans la région alors que naissent des craintes d'appropriation des ressources pour les besoins des IA au détriment des populations humaines.
L'IA approche d'un point d'inflexion
Ces problématiques poussent les géants du Web à s'intéresser à la production d'électricité d'origine nucléaire, depuis des réacteurs à fission mais aussi à l'aide de futurs réacteurs à fusion, plus efficaces et propres, qui restent à construire.
Les progrès des IA dépendront de la montée en puissance des capacités d'entraînement, de la disponibilité des composants, de l'approvisionnement d'électricité mais aussi de nouvelles techniques permettant d'amplifier les capacités d'interprétation et de raisonnement.
L'état de l'art de l'IA générative est en train d'atteindre un plateau que la hausse du nombre de GPU pour son entraînement ne suffira plus à résoudre, notamment du fait de l'immense consommation de ressources que cela nécessite.
L'objectif plus ou moins avoué des différents acteurs est désormais d'atteindre le cap de l'intelligence artificielle générale (AGI) qui deviendrait supérieur à l'esprit humain dans tous les domaines. Mais son émergence reste terra incognita concernant ses conséquences positives comme négatives sur l'humanité.
