Le spécialiste de la mémoire Micron lance l'échantillonnage de ses nouveaux modules mémoire SOCAMM2, atteignant une capacité record de 192 Go. Basée sur la technologie LPDDR5X, cette nouvelle génération s'apprête à devenir un standard incontournable pour les datacenters dédiés à l'intelligence artificielle, promettant des gains massifs en efficacité énergétique et en performance.

La course à la puissance des modèles d'IA générative a mis en lumière une réalité implacable : les serveurs modernes sont de plus en plus gourmands en mémoire.

Cette demande exponentielle ne concerne pas seulement la capacité, mais aussi la bande passante et, surtout, l'efficacité énergétique. Chaque watt économisé est une victoire à l'échelle d'un datacenter.

C'est dans ce contexte tendu que le format SOCAMM2 émerge comme une solution d'avenir, cherchant à standardiser une approche plus dense et moins énergivore.

SOCAMM2 : vers une norme unifiée et performante

Le Small Outline Compression Attached Memory Module, ou SOCAMM2, est en passe de devenir la version définitive de ce nouveau standard. Le JEDEC, l'organisme de normalisation des semi-conducteurs, a confirmé que la conception est presque finalisée.

Cette nouvelle norme s'appuiera sur la mémoire LPDDR5X, déjà reconnue pour sa faible consommation, mais y ajoutera des profils standardisés et des débits améliorés pouvant atteindre 9600 MT/s.

Nvidia, qui avait déjà exploré une première version de ce format, semble prêt à l'intégrer dans sa future plateforme Rubin (qui succèdera à l'actuelle Blackwell), aux côtés de ses processeurs Vera, signalant une adoption au plus haut niveau.

Micron à la pointe avec des modules de 192 Go

Saisissant la balle au bond, Micron a annoncé avoir commencé à fournir des échantillons de ses propres modules SOCAMM2 à ses clients. L'entreprise frappe fort en présentant les modules de 192 Go comme les plus denses du marché.

Cette capacité phénoménale, 50 % supérieure à la génération précédente dans le même format compact, vise directement les clusters de serveurs IA. Selon Micron, ce gain permet de réduire de plus de 80 % le "temps jusqu'au premier token" (TTFT), une mesure de performance cruciale pour les charges de travail d'inférence en temps réel.

Cette avancée s'accompagne d'une amélioration de plus de 20 % de l'efficacité énergétique par rapport à sa propre LPDDR5X de génération antérieure. Un chiffre qui peut paraître modeste, mais qui devient colossal à l'échelle d'un rack de serveurs complet, où la mémoire principale peut dépasser les 40 téraoctets.

RDIMM sur la touche ? Les avantages concrets du nouveau format

Le format SOCAMM2 se positionne en concurrent direct des traditionnels modules RDIMM qui peuplent actuellement les serveurs. Les avantages sont multiples. En matière d'efficacité énergétique, Micron annonce une consommation réduite de plus des deux tiers par rapport à un équipement RDIMM équivalent.

Le gain de place est tout aussi spectaculaire : un module SOCAMM2 occupe environ un tiers de la surface d'un RDIMM, optimisant ainsi la densité des serveurs.

Ce format modulaire, hérité des technologies développées pour les appareils mobiles mais adapté aux exigences des datacenters, facilite également la maintenance et la conception de systèmes de refroidissement liquide.

En transformant une technologie de basse consommation en une solution de classe entreprise, Micron et ses partenaires préparent le terrain pour une nouvelle génération d'infrastructures IA, plus performantes, plus denses et surtout, plus soutenables. L'échantillonnage en cours suggère que le déploiement à grande échelle n'est plus qu'une question de mois.