En début d'année, Samsung a dévoilé une mémoire HBM-PIM (High Bandwith Memory - Processing in Memory) avec un composant supplémentaire permettant de gérer directement le traitement des données d'intelligence artificielle.
L'idée est de limiter les allers et retours de ces données entre mémoire et processeur afin de gagner du temps et de limiter la consommation d'énergie. Puisque les données sont déjà présentes en mémoire, autant permettre un traitement sur place, au moins dans certains scénarios.
Dans le cas de la HBM-PIM, le module est doté d'un composant assurant une capacité de traitement de 1,2 TFLOPS.
Ce concept, Samsung entend le décliner désormais sur plusieurs types de mémoire. Durant l'événement Hotchips 33, le groupe coréen a annoncé vouloir adapter sa technologie PIM à des mémoires DDR4, GDDR6 et LPDDR5.
Outre la mémoire HBM2 Aquabolt-XL, on trouvera donc bientôt de la DDR4 AXDIMM et de la LPDDR5-PIM pouvant réaliser directement une partie du traitement IA. Ces mémoires restent compatibles avec les standards du JEDEC et peuvent donc remplacer des composants standards pour obtenir un gain immédiat en performances et en consommation d'énergie mais il y aura bien sûr des avantages à adapter finement plus tard le fonctionnement des serveurs et ordinateurs pour tirer le meilleur parti de ces mémoires.
Si l'intérêt premier de la technologie PIM reste le datacenter, Samsung veut aussi couvrir le domaine des serveurs avec sa mémoire DDR4 AXDIMM en attendant de proposer une solution similaire en DDR5.
Les attentes globales sont d'améliorer les performances des systèmes de 1,8 fois et de réduire la consommation d'énergie pour les tâches IA de 42% environ en installant simplement la mémoire dans son emplacement, sans aucune modification matérielle ou logicielle.
Avec la LPDDR5-PIM, on peut penser que ces avantages pourront aussi s'exprimer dans des appareils tels que des ordinateurs, tablettes ou mêmes smartphones, dans lesquels l'usage de l'intelligence artificielle va croissant (traitement photo, reconnaissance et traduction vocale...)
