Production et expédition en série du SK Hynix HBM4 : la bande passante mémoire devient un nouveau goulot d'étranglement dans la concurrence en matière de puissance de calcul

Lorsque les sociétés mondiales d'IA se disputent le nombre de GPU, ce qui bloque réellement l'expansion de la puissance de calcul n'est souvent pas la puce elle-même, mais le « vaisseau sanguin » qui alimente la puce en données : la mémoire à large bande passante. Le 29 juillet, SK Hynix a dévoilé un développement qui a des implications directes pour la chaîne d'approvisionnement des infrastructures d'IA : la nouvelle génération de mémoire à large bande passante HBM4 a été produite en série et expédiée au deuxième trimestre. L'échelle de production sera élargie au second semestre et des échantillons de la version améliorée HBM4E ont été livrés aux clients.

Pourquoi HBM est si critique

HBM (High Bandwidth Memory) est l’élément clé de la formation et du raisonnement sur de grands modèles d’IA. Sa capacité et sa bande passante déterminent directement la limite supérieure des performances des puces IA et des clusters informatiques. L'essence de la formation de grands modèles est la lecture et l'écriture répétées de paramètres massifs - quelle que soit la vitesse de calcul du GPU, si la mémoire ne peut pas suivre la vitesse d'alimentation des données, la puissance de calcul sera inactive. C’est pourquoi la sortie de chaque génération du GPU phare de Nvidia s’accompagne presque toujours d’une mise à niveau simultanée des spécifications HBM.

La production en série du HBM4 signifie que la technologie de mémoire à large bande passante est officiellement entrée dans une nouvelle génération. Pour les fabricants de puces IA en aval tels que Nvidia, cela apporte une bande passante plus élevée et une prise en charge de mémoire de plus grande capacité, ce qui devrait atténuer le goulot d'étranglement de plus en plus aigu de la mémoire dans la formation de grands modèles.

Reconsolidation du droit de parole dans la supply chain

D'un point de vue industriel, SK Hynix a conservé une avance à long terme sur le marché des HBM. Les progrès de la production de masse du HBM4 et la livraison d’échantillons du HBM4E ont encore consolidé sa voix dans la chaîne d’approvisionnement de mémoire IA haut de gamme. Dans la structure des coûts de la puissance de calcul de l'IA, le rythme de mise à niveau de la mémoire et des liaisons de stockage détermine directement le coût et la vitesse des expéditions de puces d'IA et du déploiement de la puissance de calcul - la « course aux armements » des fabricants de puces est largement motivée par le rythme de la capacité de production des fabricants de mémoire en amont.

Pour l'écosystème national de l'IA, cet incident a également une valeur de référence : outre le processus de fabrication et l'architecture des puces informatiques nationales, la stabilité de l'approvisionnement en mémoire à large bande passante est également un problème incontournable. Le calendrier de production de masse du HBM4E, les progrès d’adaptation des clients et la feuille de route technique du HBM de nouvelle génération sont des fenêtres à long terme pour observer l’orientation de la concurrence dans l’infrastructure d’IA.

Plusieurs orientations à suivre dans le futur :

1. Calendrier de production de masse HBM4E : La distance entre la livraison de l'échantillon et la production de masse à grande échelle détermine les spécifications de la mémoire graphique de la puce IA de nouvelle génération.
2. Progrès d'adaptation de NVIDIA et d'autres clients en aval : L'entrée de HBM4 dans la chaîne d'approvisionnement phare des GPU est la clé de son succès.
3. Tendance des prix HBM : les changements dans les relations entre l'offre et la demande seront directement transmis au coût unitaire de la puissance de calcul de l'IA.
4. Rattraper la mémoire nationale à large bande passante : Le rythme des percées dans la chaîne d'approvisionnement nationale dans la liaison HBM affecte la limite supérieure de la puissance de calcul indépendante.