Conferentie GMIF 2026 bespreekt de impact van de geheugenmuur op kunstmatige intelligentie
2 oktober 2026 · 2 min leestijd
Ook gepubliceerd in Deutsch
Tijdens de conferentie GMIF 2026 in Shenzhen zijn de uitdagingen rondom geheugensystemen en kunstmatige intelligentie besproken. De bijeenkomst werd georganiseerd door de Shenzhen Memory Industry Association in samenwerking met de School of Integrated Circuits van de Peking University.
Daniel Yen, uitvoerend directeur bij Morgan Stanley, introduceerde het concept van de geheugenmuur. Hij definieerde dit als een onbalans tussen de groei van rekenkracht en de bandbreedte van het geheugen. Als voorbeeld noemde hij de Nvidia B200, waarbij de grafische processor gegevens 20.000 keer sneller verwerkt dan het HBM3 of HBM4 geheugen deze kan leveren.
De economische risico's van deze geheugenmuur zijn aanzienlijk. Volgens voorspellingen zullen de kapitaaluitgaven van wereldwijde cloudaanbieders in 2027 oplopen tot 1,2 biljoen dollar. Het aandeel van geheugen in deze uitgaven bedraagt momenteel ongeveer 48 procent en zou in 2027 kunnen stijgen naar 53 procent. Daarnaast vormt geheugen een grote kostenpost voor hardware: het beslaat 73 procent van de kosten van een processor server, 41 procent van een laptop en 39 procent van een smartphone.
Er is sprake van een structureel tekort aan geheugen. De vraag naar DRAM overstijgt het aanbod met 15 procent en het tekort aan NAND is ongeveer 10 procent. Voor HBM wordt de vraag in 2027 geschat op 44 miljard dollar. De productie van HBM is afhankelijk van de CoWoS 2.5D verpakking van TSMC, maar de capaciteit daarvan is onvoldoende, ondanks plannen om deze tegen 2028 te verdubbelen.
Kevin Yoon van Samsung benadrukte aanvullende risico's, zoals de groei van de KV Cache. Door langere contexten, meer redeneerstappen en de werkcycli van agenten wordt de KV Cache een kritiek onderdeel. Samsung ziet de geheugenmuur als drie verbonden beperkingen: een bandbreedte die achterblijft bij de rekenkracht, een energieverbruik dat fysieke limieten nadert en de economische onhaalbaarheid van het opschalen van HBM en DRAM oplossingen.