IT之家8月16日消息,英伟达(NVDA)Vera Rubin平台的量产扩张规模之大,如今已经传导到供应链中看似关联度不高的细分角落,比如TLC NAND现货市场。
但回过头来看,TLC现货价格上涨完全在情理之中,尤其是英伟达(NVDA)为Vera Rubin平台搭载了上下文内存扩展(Context Memory eXtension,简称CMX)技术之后。随着Vera Rubin平台量产提速,CMX占用的NAND颗粒数量持续增加,再加上企业级固态硬盘需求同步攀升,TLC NAND的供应正持续收紧。
512Gb TLC NAND的现货价格在6月跌破21美元(IT之家注:现汇率约合141.9元人民币)后,目前已回升至该价位。此番价格再度走高由多重因素共同推动。
首先,为处理键值缓存(KV cache)——即AI模型注意力层在对输入提示词中的词汇建立语义关联时生成的缓存数据,英伟达(NVDA)在Vera Rubin平台中引入了CMX技术。
CMX在高带宽内存(HBM)与传统后端网络存储之间搭建了一层中间存储架构,本质是一个超大容量的TLC闪存资源池。该资源池通过超高速Spectrum-X以太网接入Rubin GPU集群,由英伟达(NVDA)BlueField-4DPU负责管控:这款DPU相当于CMX服务器的“智能大脑”,可实时处理KV缓存。
事实上,单台2U规格的CMX服务器可搭载600TB TLC闪存,内置的4颗DPU各自管理150TB上下文内存;而一个机柜组(pod)的总容量可达9600TB,也就是9.6PB。
其次,数据中心需要高密度、高性能的企业级固态硬盘(eSSD)来承载AI工作负载。随着Vera Rubin平台量产推进,这类企业级固态的需求也同步上涨。
当然需要说明的是,英伟达(NVDA)当前消耗的TLC NAND大多已通过长期供货合同锁定货源。即便如此,需求规模的激增依然带动现货市场供应收紧,这一涨价趋势会持续多久仍有待观察。
与此同时,美国银行(BAC)近日对“Vera Rubin Ultra版本将减配HBM”的传闻予以辟谣。此前市场一直有传言称,英伟达(NVDA)可能会降低单颗GPU搭载的HBM4E容量,以保障利润空间。但美国银行(BAC)认为,即便出现减配,也只是应对短期供应限制的临时举措,而非推出永久低容量的产品型号。
