每个GPU多用16TB NVIDIA再对SSD市场重击：这下真不够用了

1月8日消息，前两天的CES主题演讲中，NVIDIA没有发布消费级产品，传闻中的RTX 50 Super系列还是没影了，发布的主要还是各种AI基础设施产品。

针对当前的推理市场，NVIDIA推出了BlueField-4 DPU平台，这是为了解决AI记忆力的问题，建立了推理上下文内存存储平台。

NVIDIA的做法就是给GPU额外配备超大容量的SSD作为缓存，每颗GPU可以有16TB的上下文空间，通过200Gb/s带宽连接，极大程度解决长文本"显存墙"问题。

这种设计带来了什么？敏锐的网友应该意识到这是对SSD市场的一次重击，因为AI硬件将会再一次消耗大量闪存，GB200的NVL72机柜此前配置的闪存容量大约是830TB，现在每个GPU增加16TB容量后，新增了1152TB的容量需求。

如果结合之前的爆料来看，新增的这些闪存也不是常规产品，而是NVIDIA联合铠侠、SK海力士等公司研发的高性能AI SSD，随机性能达到1亿IOPS级别，差不多是当前的10倍性能，同时延迟将是传统TLC闪存硬盘的1/10-1/20，只有5-10us。

要达到这样的性能，所用的闪存要回到成本最贵的SLC闪存，这意味着同样的产能下，厂商生产出来的闪存数量只有之前的1/3到1/4了。

即便不考虑SLC、TLC闪存类型的容量区别，光是每套NVL72多增加的1152TB容量都够闪存供应链喝一壶的，IDC数据显示2024年全球出货3.55亿个SSD，市场价值410亿美元，而SSD硬盘每GB价格大约是0.1美元，算下来去年出货的SSD容量也就4100亿GB，也是4.1亿TB，而每套NVL72就要多消耗1152TB了。

这么一算，NVIDIA只要出货40多万套NVL72机柜，就足以把一年的SSD容量耗光，这波影响到底有多大，大家可以自己算算。