RecodeX 重构消息，美光正在研发名为“近GPU NAND”的高耐久性NAND闪存模块，计划将其部署在GPU封装内部或PCB上，靠近GPU。该模块在存储密度和耐久性间取折中，虽存储密度低于传统TLC或QLC NAND，但侧重提升I/O速度与带宽。它作为显存和普通存储间的高速缓冲层，可让GPU直接访问数百GB存储池，适合运行大规模AI大语言模型，落地后可打破LLM推理的显存容量限制。
RecodeX 重构消息，美光正在研发名为“近GPU NAND”的高耐久性NAND闪存模块，计划将其部署在GPU封装内部或PCB上，靠近GPU。该模块在存储密度和耐久性间取折中，虽存储密度低于传统TLC或QLC NAND，但侧重提升I/O速度与带宽。它作为显存和普通存储间的高速缓冲层，可让GPU直接访问数百GB存储池，适合运行大规模AI大语言模型，落地后可打破LLM推理的显存容量限制。