Supermicro联合IBM与英伟达推出KV缓存方案，提升AI推理性能

RecodeX 重构消息，Supermicro联合IBM和英伟达推出一套KV缓存（key-value-cache）解决方案，整合了Supermicro Petascale存储服务器、IBM Storage Scale软件、英伟达Dynamo推理软件以及英伟达Spectrum-X以太网交换机。性能测试显示，该方案可缩短首个token生成时间（Time-to-First-Token）。