RecodeX 重构消息,AWS宣布在SageMaker推理端点上支持英伟达GPU分区,使单块GPU可被切分为多个独立实例供不同推理工作负载使用。该能力旨在提升GPU资源利用率,让较小规模的模型推理任务无需独占整块GPU。