RecodeX 重构消息,NVIDIA推出TensorRT Model Connect(TRTMC)公开预览版,这是一个Apache-2.0项目,可将受支持的Hugging Face或本地检查点通过两条命令直接转换为端到端TensorRT推理,无需中间ONNX导出。构建过程生成带版本号的.bundle工件,通过原生C++任务API运行,推理时无需PyTorch参与运行时。NVIDIA 2026年7月29日的GB300快照覆盖76个模型家族的105个发布配置文件。
NVIDIA发布TensorRT Model Connect公开预览,两命令完成Hugging Face到C++推理
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Marktechpostmarktechpost.com
查看原文 ↗