英伟达TensorRT推理优化

RecodeX 重构消息，英伟达披露，TensorRT 11.1于2026年6月24日发布，为trtexec工具新增“全局性能调优器”（Global Performance Tuner）选项。该功能在10项工作负载上带来1.14倍至1.63倍的性能提升。

RecodeX 重构消息，英伟达在TensorRT 11.1中引入自动搜索AI推理引擎构建路径的功能，并在23日的技术博客中介绍了全局性能调优器（Global Performance Tuner）的设计与测量结果。该功能会用多组配置分别构建引擎，再比较各引擎的推理性能；若启用精度验证，则从通过允许标准的候选中选择最快的引擎。构建路径即编译器配置值的组合。英伟达公布的10个工作负载对比显示，调优后性能为各工作负载默认路径的1.14至1.63倍，但该结果仅适用于这些工作负载，并不代表所有模型都能获得同等提升。