181、YOLOv8改进实战：ONNX导出与图优化（常量折叠、算子融合），消除冗余计算节点

181、YOLOv8改进实战：ONNX导出与图优化（常量折叠、算子融合），消除冗余计算节点

今天要聊的这个话题，是我在部署YOLOv8到TensorRT时被狠狠教育了一课。当时模型在GPU上跑得挺欢，一上边缘设备直接卡成PPT，排查了一整天，最后发现是ONNX导出的图里塞满了冗余节点——Reshape、Transpose、Cast这些操作像牛皮癣一样粘在计算图上，每个节点都在消耗显存带宽。

从一次部署翻车说起

事情是这样的：客户要求把YOLOv8n部署到Jetson Orin上，要求30fps。我信心满满地导出ONNX，用TensorRT一跑，好家伙，只有12fps。用Nsight分析发现，模型推理时间有将近40%花在了各种形状变换和数据类型转换上。更离谱的是，ONNX图里居然有几十个Gather节点，每个都在做同样的索引操作——这明显是PyTorch动态图导出时留下的冗余。

当时我就在想，YOLOv8的导出流程肯定有优化空间。后来花了三天时间，把整个导出流程重写了一遍，从常量折叠到算子融合，再到冗余节点消除，最终把推理延迟从83ms压到了28ms。今天就把这些血泪经验写下来。

ONNX导出的默认姿势有多坑

先看看大多数人怎么导出YOLOv8的：

importtorchfromultralytics