123、K210的神经网络加速器KPU详解

K210的神经网络加速器KPU详解：从一次模型部署翻车现场说起

去年做的一个边缘视觉项目，在K210上跑MobileNetV1，模型量化后死活跑不出正确结果。调试了三天，最后发现是KPU的输入数据对齐方式没搞对——那个坑让我把KPU的文档翻了三遍，也让我彻底搞懂了这块加速器的脾气。今天就把这些用真金白银换来的经验写出来。

KPU到底是个什么结构

KPU全称Kendryte Processing Unit，是嘉楠科技给K210专门设计的神经网络加速器。别被“神经网络加速器”这个高大上的名字唬住，本质上它就是一个专门做卷积运算的硬核状态机。和CPU、GPU那种通用计算单元不同，KPU的指令集是固定的，能跑的算子就那么几种：卷积、池化、全连接、激活函数。你写不了if-else，也做不了循环跳转。

KPU内部有三个关键模块：卷积计算阵列（16个MAC单元并行）、激活函数查找表（LUT）、池化单元。数据流是固定的：输入特征图→卷积计算→激活→池化→输出特征图。每一步都是硬件流水线，中间不需要CPU干预。这也是为什么KPU跑一次推理只要几十毫秒，而用CPU软算要几百毫秒。

那个让我翻车的输入对齐问题

KPU的输入数据要求16字节对齐。注意，不是地址对齐，是数据量对齐。比如你输入一张224x224的RGB图，像素总数是2242243=150528字节。150528除以16等于9408，刚好整除？别高兴太早，KPU要求的是每个通道的宽度必须是16的倍数。224不是16的倍数，224%16=0？等等，224/16=14