【测评】飞凌 RK3576 开发板测评|RKNN模型
飞凌 RK3576 开发板这轮测试,我硬是把 MobileNetV2 模型跑通了 FP16 和 INT8 两条路。
环境得卡死:RKNN Toolkit2 2.3.2、Python 3.11,板端运行库也得对上。版本一乱,后面全在排查玄学问题。
转换踩了两个坑:TFLite 在这套 ARM64 环境直接报不支持;换 ONNX 又卡在动态 batch。最后老老实实固定 batch=1,才把两个制品生成出来。
板端没动原厂驱动,原有业务服务也照跑。500 张图全过,CPU 参考输出和转换结果误差只有 1.24e-6。
不过 INT8 量化后,有些图被认错,也有些原本错的反而对了。精度和延迟的详细对比,还得看下一篇。
原文【测评】飞凌 RK3576 开发板测评|RKNN模型转换与上板:从环境核对到首次推理(第8篇)