移植Tensorflow Lite Micro源码到ArmClang Cortex-M

226 阅读2分钟

1.获取最新tensorflow lite micro仓库

从2021年6月25号后,TFLM(tensorflow lite micro)作为tensorflow的子分支被独立到一个新的仓库地址:tensorflow/tflite-micro: Infrastructure to enable deployment of ML models to low-power resource-constrained embedded targets (including microcontrollers and digital signal processors). (github.com)

因此需要使用以下命令克隆最新的TFLM仓库。

git clone https://github.com/tensorflow/tflite-micro.git

2.生成最小依赖源码树

参考tflite-micro/tensorflow/lite/micro/docs/new_platform_support.md,使用命令

python3 tensorflow/lite/micro/tools/project_generation/create_tflm_tree.py \
  -e hello_world \
  /tmp/tflm-tree

可以生成针对hello_world工程的最小依赖源码树,在这个过程中会去下载第三方源码库,其中pigweed仓库由于采用了google的git源,大概率会下载失败,可以在脚本外手动git clone一下然后丢回源码目录里重新执行create_tflm_tree.py,这边对git bash进行了代理才可以正常克隆pigweed仓库。

1745586205834.png 如果要取消代理,可以用以下指令

 git config --global --unset http.proxy

分析Makefile,对第三方库的下载操作是通过相应的脚本进行的。

image.png 检查pigweed_download.sh

image.png 发现得到pigweed仓库后还进行了checkout、create_git_repo、apply_patch_to_folder等操作,因此把下载到的仓库添加到指定路径后还要手动修改一下检查pigweed_download.sh,使其跳过目录检查和下载执行后续操作。

image.png

如果出现No module named 'numpy'的问题,解决办法:

pip install numpy

如果没有别的问题,将得到生成的最小依赖源码目录。

image.png

如果一些IDE无法识别.cc后缀,可以附加--rename_cc_to_cpp选项将.cc改为.cpp后缀。

image.png

得到的最小依赖源码目录仍缺少两个文件,查看Makefile后进行手动补齐

image.png

3.移植源码到Keil IDE

tflite-micro/tensorflow/lite/micro/cortex_m_generic/README.md 提到要实现移植需要针对所在平台需要完成对debug_log.cc和micro_time.cc的实现。

tflite-micro/tensorflow/lite/micro/tools/make/targets/cortex_m_generic_makefile.inc 提到TARGET_ARCH可支持的所有架构。

可以使用以下指令得到源码清单。

make -f tensorflow/lite/micro/tools/make/Makefile TARGET=cortex_m_generic TARGET_ARCH=cortex-m4 list_library_sources > src_list.txt

依照源码清单对源码结构进行分组,添加到keil项目中,如果不进行分组,keil IDE是无法在同一个组中添加同名源码文件的。

image.png

tflm相关头文件包含路径。

image.png

选择AC6编译器,并取消勾选Micro Lib:

image.png

编译选项:

image.png

堆栈设置

image.png

操作完成后进行编译

image.png

下载并运行程序,在监视器中查看量化模型的估计结果,基本符合预期。

image.png

后续可以将源码与模型分离开,生成.a或者.lib库,方便移植。