TensorFlow lite 可以使用自定义 CPU 构建吗？

Question

我正在寻找 TF Lite Android 应用程序

可以在 GIT 上找到：https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/lite/java/demo

如何编译 tensorflow lite 框架以使用优化的“原子”cpu 类型？

是否可以在具有“atom”cpu 的 CPU 优化的 MAC 操作系统上编译它？

我想在带有“Intel Atom”处理器的 Android 设备 (SDK 22) 上运行该应用程序。 当我通过 Android Studio 运行应用程序而不进行任何更改时，速率约为 每帧 1200 毫秒。 与安装在我的 Galaxy S9（arm - snapdragon 处理器）上的相同 APK 相比，大约 每帧 30 毫秒。

在“build.gradle”中有这个部分：

dependencies {
...    
compile 'org.tensorflow:tensorflow-lite:0.0.0-nightly'

...
}

看来是在下载框架，

如何通过 CPU 优化在本地编译它并设置应用程序使用它而不是下载未优化的夜间版本？

我尝试使用 cpu 标志运行本教程： Installing TensorFlow from Sources，但不确定它究竟如何帮助我处理 Android 场景..

Answer 1

假设您的 Atom 设备是 x86，请使用 --fat_apk_cpu 标志指定 x86 ABI：

$ bazel build -c opt --cxxopt='--std=c++11' \ 
    --fat_apk_cpu=x86 \
    //tensorflow/contrib/lite/java/demo/app/src/main:TfLiteCameraDemo 

如果您正在为 64 位设备构建，请将 x86 切换为 x86_64。

在bazel-bin/tensorflow/contrib/lite/java/demo/app/src/main/TfLiteCameraDemo.apk 上提供的已构建APK 将包含x86 .so 文件：

$ zipinfo bazel-bin/tensorflow/contrib/lite/java/demo/app/src/main/TfLiteCameraDemo.apk | grep lib
-rw----     2.0 fat  1434712 b- defN 80-Jan-01 00:00 lib/x86/libtensorflowlite_jni.so 

如果您的设备已连接，您可以使用bazel mobile-install而不是bazel build直接安装应用程序：

$ bazel mobile-install -c opt --cxxopt='--std=c++11' \ 
  --fat_apk_cpu=x86 \ 
  --start_app \
  //tensorflow/contrib/lite/java/demo/app/src/main:TfLiteCameraDemo