【问题标题】：know how to use a language model in tensorflow Lite?知道如何在 tensorflow Lite 中使用语言模型？
【发布时间】：2021-01-07 02:15:20
【问题描述】：
有人知道如何在 TensorFlow Lite 中使用语言模型吗？我在 TensorFlow 中有一个带有 LSTM 结构的生成语言模型。我已经将其转换为 .tflite 以在 android 上使用。现在我的问题是如何使用它？我的意图是使用该模型来预测句子中的下一个单词。原始模型在 Python 中完美运行，现在我需要的是让它在 Java 或 Kotlin 中运行并进行预测。
【问题讨论】：
标签：
java
android
kotlin
nlp
tensorflow-lite
【解决方案1】：
您可以通过两种方式实现此目的：
- 在 assets 文件夹中添加
.tflite 模型，实现它以构建 Gradle 文件，然后最后导入该模型以在 java/kotlin 中执行需求。如图here
- 通过使用 firebase，firebase 提供了自定义机器学习模型部署选项。
您可以将模型添加到 firebase 并将其用作远程 service。 docs的链接。
如果您的模型尺寸较小并且想要离线运行您的应用，我建议您使用第一种方法。