如何将 BERT Huggingface Question Answer Transformer 管道保存为可重用模型

【问题标题】：How to save BERT Huggingface Question Answer transformer pipeline as a reusable model如何将 BERT Huggingface Question Answer Transformer 管道保存为可重用模型
【发布时间】：2021-08-06 01:06:17
【问题描述】：

我编写了一个使用转换器管道协议的问答 BERT 应用程序。我想将此移植到 Raspberry PI 4。有没有办法捕获完整的缓存推理转换器管道模型，对其进行量化、保存并将其转换为 Tensorflow Lite 模型？我希望用户能够针对微调模型提出多个临时问题。

【问题讨论】：

标签： raspberry-pi bert-language-model transformer

【解决方案1】：

您可能需要检查Pickle。

这是封装对象的实用方法，因此您可以保存/导出和导入/加载。

您可以将整个模型/管道保存在一个 pickle 文件中，然后将其加载到您的 Raspberry 中。

【讨论】：

谢谢，我去看看pickle...我想我以前在一个项目上用过一次。