将 PyTorch 模型 state_dict 保存到 redis 缓存中答案

【问题标题】：Saving a PyTorch models state_dict into redis cache将 PyTorch 模型 state_dict 保存到 redis 缓存中
【发布时间】：2020-10-17 13:36:59
【问题描述】：

我正在构建一个分布式参数/服务器类型架构，并希望通过 Azure 上的表解决方案来传达模型更新。

我很难找到有关将 PyTorch 模型 state_dict 保存到 redis 缓存中的任何有用信息。由于每个实体的大小限制 (64kb)，我已经放弃了 Azure Cosmos 表，并转向 redis，因为模型 state_dict 参数/权重要大得多，即使对于小型模型也是如此。

有没有人对我如何追求这个有任何建议？或者如果这是可能的？

【问题讨论】：

你检查过 RedisAI 吗？
@GuyKorland 我没有意识到 redis 有它可用。我实际上切换到这个并使用 tensorset over name, param.data in model.named_parameters() 来完成工作。

【解决方案1】：

我的解决方案（在@GuyKorland 上面评论之后）是 RedisAI。

我为模型数据实现了键值机制，并以这种方式在 VM 之间进行通信。

for name, param in model.named_parameters():
    redisai_client.tensorset(f'{name}',param.data.numpy().cpu().detach())

【讨论】：