g5.xlarge 上的 Pytorch 版本

Question

我想使用 pytorch 在 AWS 上运行 g5.xlarge。 但是，当我尝试在 python 中使用 cuda 执行某些操作时出现此错误（例如 torch(1., device="cuda")）：

The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_70.
If you want to use the NVIDIA A10G GPU with PyTorch, please check the instructions at https://pytorch.org/get-started/locally/

这是nvidia-smi：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.82.00    Driver Version: 470.82.00    CUDA Version: 11.4     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA A10G         Off  | 00000000:00:1E.0 Off |                    0 |
|  0%   25C    P0    55W / 300W |   1815MiB / 22731MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A     10415      C   /miniconda3/bin/python           1813MiB |
+-----------------------------------------------------------------------------+

有什么想法吗？我应该使用哪个版本的 CUDA/pytorch？

Answer 1

看看这个线程讨论线程pytorch-cuda-arch issue。问题似乎相似。