使用异步调用 cuda() 会导致 SyntaxError

Question

我正在尝试运行这个 PyTorch 代码：

for i, (input, target) in enumerate(train_loader):

    input = input.float().cuda(async=True)
    target = target.cuda(async=True)
    input_var = torch.autograd.Variable(input)
    target_var = torch.autograd.Variable(target)

    output = model(input_var)

但是当我尝试时，我收到了这个错误消息：

input = input.float().cuda(async=True)
                               ^
SyntaxError: invalid syntax
Process finished with exit code 1

我做错了什么？我已经安装了 cuda。

Answer 1

您的代码不起作用，因为：

• async 是 python 中的保留关键字，不能以这种方式使用，这就是为什么你会得到SyntaxError

• cuda() 不再有一个参数async。构造函数如下所示：

cuda(device=None, non_blocking=False) → 张量

• 以前有一个参数async，但它被non_blocking 取代，因为async 成为Python 3.7 中的保留关键字。
  https://github.com/pluskid/fitting-random-labels/pull/5

改用non_blocking:

参数non_blocking 与之前的async 具有相同的效果：

• non_blocking (bool):
  如果True 并且源在固定内存中，则 副本相对于主机将是异步的。否则，该 论据没有效果。默认值：False。
  
  https://pytorch.org/docs/stable/tensors.html#torch.Tensor.cuda

---

作为附加组件：如果您对 async 的实际用途感兴趣，可以查看此处： https://www.python.org/dev/peps/pep-0492/#new-syntax

Answer 2

有一个 async 参数，但现在已弃用，因为 async 在 Python 3.7 中成为保留字。详细信息包含在本期rename .cuda(async=..) parameters 中。您可以使用non_blocking 作为替代。