Pytorch 的 DataLoader 中的采样器参数

Question

在使用 Pytorch 的 DataLoader 实用程序时，在 sampler 中RandomIdentitySampler 的用途是什么？在RandomIdentitySampler 中有一个参数instances。 instances 是否取决于 工人 的数量？如果有 4 个工人，那么也应该有 4 个实例吗？

以下是代码块：

c_dataloaders = DataLoader(Preprocessor(cluster_dataset.train_set,
                                        root=cluster_dataset.images_dir,
                                        transform=train_transformer),
                                        batch_size=args.batch_size_stage2,
                                        num_workers=args.workers,
                                        sampler=RandomIdentitySampler(cluster_dataset.train_set,
                                        args.batch_size_stage2,
                                        args.instances)

Answer 1

此采样器不是 PyTorch 或任何其他官方库（torchvision、torchtext 等）的一部分。无论如何，KaiyangZhou 的torchreid 中有一个RandomIdentitySampler。假设是这种情况：

1. 在使用 Pytorch 的 DataLoader 实用程序时，在 sampler 中RandomIdentitySampler 的用途是什么？

• 正如您在DataLoader documentation 中看到的：采样器“定义了从数据集中抽取样本的策略”。更具体地说，基于RandomIdentitySampler documentation，它“随机采样 N 个身份，每个身份都有 K 个实例”。

1. 在RandomIdentitySampler 中有一个参数instances。 instances 是否取决于工人数量？

• 根据前面的答案，您可以注意到instances 不依赖于工人的数量。它只是设置将从每个批次的数据集中提取的每个身份的实例数。

1. 如果有 4 个工作人员，那么也应该有 4 个实例吗？

• 不一定。唯一的constraint 是实例数不能小于batch size。