如何使用 Pytorch 创建最后一层正确编写的自定义 EfficientNet

Question

我有一个分类问题来预测 8 个类，例如，我在来自 here 的 pytorch 中使用 EfficientNetB3。但是，我对我的自定义类是否正确编写感到困惑。我想我想剥离预训练模型的最后一层以适应 8 个输出，对吗？我做对了吗？因为当我在我的DataLoader 中打印y_preds = model(images) 时，它似乎给了我1536 的预测。这是预期的行为吗？

!pip install geffnet 
import geffnet

class EfficientNet(nn.Module):
    def __init__(self, config):
        super().__init__()
        self.config = config
        self.model = geffnet.create_model(config.effnet, pretrained=True)
        n_features = self.model.classifier.in_features
        # does the name fc matter?
        self.fc = nn.Linear(n_features, config.num_classes)
        self.model.classifier = nn.Identity()
        
    def extract(self, x):
        x = self.model(x)
        return x

    def forward(self, x):
        x = self.extract(x).squeeze(-1).squeeze(-1)
        return x
    
model = EfficientNet(config=config)
if torch.cuda.is_available():
    model.cuda()

打印y_pred的示例代码：

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

for step, (images, labels) in enumerate(sample_loader):
    images = images.to(device)
    labels = labels.to(device)
    batch_size = images.shape[0]        
    y_preds = model(images)
    print('The predictions of the 4 images is as follows\n', y_preds)
    break

Answer 1

你甚至没有在前向传递中使用self.fc。

或者直接介绍为：

def forward(self, x):
    ....
    x = extract(x)...
    x = fc(x)
    return x

或者您可以简单地替换名为分类器的层（这样您就不需要身份层）：

self.model.classifier = nn.Linear(n_features, config.num_classes)

另外，这里config.num_classes 应该是8。