主干在神经网络中意味着什么？答案

【问题标题】：What does backbone mean in a neural network?主干在神经网络中意味着什么？
【发布时间】：2020-05-09 02:38:01
【问题描述】：

我对神经网络中“骨干”的含义感到困惑，尤其是在the DeepLabv3+ paper 中。我做了一些研究，发现骨干可能意味着

网络的特征提取部分

DeepLabv3+ 以Xception 和 ResNet-101 作为其主干。但是DeepLabv3+的整个结构我不熟悉，主干指的是哪一部分，哪些部分保持不变？

对主干的概括性描述或定义也将不胜感激。

【问题讨论】：

我认为这只是arxiv.org/pdf/1703.06870.pdf论文中使用的一个概念。这没什么特别的。只是他们图像的第一块。

标签： deep-learning neural-network deeplab

【解决方案1】：

在我的理解中，“骨干网”是指在 DeepLab 架构中使用的特征提取网络。该特征提取器用于将网络的输入编码为特定的特征表示。 DeepLab 框架围绕这个特征提取器“包装”了一些功能。通过这样做，可以交换特征提取器，并且可以选择模型以在准确性、效率等方面适合手头的任务。

在 DeepLab 的情况下，主干一词可能指的是 ResNet、Xception、MobileNet 等模型。

【讨论】：

【解决方案2】：

TL；DR Backbone 不是深度学习中的通用技术术语。

（免责声明：是的，可能有一种特定的方法、层、工具等被称为“骨干”，但一般不存在“神经网络的骨干”。）

如果作者在描述神经网络架构时使用“骨干”一词，他们的意思是

特征提取（“看到”输入的网络的一部分），但这种解释在该领域并不十分普遍：例如，在我看来，计算机视觉研究人员会使用该术语来表示特征提取，而自然语言处理研究人员不会。
用非正式语言表示，这部分问题对整个方法至关重要。

【讨论】：

journals.sagepub.com/doi/full/10.1177/00368504211011343, arxiv.org/pdf/1904.01169.pdf,
@ladofa 你为什么要添加这些论文的参考文献？
我只是误解了你的帖子，我只添加了参考，没有评论，因为我的英语很差。对不起，忘了吧^^

【解决方案3】：

Backbone 是 DeepLab 模型/论文中用来指代特征提取器网络的术语。这些特征提取器网络从输入图像中计算特征，然后通过 DeepLab 模型的简单解码器模块对这些特征进行上采样，以生成分段掩码。 DeepLab 模型的作者展示了使用不同特征提取器（骨干网）（如 MobileNet、ResNet 和 Xception 网络）的性能。

【讨论】：

【解决方案4】：

CNN 用于提取特征。有几种 CNN 可用，例如 AlexNet、VGGNet 和 ResNet（骨干网）。这些网络主要用于对象分类任务，并在一些广泛使用的基准和数据集（如 ImageNet）上进行了评估。在图像分类或图像识别中，分类器对图像中的单个对象进行分类，每张图像输出一个类别，并给出匹配类别的概率。而在对象检测中，模型必须能够识别单个图像中的多个对象并提供识别对象位置的坐标。这表明物体的检测可能比图像的分类更难。

【讨论】：