logit 函数的输出作为神经网络的附加输入答案

【问题标题】：Output of the logit function as addtional input to a Neural Networklogit 函数的输出作为神经网络的附加输入
【发布时间】：2017-08-09 23:26:21
【问题描述】：

这是二元分类问题中人工神经网络和逻辑回归的混合体。例如，在我遇到的一篇论文中，他们指出“混合模型类型是通过使用逻辑回归模型来计算故障概率，然后将该值作为附加输入变量添加到 ANN 中来构建的。这种类型的模型被定义为 Plogit-ANN 模型”。

因此，对于 n 个输入变量，我试图了解激活函数（例如 logit 函数）如何处理对 ANN 的附加输入 n+1 以及权重与输入相乘的总和。我们是否将这个概率变量 n+1 视为独立权重之一，就像我们添加权重总和乘以输入的特殊类型的 b0 一样，例如每个神经元的求和 = (Sum (Wi*Xi))+附加变量。

感谢您的帮助。

【问题讨论】：

标签： machine-learning logistic-regression heuristics

【解决方案1】：

根据提供的描述，最简单的方法是将其视为数据的附加功能。因此，您有一个模型可以预测有关原始数据集的某些信息（某些附加事物的概率），因此您得到 x -> f(x)。您只需将其连接到您的特征向量 x' = [x1 x2 ... xk f(x)]，然后将其推送到网络中。

但是所描述的方法非常幼稚，因为您完全独立地做这两件事（训练 f 和训练神经网络），可能更有益的是将拟合 f 视为辅助损失并联合训练您的模型.

【讨论】：

感谢您的回复。您已经澄清了我对 f(x) 作为输入的相关性的困惑。请您进一步解释这一点“将拟合 f 视为辅助损失并共同训练您的模型。”。我没有听懂你的意思。