神经网络的偏置神经元是否等效于线性回归的 y 截距？答案

【问题标题】：Is the bias neuron of a neural network equivalent to a y-intercept of a linear regression?神经网络的偏置神经元是否等效于线性回归的 y 截距？
【发布时间】：2023-03-21 15:52:01
【问题描述】：

以上说法是真的吗？ bias 和 \beta_0 都是独立于输入的权重，因此允许模型添加一些常数值。

【问题讨论】：

考虑这样一种情况，无论有无输出偏置神经元，网络都训练得同样好。在这种情况下，即使偏置神经元输出不为零，答案也是否定的。

标签： neural-network artificial-intelligence regression bias-neuron

【解决方案1】：

首先，线性回归试图估计一个函数，而单个神经元将输入空间分成两个子空间，所以它们本质上是这样做的不同的任务。

话虽如此，神经元中的 \beta_0 和线性回归中的 y 截距都是偏差：无论输出如何，都应用于最终输出的常数（只是为了澄清：它们依赖于输入，因为模型从输入数据中学习它们）。

【讨论】：

感谢您的澄清，这对我来说确实有意义。