使用线性激活函数解决回归任务的神经网络

【问题标题】：Neural Networks for solving regression tasks by using linear activation function使用线性激活函数解决回归任务的神经网络
【发布时间】：2018-02-15 05:09:48
【问题描述】：

通过在神经网络的输出层使用线性激活函数来解决回归任务，我们是否将生成的模型约束为在输入特征中是线性的？

【问题讨论】：

没有。您可以在某些隐藏层中具有非线性激活函数，这使得模型即使输出激活函数是线性的也是非线性的。

标签： neural-network regression

【解决方案1】：

向模型中的任何层添加激活函数都会导致非线性。

因此，仅在输出层添加线性激活函数，而在隐藏层添加其他激活函数（sigmoid、relu 等）会使模型非线性。

【讨论】：