决策边界（Decision boundary ）

决策边界

决策边界的定义

决策边界是由分类模型的参数决定的，对不同类型数据进行划分的分类边界，在二维图上表示如下：

决策边界是由假设函数的参数决定的，例如假设函数
$h_{\theta} = g(\theta_0 + \theta_1x_1 + \theta_2x_2)$hθ​=g(θ0​+θ1​x1​+θ2​x2​)
其中g函数是sigmoid函数，因此，$\theta^Tx$θTx大于等于0时，对应的$h_\theta(x)$hθ​(x)取值大于0.5，预测值对应1。求解此时的$\theta^Tx$θTx，可以得到直线
$x_1 + x_2 >= 3$x1​+x2​>=3
该直线即为当前假设函数的决策边界。
注意：决策边界只与假设函数的参数有关，与训练集数据无关

复杂决策边界

除了上文提到的直线型决策边界，根据假设函数的不同，决策边界也可以有很多种类型，如下图所示：

假设函数中的$\theta^Tx$θTx为二次多项函数

其他的高阶函数产生的不同的决策边界。