机器学习 -- 线性回归（Ⅱ 最小二乘法）

1. 损失函数/代价函数

定义损失函数J(a, b)

在上述的函数中，a和b是未知数，而不是x和y。

 

（1）对b求偏导：

（2）对a求偏导：

将（1）求得的b代入得：

移动可得a：

对a进行整理：

故最后整理得：