多元线性回归算法原理(多元线性回归是哪门课程)

导语：西瓜书《机器学习》学习笔记 - 多元线性回归

本学习笔记是针对周志华《机器学习》一书，书中的很多算法公式并没有细致推导，学习难以理解，因此这里注重的是关键算法公式的理论推导，且在深度之眼“西瓜书训练营”学习基础上完成的，供交流学习之用。

多元线性回归即数据集D的样本，由d个属性所描述。将w和b组合成ŵ：

将数据集D表示m×(d+1)的矩阵X，m个实例，d个属性，即，

（1）由最小二乘法导出损失函数Eŵ

（2）对损失函数Eŵ求关于ŵ的一阶偏导数

对ŵ求二阶偏导数，得到的是海塞矩阵（Hessian），

（2）令一阶偏导数等于零以解出ŵ

本文内容由小悦整理编辑！