岭回归（脊回归）的基本思想与主要原理

岭回归（脊回归）的基本思想与主要原理

岭回归：又称脊回归，由于模型的解与正则化参数λ之间的图像类似于山脊，因此得名。

岭回归作为修正变量完全共线性的方法，其思路为：

既然线性模型在解释变量完全共线的时候估计值会不稳定，那么岭回归在最小二乘估计里加个k值，改变它的估计值，使估计结果变稳定。

至于k值的确定，可以先选很多个k值，然后作出岭迹图，看看这个图在k取哪个值的时候较为稳定，选取该k值即可。