学习率和sklearn线性回归中的迭代次数

问题描述 投票:0回答:1

[我发现scikit-learn中的Linear,Lasso,Ridge都不使用学习率(我们称为alpha)或迭代次数。

我想知道它们是如何在没有学习率的情况下准确实现线性回归的,因为它是梯度下降的核心?

python scikit-learn linear-regression lasso-regression
1个回答
0
投票

这些方法通过最小化目标函数起作用,但是这是线性回归正则回归之间的区别。一方面,线性回归通过最小化实际值和预测值之间的残差平方和来拟合最佳系数,也就是说,它具有最小化和目标函数,如|| y-X || ^ 2 ,其中y是您的实际价值,X是您的实际价值。 有关该过程的更多详细信息,请参见Understanding OLS estimation

另一方面,套索和岭回归

并入了另一个解释该系数的术语,例如,在岭回归中,最小化函数为|| y-X || ^ 2 + alpha * || w || ^ 2,其中alpha是通常称为learning rate,w表示拟合系数,请参见此answer有关正则化如何缩小系数值的更多详细信息。
© www.soinside.com 2019 - 2024. All rights reserved.