我们有以下的方法来建立一个线性回归模型。 1.普通最小二乘2.线性代数3.梯度下降
如何将这些模式之间进行选择。任何人都可以请澄清这些的利弊？
我的理解是，线性代数是用来实现普通最小二乘法（OLS），使得您的问题（1）和（2）实际上是相同的事情。 OLS只能用于曲线拟合方程是在系数的线性和不能直接用于非线性方程。梯度下降是的方式曲线拟合非线性方程之一，但需要良好的起动参数，从此处开始在错误的空间下降。
我邀请这个名单上较有经验的统计人员我的小总结发表评论。