Logistic回归模型(Logistic regression model )

kexue

线性回归模型：与输出连续数值的线性回归不同，logistic回归使用logistic sigmoid函数将输出转换为返回一个概率值，该概率值可以映射到两个或更多的离散类。比如线性回归可以预测一个学生的考试成绩具体是多少分，而Logistic回归则是预测这个学生会不会通过考试，并且还会输出相应的概率值[1]。

                           

假设现在我们的y值只有0或1两个，我们可以用线性回归模型来拟合，给定一个点，我们有



                                                   
Logistic回归与线性回归的比较
Logistic回归模型比线性回归更加robust，因为受到L2损失函数（最小二乘法，会将预测的误差平方，因此为了最小化损失函数，线性回归会倾向于去拟合那些离群点。）的影响，线性回归会容易受到outliers离群点的干扰，但这些干扰本不应该被当作问题，因为不管它离得有多远，目标值只有0或1。而Logistic回归则不会受到这样的干扰。比如下图[2]，


参考资料
[1] https://ml-cheatsheet.readthedoc ... ic_regression.html#
[2] https://jiamingmao.github.io/data-analysis/Lectures/ （见Classification and Discrete Choice Models这一章的课件）