怎样用逻辑回归做数据分析？
发布时间：2021-10-26 13:53:55 所属栏目：大数据 来源：互联网
导读：在明确了逻辑回归的原理后，我们来看它的目标函数可以用什么来表示？在之前的线性回归模型中，我们用误差平方和来做其目标函数，意思就是每个数据点预测值与实际值误差的平方和。在此，我们将单一数据点的误差定义为cost函数，即可获得目标函数的通用形式：
|
在明确了逻辑回归的原理后，我们来看它的目标函数可以用什么来表示？在之前的线性回归模型中，我们用误差平方和来做其目标函数，意思就是每个数据点预测值与实际值误差的平方和。在此，我们将单一数据点的误差定义为cost函数，即可获得目标函数的通用形式：
我希望每一个我预测出的数据点结果使得它的误差所带来的代价越小越好，然后求和所得到的目标函数也是越小越好。在具体模型训练的时候，我们在假设可以调整模型的一些参数，通过这些参数我们求得每一点的预测值，最终我们调整模型参数使得目标函数可以取到它能取得的最小值。
但是逻辑回归不可用最小误差平方和作为其目标函数，原因主要是逻辑回归的优化方法需要使用梯度下降法，而使用误差平方和会导致非凸（non-convex）的目标函数，非凸函数会存在多个局部极小值，而多个局部极小值不利于用梯度下降法找到全局的最小损失值。
如何用逻辑回归做数据分析？
那么逻辑回归用什么来表示误差呢？如果y表示样本的真实标签，即0或者1，f(x)表示预测结果是0或者1的概率，f(x)的取值在区间[0,1]。
逻辑回归的cost函数如下，我们如何理解这个公式呢？
当真实标签为正时，即y= 1，Cost函数=-log (f(x)), 预测值越接近于1，说明预测越准确，则损失函数趋于0。
如何用逻辑回归做数据分析？
当真实标签为负时，即y= 0，Cost函数=-log (1-f(x)),预测值越接近于0，说明预测越准确，则损失函数趋于0。
如何用逻辑回归做数据分析？
将逻辑回归的cost函数简化，即得出：
将逻辑回归cost函数带入目标函数通用形式，即可形成逻辑回归最终的目标函数：
（编辑：52站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
