逻辑回归(分类)

目录:

1、从线性回归说起
2、sigmod函数
3、推广至多元场景
4、似然函数
5、最大似然估计
6、损失函数
7、梯度下降法求解
8、结尾

逻辑回归用于解决分类问题
实际上,”分类”是应用逻辑回归的 目的&结果 。但是中间过程依旧是”回归”。

1、线性回归(略)

2、sigmod函数

逻辑回归(分类)

; 3、推广至多元场景

逻辑回归(分类)

4、似然函数

逻辑回归(分类)

; 5、最大似然估计

逻辑回归(分类)
逻辑回归(分类)

6、损失函数

逻辑回归(分类)
逻辑回归(分类)

; 7、梯度下降求解

首先了解f ‘ (x) = f(x)*(1-f(x))

逻辑回归(分类)
逻辑回归(分类)
逻辑回归(分类)
逻辑回归(分类)

手推版

逻辑回归(分类)
逻辑回归(分类)
逻辑回归(分类)
逻辑回归(分类)

逻辑回归(分类)

; 面试补充:

1、LR公式以及损失函数的推导:

逻辑回归(分类)
逻辑回归(分类)
为什么用极大似然估计?不用均方损失?
极大似然估计—>损失函数,在反向传播的时候会更好,根据log图像,对分类问题解决的比较好。而均方误差的话,更适合线性回归。
逻辑回归(分类)
使用最小二乘法的话,最小二乘法产生的目标函数不是凸函数,存在多个极值点。
使用极大似然估计,损失函数的二阶导数

Original: https://blog.csdn.net/qq_38147421/article/details/117218664
Author: yanglee0
Title: 逻辑回归(分类)

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/666309/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球