机器学习1-(多元)线性回归的基本概念

目录

一、线性回归的基本概念:

二、简单线性回归:

三、最优解:

四、多元线性回归:

一、线性回归的基本概念:

线性回归是机器学习中 有监督机器学习下的一种算法。 回归问题主要关注的是 因变量(需要预测的值,可以是一个也可以是多个)和一个或多个数值型的 自变量(预测变量)之间的关系。

需要预测的值:即目标变量,target,y, 连续值预测变量。

影响目标变量的因素:X_1…X_n,可以是连续值也可以是离散值。

因变量和自变量之间的关系:即 模型,model,是我们要求解的。

二、简单线性回归:

算法说白了就是公式,简单线性回归属于一个算法,它所对应的公式。

y = wx + b

这个公式中,y 是 目标变量即未来要预测的值,x 是影响 y 的因素,w,b 是公式上的参数即要求的模型。其实 b 就是咱们的 截距,w 就是斜率嘛! 所以很明显如果模型求出来了,未来影响 y 值的未知数就是一个 x 值,也可以说影响 y 值 的因素只有一个,所以这是就叫 简单线性回归的原因。

同时可以发现从 x 到 y 的计算,x 只是一次方,所以这是算法叫 线性回归的原因。 其实,大家上小学时就已经会解这种一元一次方程了。为什么那个时候不叫人工智能算法呢?因为我们在以前的学习中更多强调的是该方程的解,这个解有可能唯一有可能不唯一,而人工智能算法要求的是最优解!

三、最优解:

Actual value: 真实值,一般使用 y 表示。

Predicted value: 预测值,是把已知的 x 带入到公式里面和 出来的参数 w,b 计算得到的,一般使用 y 表示。

Error: 误差,预测值和真实值的差距,一般使用 \varepsilon 表示。

最优解:尽可能的找到一个模型使得整体的误差最小,整体的误差通常叫做损失 Loss。

Loss:整体的误差,Loss 通过损失函数 Loss function 计算得到。

机器学习1-(多元)线性回归的基本概念

四、多元线性回归:

现实生活中,往往影响结果 y 的因素不止一个,这时 x 就从一个变成了 n 个,X1…Xn 同时简单线性回归的公式也就不在适用了。 多元线性回归公式如下:

机器学习1-(多元)线性回归的基本概念

使用向量来表示,X表示所有的变量,是一维向量;W表示所有的系数(包含w0),是一维向量,根据向量乘法规律,可以这么写:

机器学习1-(多元)线性回归的基本概念

Original: https://blog.csdn.net/weixin_56197703/article/details/123102280
Author: Aaron-ywl
Title: 机器学习1-(多元)线性回归的基本概念

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/635057/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球