机器学习:回归模型的评价指标

  1. 概述

对于回归而言,模型性能的好坏主要体现在拟合的曲线与真实曲线的误差。主要的评价指标包括:拟合优度/R-Squared,校正决定系数(Adjusted R-square),均方误差(MSE),均方根误差(RMSE),误差平方和(SSE),平均绝对误差(MAE),平均绝对百分比误差(MAPE)。

  1. 均方误差

(Mean Squared Error,MSE):观测值与真值偏差的平方和与观测次数的比值:

机器学习:回归模型的评价指标
; 要点:
  • MSE相当于模型中的损失函数,线性回归过程中尽量让该损失函数最小。
  • 模型之间的对比也可以用它来比较。
  • MSE可以评价模型的预测精度,MSE的值越小,说明预测模型对于目标的拟合程度越精确。

  • 均方根误差(标准误差)

(Root Mean Squard Error,RMSE):均方误差的算术平方根。

机器学习:回归模型的评价指标
; 要点:
  • 均方根误差是用来衡量观测值同真值之间的偏差。
  • 它的意义在于开个根号后,误差的结果就与数据是一个级别的,可以更好地来描述数据。
  • 标准误差对一组测量中的特大或特小误差反映非常敏感(易受异常值的影响),
  • 所以,标准误差能够很好地反映出测量的精密度。这正是标准误差在工程测量中广泛被采用的原因。

  • 平均绝对误差

(Mean Absolute Error,MAE):平均绝对误差是绝对误差的平均值

机器学习:回归模型的评价指标

; 4、平均绝对百分比误差(MAPE)

平均绝对百分比误差(Mean Absolute Percentage Error),与RMSE相比, 更加鲁棒,因为MAPE对每个点的误差进行了归一化。

机器学习:回归模型的评价指标
  1. 拟合优度/R-squared

机器学习:回归模型的评价指标
  • 分子就是我们训练出的模型预测的误差和。
  • 分母就是瞎猜的误差和。(通常取观测值的平均值)

如果结果是0,就说明我们的模型跟瞎猜差不多。
如果结果是1。就说明我们模型无错误。

  • R 2 介于0~1之间,越接近1,回归拟合效果越好, 一般认为超过0.8的模型拟合优度比较高

化简上面的公式
分子分母同时除以m,那么分子就变成了我们的均方误差MSE,下面分母就变成了方差。

机器学习:回归模型的评价指标

; 6. 校正决定系数(Adjusted R-square)

机器学习:回归模型的评价指标
其中,n为样本数量,p为特征数量。

取值范围还是负无穷到1,大多是 0~1,且越大越好

Original: https://blog.csdn.net/nixiang_888/article/details/117906292
Author: Xiaofei@IDO
Title: 机器学习:回归模型的评价指标

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/631486/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球