pytorch-softmax回归

1、softmax回归模型

softmax回归模型和线性回归一样将输入特征和权重做线性叠加,softmax回归的输出个数等于标签里的类别数。例如在一个图片分类的问题中,输入的图像为2×2像素图片,分别记为x1,x2,x3,x4。对应数据集的真实标签为狗,猫,鸡,记为o1,o2,o3。

pytorch-softmax回归
pytorch-softmax回归
softmax回归同线性回归一样,也是一个单层神经网络。输出层也是一个全连接层。

; 2、softmax运算

问题:1.输出层输出的范围不确定。2.很难度量其与真实值之间的误差
解决:softmax运算——将输出值变化成值为正且和为1的概率分布

pytorch-softmax回归
softmax回归对样本i分类的矢量计算表达式为:
pytorch-softmax回归

3、交叉熵损失函数(cross entropy)——用于分类模型

pytorch-softmax回归

; 4、总结

1、softmax回归适用于多分类问题,它使用softmax运算输出类别的概率分布
2、softmax回归是一个单层神经网络,输出个数等于分类问题的类别个数
3、交叉熵适合衡量两个概率分布的差异

5、为什么pytorch 框架内没有softmax module?

pytorch-softmax回归

Original: https://blog.csdn.net/qq_51333166/article/details/125553488
Author: 我渊啊我渊啊
Title: pytorch-softmax回归

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/635113/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球