深度学习网络层之上采样(Unpooling)

【自取】最近整理的,有需要可以领取学习:

之前一篇博文中介绍了深度学习中的pooling层,在本篇中主要介绍 转置卷积这种上采样操作。转置卷积也是一种卷积

L2 pooling

[a^l={1\over k}\sqrt{\sum_{j=1}^k(a_j^{l-1})^2} ]

pooling除了仅输出一个值, 也可以输出top k个(mix pooling).

CNN中的上采样

Unpooling:

  • 最近的邻居,以复制的形式。

    [En]

    * nearest neighbors, in the form of replication.

  • “Bed of Nails”:其他位置用0填充

  • “Max Unpooling” 在对称的max pooling中记录最大值的位置,在unpooling时将最大值位置设置为特征值,其他位置置0.

  • 转置卷积:Transpose Convolution,参数可学习,而上述的上采样方式都是固定的函数,不可学习.

转置卷积

在转置卷积计算过程中,将每个元素的输入值作为卷积核的权重,乘以该元素对应的上采样输出,将不同输入的重叠输出部分直接相加作为输出。原理图如下:

[En]

In the process of transpose convolution calculation, the input value of each element is taken as the weight of the convolution kernel, multiplied as the corresponding upsampling output of the element, and the overlapping output parts of different inputs are directly added as the output. The schematic diagram is as follows:

深度学习网络层之上采样(Unpooling)

2-D转置卷积操作:在输入的相邻像素间填充 stride-1个0,再在边缘填充 kernel_size - 1 - crop个 zero-padding,再进行卷积运算。最后一步还要进行裁剪。

深度学习网络层之上采样(Unpooling)

转置卷积运算示意图如下:[1]

深度学习网络层之上采样(Unpooling)

为什么叫转置卷积? 因为卷积的 im2col 矩阵乘实现中对卷积核展开成了二维的矩阵, 大小如(k^2\times n),而转置卷积中需要的卷积矩阵的维度是(n\times k^2), 所以在形式上是转置的形式.

转置卷积也称为十进制卷积(分数步进卷积)。如果正向卷积的步长大于1,则转置卷积的步长

[En]

Transpose convolution is also known as decimal step convolution (Fractionally Strided Convolution). If the step in forward convolution (s > 1), then the step in transpose convolution (s’)

转置卷积的用途

  • CNN可视化:通过转置卷积将feature map还原到像素空间,以观察特定的feature map对哪些pattern的图片敏感。
  • 上采样:图像语义分割或生成对抗网络需要像素级预测,对图像大小要求较高。
    [En]

    * up-sampling: pixel-level prediction is required in image semantic segmentation or generation countermeasure network, and higher image size is required.

参考:

Original: https://www.cnblogs.com/makefile/p/unpooling.html
Author: 康行天下
Title: 深度学习网络层之上采样(Unpooling)

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/6527/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

发表回复

登录后才能评论
免费咨询
免费咨询
扫码关注
扫码关注
联系站长

站长Johngo!

大数据和算法重度研究者!

持续产出大数据、算法、LeetCode干货,以及业界好资源!

2022012703491714

微信来撩,免费咨询:xiaozhu_tec

分享本页
返回顶部