论文笔记-DEC (Deep Embedded Clustering）
*
– 知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配给 j 簇的概率）：
– 知识2. 作者定义一个辅助分布 p ，通过KL散度衡量 p 和 q 两个分布构造损失函数L
论文原文：http://proceedings.mlr.press/v48/xieb16.pdf
知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配给 j 簇的概率）：
i 表示第 i 个样本，j 表示 第 j 类聚类中心。z表示数据原始特征分布经过Encoder之后的表征空间。
; 知识2. 作者定义一个辅助分布 p ，通过KL散度衡量 p 和 q 两个分布构造损失函数L
（ 同时也是该文的亮点）
作者的论文中考虑一下三点构造出p:
1.强化预测。q分布为软分配的概率，那么p如果使用delta分布来表示，显得比较原始。
2.置信度越高，属于某个聚类概率越大。
3.规范每个质心的损失贡献，以防止大类扭曲隐藏的特征空间。分子中那个 f 就是做这个的。
通过KL散度构造损失函数Loss
同时网络和聚类中心都可以通过反向传播进行更新。
根据Loss通过反向传播对encoder层进行参数更新.学习到q变化很小的时候就可以停止了。
代码可以参考：https://blog.csdn.net/wumenglu1018/article/details/105115248/
Original: https://blog.csdn.net/weixin_45739483/article/details/121216013
Author: Zyy99123
Title: 论文笔记-DEC (Deep Embedded Clustering)
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/550404/
转载文章受原作者版权保护。转载请注明原作者出处！