cross domain Few-shot 存在问题
提出了cross domain few-shot learning的标准,在m i n i I m a g e N e t miniImageNet m i n i I m a g e N e t上训练模型,随后采用N − w a y , K − s h o t N-way,K-shot N −w a y ,K −s h o t的方式,迁移到目标数据集上。
结论:
核心思想: 在网络后的BatchNorm后添加特征变换层,对来自BatchNorm的特征进行扰动增强(会增加一个高斯分布进来),以此提高模型对不同域的适配性。同时,特征变换层的参数通过元学习自动搜索。
实验部分: 单域迁移模型在miniImageNet上训练,随后迁移到不同目标域验证效果;多域迁移模型在多个域上进行训练,最后迁移到一个特定域上验证效果。
结果:
核心思想:对特征进行特征变换;并集成各种方式
核心思想:少量使用target数据集来拟合模型;omain-irrelevant与domain-specific特征的使用。
论文筛选目标域中的少量数据D T b D_{Tb}D T b 来用于训练(个人认为这种方式是帮助模型提取了解目标域的分布),同时D S b , D S e , D S n , D T b D_{Sb},D_{Se},D_{Sn},D_{Tb}D S b ,D S e ,D S n ,D T b 中彼此类别不相交,所以并不违背小样本学习的初衷,模型最后在D T n D_{Tn}D T n 上测试结果。
实验部分
与FWT类似,使用Mini-Imagenet作为source, CUB [34], Cars [17], Places [38], and Plantae [31]作为target。
核心思想:在编码混淆之前约束 域判别特征+在编码混淆后约束 域无关特征
核心思想:将元学习与微调相结合,得到更好的模型
将现有cross domain Few-shot解决方案做了一个 pipline,来探索不同组合的有效性,实现解决方案的自动开关。
Original: https://blog.csdn.net/qq_21157073/article/details/120039748
Author: DeepWWJ
Title: 跨域小样本—cross domain few shot—第一弹
原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/690618/
转载文章受原作者版权保护。转载请注明原作者出处!