跨域小样本—cross domain few shot—第一弹

cross domain Few-shot 存在问题

提出了cross domain few-shot learning的标准,在m i n i I m a g e N e t miniImageNet m i n i I m a g e N e t上训练模型,随后采用N − w a y , K − s h o t N-way,K-shot N −w a y ,K −s h o t的方式,迁移到目标数据集上。

结论:

核心思想: 在网络后的BatchNorm后添加特征变换层,对来自BatchNorm的特征进行扰动增强(会增加一个高斯分布进来),以此提高模型对不同域的适配性。同时,特征变换层的参数通过元学习自动搜索。

实验部分: 单域迁移模型在miniImageNet上训练,随后迁移到不同目标域验证效果;多域迁移模型在多个域上进行训练,最后迁移到一个特定域上验证效果。

结果:

核心思想:对特征进行特征变换;并集成各种方式

核心思想:少量使用target数据集来拟合模型;omain-irrelevant与domain-specific特征的使用。

论文筛选目标域中的少量数据D T b D_{Tb}D T b ​来用于训练(个人认为这种方式是帮助模型提取了解目标域的分布),同时D S b , D S e , D S n , D T b D_{Sb},D_{Se},D_{Sn},D_{Tb}D S b ​,D S e ​,D S n ​,D T b ​中彼此类别不相交,所以并不违背小样本学习的初衷,模型最后在D T n D_{Tn}D T n ​上测试结果。

实验部分
与FWT类似,使用Mini-Imagenet作为source, CUB [34], Cars [17], Places [38], and Plantae [31]作为target。

核心思想:在编码混淆之前约束 域判别特征+在编码混淆后约束 域无关特征

核心思想:将元学习与微调相结合,得到更好的模型

将现有cross domain Few-shot解决方案做了一个 pipline,来探索不同组合的有效性,实现解决方案的自动开关。

Original: https://blog.csdn.net/qq_21157073/article/details/120039748
Author: DeepWWJ
Title: 跨域小样本—cross domain few shot—第一弹

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/690618/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球