团队近期成果--基于形状空间理论的小样本图像处理投影模块

我们团队在国际期刊《Expert Systems With Applications》(IF:7.8，中科院一区Top)上发表论文 “A projection module based on the shape space theory for small-sample image processing”。该论文上海大学计算机工程与科学学院为第一单位，胡干为第一作者，韩越兴为通讯作者。

“预训练+微调”范式为有限数据集下的神经网络图像处理提供了有效工具。该方法通过在大型源数据集上预训练模型，弥补目标小数据集的信息不足。然而当目标数据集进一步缩减至小样本规模时，现有方法难以维持迁移模型的性能，导致效果急剧恶化。为克服此缺陷，本文提出基于形状空间理论的投影模块PMSS，以增强迁移模型在小样本场景下的能力。

我们首先在源数据集预训练模型并保存，随后利用预训练模型提取目标数据集特征。这些原本处于欧氏空间的特征通过PMSS投影至预形状空间进行后续训练。此外，在学习过程中引入类感知注意力机制，通过增强特征表征能力提升模型处理小样本任务的能力。在10种骨干网络和5个数据集上的大量实验证明了PMSS的有效性：在CIFAR10、CIFAR100及其小样本子集上分别实现了6%、8%和13%的精度提升。PMSS采用即插即用设计，无需改变网络架构即可直接应用于现实世界的有限数据系统。与最新流形学习方法及鲁棒迁移学习方法相比，PMSS在处理小样本任务上达到了最先进的性能水平。

论文链接：A projection module based on the shape space theory for small-sample image processing