チームの最近の成果 - 形状空間理論に基づく小サンプル画像処理のための投影モジュール

我々のチームは、国際ジャーナル《Expert Systems With Applications》(IF:7.8、中科院一区Top)に論文 “A projection module based on the shape space theory for small-sample image processing”を発表しました。この論文は上海大学計算機工学部が第一著者となり、胡干が第一著者、韓越興が通信著者となっています。

“事前学習+微調整”のパラダイムは、限られたデータセットにおける神経ネットワークの画像処理に有効なツールを提供します。この方法は、大規模なソースデータセットでモデルを事前学習させることで、ターゲットの小さなデータセットの情報不足を補います。しかし、ターゲットデータセットがさらに小さなサンプルサイズに縮小されると、既存の方法は移行モデルの性能を維持するのが難しくなり、効果が急激に悪化します。この欠陥を克服するために、本論文では、形状空間理論に基づく投影モジュールPMSSを提案し、小さなサンプルシーンにおける移行モデルの能力を強化します。

我々はまず、ソースデータセットでモデルを事前学習し、保存します。次に、事前学習したモデルを使用してターゲットデータセットの特徴を抽出します。これらの元々ユークリッド空間にあった特徴は、PMSSを通じて予備形状空間に投影され、後続のトレーニングが行われます。さらに、学習プロセスにクラス認識注意メカニズムを導入し、特徴表現能力を強化することで、小さなサンプルタスクに対するモデルの処理能力を向上させます。10種類のバックボーンネットワークと5つのデータセットにおける大量の実験により、PMSSの有効性が証明されました。CIFAR10、CIFAR100およびその小サンプルサブセットでそれぞれ6%、8%および13%の精度向上を実現しました。PMSSはプラグアンドプレイ設計を採用しており、ネットワークアーキテクチャを変更することなく、現実世界の限られたデータシステムに直接適用できます。最新の多様体学習手法やロバスト転送学習手法と比較して、PMSSは小さなサンプルタスクの処理において最先端の性能を達成しました。

論文リンク：A projection module based on the shape space theory for small-sample image processing