Applied Sciencesに論文が採録されました

当研究室の論文がApplied Sciencesに採録されました．

R. Higashimoto, S. Yoshida, M. Muneyasu: CRAS: Curriculum Regularization and Adaptive Semi-Supervised Learning with Noisy Labels. Appl. Sci. 2024, 14, 1208. https://doi.org/10.3390/app14031208

概要

この論文は、ノイズのあるラベルで学習することによって生じるディープニューラルネットワークの性能劣化について取り扱っています。最近の研究では、記憶効果（ネットワークは学習の初期段階でクリーンなラベルのデータに適合し、最終的にはノイズのあるラベルのデータを記憶する性質）が利用されています。この性質により、損失分布からクリーンなサンプルとノイズのあるサンプルを分離することが可能です。近年、クリーンなサンプルのラベル付きセットとノイズのあるサンプルの無ラベルセットにトレーニングデータを分割する半教師あり学習が、本分野で注目されています。しかし、この戦略には2つの大きな問題があります：(1) クリーンなサンプルとノイズのあるサンプルにデータを分割する精度は、ネットワークの性能に強く依存する、そして(2) 分割されたデータがラベル無しサンプルに偏っている場合、ラベル付きサンプルが少なくなり、ネットワークがラベルに過剰適合し、一般化性能が低下する原因となることです。これらの問題を解決するために、我々はカリキュラム正則化と適応的半教師あり学習（CRAS）法を提案しました。主要なアイデアは、(1) データを分割する前に、正則化技術でネットワークを訓練すること、及び (2) 各トレーニングエポックでの各分割におけるデータバイアスに適応的に反応する損失重みを用いて、正則化の強度を制御することです。CRASの性能はベンチマーク画像分類データセットCIFAR-10とCIFAR-100、及び実世界のデータセットmini-WebVisionとClothing1Mで評価しました。