セルフ・スーパーバイズド・ラーニング（自己教師あり学習）は、正解ラベルのない大量のデータから、データ自身を教師として特徴量を効率的に獲得する機械学習の枠組みです。事前学習などで広く活用されています。
セルフ・スーパーバイズド・ラーニングとは
一言でいうと、人間が手動で正解ラベルを付与しなくても、データ自身から関係性や構造を自習して賢くなれる学習手法のことです。
詳しく解説
セルフ・スーパーバイズド・ラーニングは、ラベルなしデータからモデルが自分で予測課題（擬似的なタスク）を作り出し、その正解を当てさせることで効率的に特徴量を学習する仕組みです。例えば、画像の一部を隠してそれを復元させたり、文章の空欄を予測させたりすることで、データの本質的な構造を理解させます。大量のラベル付きデータを用意するコストや手間を大幅に削減できるため、近年の大規模言語モデルや生成AIの基盤技術として非常に重要な役割を担っています。
具体例・使われ方
具体的な利用例として、画像認識の分野では画像の色付けや一部の欠損部分を予測するタスクを用いた事前学習が挙げられます。また、自然言語処理ではBERTなどの大規模言語モデルにおいて、文章中の隠された単語を予測するマスク言語モデリング手法として広く活用されています。
似た用語との違い
人間の手による正解ラベルを必要とする教師あり学習や、完全にラベルなしでデータのクラスタリングを行う教師なし学習とは異なります。セルフ・スーパーバイズド・ラーニングは、ラベルなしデータから自動生成した擬似ラベルを利用するという点で、教師あり学習と教師なし学習のハイブリッドな位置づけとなります。
注意点
事前学習段階では強力な効果を発揮するものの、特定のタスクに特化させるためには、依然として追加の微調整や教師あり学習のプロセスが必要となる点に注意が必要です。また、設計する擬似タスクの選び方によってモデルの性能が大きく左右される課題もあります。