自己教師あり学習とは、人間の手による正解ラベルを付与せずに、データ自身から教師信号を作り出して効率的な特徴表現を学ぶ機械学習のパラダイムです。大規模な事前学習モデルの基盤技術として、近年の生成AIの発展に大きく貢献しています。
自己教師あり学習とは
自己教師あり学習とは、人間の手による正解データ(ラベル)を一切必要とせず、データ自身が持つ構造や文脈をヒントにして自動的に正解を作り出し、効率的な特徴表現を学ぶ機械学習の手法です。
詳しく解説
従来の教師あり学習では、大量のデータに対して人間が一つひとつ正解ラベルを付与するコストが大きな課題でした。一方、自己教師あり学習では、データの一部を隠してそれを予測させたり、画像の一部を回転させて角度を当てさせたりするといった疑似的なタスクを自ら解くことで、データの構造や意味を深く理解します。これにより、インターネット上にある膨大な未ラベルデータを有効活用できるようになり、近年の大規模言語モデルや画像生成モデルの性能を飛躍的に高める原動力となっています。
具体例・使われ方
自然言語処理の分野では、文章の一部を空欄にして周囲の単語から穴埋めをさせるタスク(マスク言語モデリング)が広く使われています。画像認識の分野では、パズル状に分割した画像のピースの元の位置を当てさせたり、画像のコントラストを変えたもの同士を同じ画像と認識させたりする事前学習に利用されています。
似た用語との違い
教師あり学習が人間が用意した正解ラベルを必須とするのに対し、自己教師あり学習はデータ構造から自動生成した擬似ラベルを利用する点で異なります。また、教師なし学習がデータのクラスタリングや構造解析を目的とするのに対し、自己教師あり学習は多くの場合、後段のタスクに向けた強力な表現を獲得するための事前学習として活用される点が異なります。
注意点
自己教師あり学習によって得られたモデルは汎用的な特徴表現を獲得できますが、特定の業務やタスクで実用的な精度を発揮させるためには、最終的にファインチューニングなどの追加調整が必要となることが一般的です。また、事前学習に用いられるデータに含まれる偏見やバイアスをそのまま学習してしまうリスクにも注意が必要です。