転移学習とは、ある領域で学習した知識やモデルを別の関連する領域の学習に再利用する技術です。ゼロからモデルを構築する場合に比べて必要なデータ量や計算コストを大幅に削減でき、データが少ない課題でも高精度な予測を実現します。画像認識や自然言語処理などのディープラーニング領域で広く活用されています。
転移学習とは
転移学習とは、特定の課題で事前に学習したAIモデルの知識を、別の類似した課題に応用して学習効率を高める手法です。
詳しく解説
従来の機械学習では、新しいタスクごとに大量のデータを用意して一から学習を行う必要がありました。しかし、転移学習では大規模なデータセットで構築された事前学習モデルのネットワーク構造やパラメータの重みを初期値として再利用します。これにより、データ収集が困難な領域でも少量のデータで効率的に高精度なモデルを構築できるようになりました。特に画像認識や自然言語処理のようなディープラーニング分野で不可欠な技術となっています。
具体例・使われ方
例えば、何百万枚もの一般的な画像で学習したモデルの基礎的な特徴抽出能力を活用し、医療用X線写真から病変を検出する専用モデルを少量の画像データで構築するケースがあります。また、大量の日本語テキストで知識を得たモデルをベースにして、特定の業務に関する問い合わせに応答するチャットボットを作成する際にも利用されます。
似た用語との違い
転移学習は概念全体の名称であり、その具体的な実現手法の一つがファインチューニングです。ゼロからの学習がモデル全体を新たに更新するのに対し、転移学習は既存の知識を受け継ぎます。ファインチューニングでは既存モデルの一部または全体の重みを新しいデータに合わせて微調整します。また、入力データの分布の違いを調整するドメイン適応も転移学習に関連する技術です。
注意点
元データの性質と新しいタスクの性質が大きく異なる場合、既存の知識がかえって学習の妨げとなり精度が低下する負の転移と呼ばれる現象が発生することがあります。また、元モデルに含まれる偏りやバイアスがそのまま新しいモデルに引き継がれるリスクもあるため、転移元のモデル選定には注意が必要です。