コンテキスト学習とは、大規模言語モデルに対し、追加のパラメータを更新することなく、入力プロンプト内に例題や指示を与えて目的のタスクを正確に実行させる手法です。ファインチューニングを行わずに新たなタスクへ適応できる点が特徴です。
コンテキスト学習とは
コンテキスト学習とは、大規模言語モデル（LLM）の重みを一切更新せず、入力されたプロンプト内の文脈（コンテキスト）からパターンを読み取り、新しいタスクをその場で解決する能力のことです。
詳しく解説
大規模言語モデルが十分な規模のデータで事前学習を完了すると、文書の続きを予測する能力だけでなく、与えられた入力と出力のペアを手がかりにして共通のルールを推論する高度な汎化性能を獲得します。これがコンテキスト学習のメカニズムです。特に、少数の具体例を提示する少ショット・プロンプティング（Few-shot prompting）はその代表例であり、明示的なパラメータの再学習を必要としないため、開発コストを大幅に抑えてAIの挙動を制御できる重要技術として普及しています。
具体例・使われ方
例えば、「リンゴ -> 赤い、バナナ -> 黄色い、メロン ->」というプロンプトを入力すると、モデルは直前の入出力関係から「果物と色の関係を出力する」というタスクをコンテキスト学習によって理解し、「緑色」と正確に補完します。翻訳や感情分析の例題を数個与えるだけでも、同様の仕組みでタスクを遂行できます。
似た用語との違い
モデルの重みパラメータ自体を更新するファインチューニングとは異なり、コンテキスト学習は推論時の入力のみで適応を行うため、学習コストがかからないという明確な違いがあります。
注意点
コンテキスト学習はプロンプトの長さや構成、例題の選び方に結果が大きく左右されるという不安定さがあります。また、大規模言語モデルが持つコンテキスト長（最大入力トークン数）の制限を超えることはできないため、長大な情報を処理する際には注意が必要です。