コンテキストとは、AIや大規模言語モデル（LLM）が指示や質問を理解・処理する際に参照する文脈や周辺情報を指します。過去の会話履歴や指示文、外部から与えられた参照データなどが含まれ、入力されたプロンプトに対して適切な回答を出力するための重要な判断材料となります。コンテキスト処理能力の向上がAIの精度を高めています。
コンテキストとは
コンテキストとは、一言でいうとAIがプロンプトや質問を正しく解釈し、適切な回答を生成するために参照する「文脈」や「背景情報」のことです。
詳しく解説
大規模言語モデル（LLM）などの生成AIは、単一の単語や文だけで意味を判断するのではなく、前後の会話や提示された背景文脈を考慮して入力を処理します。コンテキストには、ユーザーからの指示文、過去のやり取り、参照用ドキュメントが含まれます。AIモデルが一画面や一回の処理で参照できるデータ量の上限は「コンテキストウィンドウ」と呼ばれ、その単位には「トークン」が用いられます。コンテキストの量を増やし、モデルが精度高く文脈を把握できるようにすることで、複雑な対話や長文要約が可能になります。
具体例・使われ方
例えば、AIチャットで「前言った件について詳しく教えて」と尋ねた場合、過去の会話履歴がコンテキストとして機能し、どの話題を指しているかを解釈します。また、社内マニュアルをAIに読み込ませて回答させる「RAG」技術では、検索された関連文書がコンテキストとして提示され、正確な回答の生成に役立ちます。
似た用語との違い
プロンプトはユーザーがAIに直接与える命令や質問そのものを指すのに対し、コンテキストはその命令を取り巻く背景や過去のやり取り全体を指します。また、AIが内部的にあらかじめ学習している事前学習データとも異なり、コンテキストは推論時に動的に入力・参照される情報です。
注意点
コンテキストウィンドウの範囲を超える長い文章を入力すると、初期の文脈が省略され、整合性が失われることがあります。また、コンテキスト内に矛盾する情報や無関係な情報が多く含まれていると、ハルシネーションを引き起こしたり回答の精度が低下したりする原因となるため注意が必要です。