コンテキストウィンドウとは、LLMなどのAIモデルが1回の処理で一度に処理・理解できるテキストや情報の最大量のことです。トークンという単位で測定され、入力されたプロンプトとAIが出力する回答の合計がこの枠内に収まる必要があります。この窓が広いほど、長大な文書の要約や複雑な文脈を維持した対話が可能になります。
コンテキストウィンドウとは
コンテキストウィンドウとは、LLM（大規模言語モデル）が1回の処理において、同時に読み込んで理解し、処理することができる情報の最大範囲のことです。
詳しく解説
LLMは、テキストをトークンと呼ばれる最小単位に分割して処理します。コンテキストウィンドウは、このトークンの最大保持能力（入力プロンプトと出力回答の合計）を指します。技術的には、Transformerモデルで使われるアテンション機構の計算量やメモリ消費量が、入力長の増加に伴って増加するため、ハードウェア上の物理的制約から最大値が決まります。近年はアルゴリズムの改良やハードウェアの進化により、数万から数百万トークンを扱えるモデルへと急速に拡張が進んでいます。これにより、本一冊分や数時間の音声データなどを一度にAIに入力して分析させることが可能になりました。
具体例・使われ方
例えば、長編小説のプロット分析や、数万行に及ぶプログラミングコードのバグ修正、膨大なPDF契約書の比較検証などを行う際、コンテキストウィンドウが広いモデルであれば、ファイルを分割することなく一度にプロンプトとして送信し、一貫した論理展開で処理させることができます。
似た用語との違い
「コンテキストウィンドウ」と「トークン制限」はほぼ同義で使われますが、トークン制限は入力または出力個別の制限を指す場合があるのに対し、コンテキストウィンドウはシステム全体が一度に保持できる文脈の窓の広さというニュアンスを持ちます。また、AIのメモリ機能とも混同されがちですが、メモリは会話履歴を外部データベースなどに長期保存して呼び出す仕組みを指すことが多く、コンテキストウィンドウはあくまで1回の処理における作業領域であるため、セッションが終了すればクリアされる一次的な脳の作業スペースに例えられます。
注意点
コンテキストウィンドウが非常に広いモデルであっても、そのウィンドウの全域にわたって完璧に情報を処理できるとは限りません。特に、膨大な入力情報の中央付近にある重要な情報を見落としやすい現象が知られています。また、トークン数が増えるほど、計算コストや処理遅延が増大し、ハルシネーション（事実とは異なる回答を出力する現象）の発生確率が高まる傾向もあるため、必要以上に長いテキストを一度に入力することは避けるべきです。