コンテキスト長とは、大規模言語モデルが一度に処理できる入力と出力の最大トークン数を指します。この長さが長いほど、長文の読み込みや複雑な文脈の維持が可能になり、AIの活用範囲が広がりますが、メモリ消費量や計算コストが増加するトレードオフが存在します。
コンテキスト長とは
コンテキスト長とは、大規模言語モデル（LLM）が一度に認識し処理できるテキストの最大量を表す指標です。
詳しく解説
大規模言語モデルは、テキストを「トークン」と呼ばれる細かい断片に分割して処理しています。コンテキスト長は、モデルがプロンプトとして受け取り、過去の会話履歴を含めて記憶できるトークンの総数を意味します。近年では、技術の進歩に伴い、数万から数百万トークンを超える長大なコンテキスト長を持つ大規模言語モデルが開発されています。これにより、書籍一冊分や長時間の音声データを丸ごと読み込ませて分析することが可能になりました。
具体例・使われ方
長編小説の全体像を大規模言語モデルに読み込ませて特定の登場人物の相関関係を分析させたり、過去の数万行に及ぶプログラミングコードの履歴をすべて入力した上でデバッグを行ったりする際に活用されます。
似た用語との違い
パラメータ数とは異なる概念です。パラメータ数がモデル自体の知識量や賢さを決める「脳の大きさ」に例えられるのに対し、コンテキスト長は一度に机の上に広げられる「作業スペースの広さ」に例えられます。
注意点
コンテキスト長がどれほど長くても、プロンプトの後半や中央付近にある重要な情報を見落とす「ロスト・イン・ザ・ミドル」と呼ばれる現象が発生することがあります。また、入出力が長くなるほど処理にかかる時間やコストが急増するため、常に最大の長さを使い切れば良いとは限りません。
この解説は役に立ちましたか？誤りが含まれる場合はご報告いただけますと幸いです。
更新日時: 2026年9月3日 19:01