温度サンプリングは、大規模言語モデルがテキストを生成する際に出現する単語の確率分布を調整し、出力のランダム性や創造性を制御するハイパーパラメータです。温度の値を高くすると多様で意外性のある文章になり、低くすると一貫性のある予測しやすい文章が出力されます。
温度サンプリングとは
温度サンプリングとは、AIが次に続く言葉を予測する際に、その確率分布のシャープさを変更して出力の創造性や多様性を調整する仕組みのことです。
詳しく解説
大規模言語モデルは、入力に対して次に続く可能性のある複数の単語とその確率を計算します。温度サンプリングでは、この確率値に対して「温度」と呼ばれる係数を適用します。温度を高く設定すると確率の差が縮まり、本来選ばれにくい珍しい単語が選ばれやすくなるため、AIの出力にランダム性と創造性が生まれます。逆に温度を低くすると確率の差が強調され、最も確率の高い無難な単語が選ばれやすくなります。
具体例・使われ方
小説のプロットやアイデア出しなど、多様なバリエーションが欲しい創造的なタスクでは温度を高く設定します。一方で、プログラミングコードの生成や事実に基づく正確な要約など、正確性が重視されるタスクでは温度を低く設定して決定論的な出力を促します。
似た用語との違い
トップPサンプリングやトップKサンプリングといった他のサンプリング手法と混同されやすいですが、これらは候補となる単語の数を絞り込む手法です。温度サンプリングは候補を絞るのではなく、確率の傾き自体をなだらかにしたり急にしたりする点で異なります。
注意点
温度を上げすぎると文脈に関係のない支離滅裂な単語が出力されるリスクがあり、下げすぎると毎回同じような単一の回答しか得られなくなります。タスクの目的に応じて適切なハイパーパラメータを調整することが重要です。
この解説は役に立ちましたか？誤りが含まれる場合はご報告いただけますと幸いです。
更新日時: 2026年9月3日 15:31