Few-Shot CoTとは、大規模言語モデルに数件の具体例と推論の思考プロセスをあらかじめ提示し、複雑な問題に対する正確な回答を引き出すプロンプトエンジニアリングの手法です。
フューショット・コットとは
Few-Shot CoT(Few-Shot Chain-of-Thought)とは、大規模言語モデル(LLM)に対して、答えに至るまでの具体的な思考プロセス(推論の道筋)と解答のペアを数件示して学習・誘導し、新しい問題に対しても段階的な推論を行わせる技術です。
詳しく解説
Few-Shot CoTは、従来の手法であるFew-Shot Promptingに「思考の連鎖(Chain-of-Thought)」を組み合わせたものです。単に「入力と出力の例」を与えるだけでなく、「なぜその答えになるのか」というステップバイステップの解説を例の中に含めます。これにより、モデルはパターンの丸暗記ではなく論理的な推論プロセスを模倣できるようになり、数学の問題や論理的思考が求められる複雑なタスクにおいて劇的に精度が向上します。
具体例・使われ方
例えば、算数の文章題を解かせる際、「問:リンゴが3個、ミカンが5個あります。合計は何個ですか? 思考:リンゴの3個とミモザ...ではなくミカンの5個を足し算します。3 + 5 = 8です。答え:8個」という具体的な思考プロセスを含んだ例をプロンプトに2〜3件提示します。その後、別の新しい問題を提示すると、モデルはこの例に倣って自分で思考プロセスを組み立ててから正解を導き出します。
似た用語との違い
通常のFew-Shot Promptingとの違いは、思考のプロセス(Chain-of-Thought)を例の中に記述するかどうかです。通常のFew-Shotは「問題と最終的な答えのペア」だけを示しますが、Few-Shot CoTは「問題・思考プロセス・答えのセット」を示します。また、プロンプトに例を与えないZero-Shot CoTとも異なり、こちらは具体的なお手本を提示するため、よりモデルの出力制御が安定するという特徴があります。
注意点
効果的な思考プロセスを記述した例を用意する必要があるため、プロンプトの設計に手間がかかります。また、提示する例の質がモデルの出力に大きな影響を与えるため、不適切な推論の例を与えると逆に誤った回答を誘発するリスクがあります。さらに、トークン消費量が増加するというデメリットも考慮する必要があります。