キーとは、Transformerなどの注意機構において、クエリとの類似度を計算し、情報の重要度を判断するために利用されるベクトル情報です。
キーとは
キーとは、AIのモデル内部でデータの関係性を計算するアテンション機構において、情報を取り出すための見出しや検索の鍵として機能する要素です。
詳しく解説
大規模言語モデルの根幹技術であるTransformerの自己注意機構(Self-Attention)では、入力データを「クエリ(Query)」「キー(Key)」「バリュー(Value)」という3つのベクトルに変換して処理します。クエリが「何を探しているか」を表すのに対し、キーは「各データがどのような内容を持っているか」という見出しや属性の役割を果たします。モデルは、クエリとすべてのキーとの間で類似度(内積など)を計算することで、入力文脈全体の中でどの情報にどれほど注目すべきかを決定します。
具体例・使われ方
例えば、「銀行で口座を開設する」という文において、「銀行」という単語を理解するためにクエリを発信した際、文脈内の他の単語(口座、川など)が持つキー情報との類似度を計算します。「口座」のキーとは高い類似度を示し、「川」のキーとは低い類似度を示すことで、金融機関の方の「銀行」であると正しく解釈できるようになります。
似た用語との違い
アテンション機構内で混同されやすい概念として「クエリ」と「バリュー」があります。クエリは検索ワードや注目したい側の情報を指し、キーはその検索ワードと照合される対象の見出しです。これに対しバリューは、キーに対応する実際のデータ本体や内容そのものを指します。キーは類似度の計算にのみ使われ、バリューが実際の出力の重み付けに使われる点が異なります。
注意点
キーそのものは単独で意味を持つ人間が読める言葉ではなく、モデルの学習を通じて自動的に獲得される高次元の数値ベクトルであるため、人間がその内部挙動や特定のキーの意味を直接解釈してデバッグすることは極めて困難です。