内積とは、2つのベクトルの向きの類似性と大きさを評価する基本的な数学演算です。AIや機械学習の分野では、ニューラルネットワークの重み計算やアテンション機構における要素間の関連度算出、データ同士の類似度判定などに不可欠な要素技術として幅広く活用されています。
内積とは
内積とは、2つのベクトルがどれだけ同じ方向を向いているか、およびその大きさの掛け合わせを表す基本的な数学演算です。AIや機械学習においては、データ間の類似度計算やネットワーク内部の基本演算として利用されます。
詳しく解説
内積（ドット積）は、対応する要素同士を掛け合わせてその総和を求める計算です。幾何学的には、一方のベクトルをもう一方へ射影した長さと相手の長さを掛け合わせた値に相当します。機械学習では、入力データと重みパラメーターの積和演算を行うニューラルネットワークの基礎計算として不可欠です。また、現代の言語モデルを支えるアテンション機構においても、単語やトークン間の関連性を高速に算出するコア技術として内積が活用されています。
具体例・使われ方
AIにおける代表的な利用例として、アテンション機構での関連度計算が挙げられます。検索文と文書のベクトル同士の内積を求めることで、相互の関連性の強さを数値化します。また、推薦システムにおいて、ユーザーの嗜好ベクトルと商品の特徴ベクトルの内積を計算し、おすすめの度合いをスコア化する際にも活用されています。
似た用語との違い
内積と混同されやすい概念にコサイン類似度があります。コサイン類似度はベクトルの大きさ（長さ）の影響を完全に排除し、向きの一致度のみを評価する指標です。これに対して内積は、ベクトルの大きさも計算結果に反映される点が異なります。また、外積は2つのベクトルに直交する別のベクトルを出力する演算であり、単一の数値を出力する内積とは出力形式が異なります。
注意点
内積はベクトルの大きさに影響を受けるため、データのスケール（単位や大きさ）が揃っていない場合、向きが似ていても計算結果に偏りが生じることがあります。要素の方向のみを正確に比較したい場合は、あらかじめ正規化を行うかコサイン類似度を選択する必要があります。また、内積を計算する2つのベクトルは要素数が一致している必要があります。