ニューラルネットワーク数学線形代数

アダマール積

あだまーるせき · Hadamard product
23 views

アダマール積とは、同じサイズの行列やテンソル同士の間で、対応する要素どうしを掛け合わせる演算のことです。深層学習のニューラルネットワークでは、活性化関数を通した後のゲート制御や注意機構などで幅広く利用されています。

アダマール積とは

一言でいうと、同じ形を持つ2つの行列の「同じ位置にある成分同士をそのまま掛け合わせる」数学的演算のことです。

詳しく解説

アダマール積は、通常の行列の積とは異なり、行と列の計算を行うのではなく、要素ごとの積を計算する点が特徴です。深層学習やニューラルネットワークの分野では、情報を選択的に通過させたり遮断したりするゲート制御において非常に重要な役割を果たしています。計算の仕組みがシンプルでありながら、テンソル演算の並列処理とも相性が良いため、現代のAIフレームワークの内部でも多用されています。

具体例・使われ方

具体的な利用例として、リカレントニューラルネットワークのLSTMやGRUにおけるゲート機構があげられます。記憶セルの更新や情報の取捨選択を行う際、計算結果のテンソルに対してアダマール積を適用することで、必要な情報だけを残す処理を実現しています。

似た用語との違い

通常の行列の積(ドット積や行列積)とは異なり、左側の行列の列数と右側の行列の行数が一致していなくても計算可能です。アダマール積を計算するためには、2つの行列のサイズが完全に一致している必要があります。

注意点

要素数が一致している行列同士でしか計算できないため、形状が異なるテンソルに対して誤って適用すると次元エラーを引き起こします。また、単なる要素ごとの掛け算であるため、線形代数における一般的な行列変換の意味とは異なる点に注意が必要です。

更新日時: 2026年9月9日 00:11