単位行列とは、主対角成分がすべて1で、それ以外の成分がすべて0である正方行列のことです。数における「1」のような役割を持ち、任意の行列に単位行列を掛け合わせても、元の行列は変化しません。AIやディープラーニングの分野では、逆行列の定義、パラメータの更新、正則化手法などの線形代数を基礎とする計算において、極めて重要な役割を果たします。
単位行列とは
単位行列とは、正方行列の一種であり、左上から右下にかけての対角線上の成分(主対角成分)がすべて1で、それ以外の成分がすべて0の行列です。通常の数値における「1」に相当する役割を、行列の世界において担っています。
詳しく解説
線形代数において、単位行列(通常 I や E と表記される)は乗法の単位元として機能します。任意の正方行列 A に対して、AI = IA = A が成り立ちます。ディープラーニングなどの機械学習アルゴリズムでは、多次元のデータを扱うために行列計算が多用されますが、その中で単位行列は数式モデルを記述・変形する際の基準として頻繁に登場します。特に、ある行列を打ち消すための「逆行列」を定義する際や、機械学習モデルの過学習を防ぐ「正則化」の数式(例:リッジ回帰におけるペナルティ項の追加)において、単位行列が計算を安定させるための基盤として用いられます。
具体例・使われ方
具体的な利用例として、ニューラルネットワークにおける「重みの初期化」が挙げられます。特定の層で入力の次元数と出力の次元数を維持したまま信号を伝達したい場合、重み行列を単位行列(またはそれに近い値)で初期化することで、勾配消失や勾配爆発を防ぐアプローチが存在します。また、画像処理での回転や移動といった空間写像を表現するアフィン変換において、何の変化も与えない基準の変換として単位行列が使われます。
似た用語との違い
単位行列と混同されやすい概念に「対角行列」と「ゼロ行列」があります。対角行列は、主対角成分以外がすべて0である行列全般を指し、対角成分は1以外の数値でも構いません。単位行列は、対角行列のうち「対角成分がすべて1であるもの」という特殊なケースに該当します。一方、ゼロ行列はすべての成分が0の行列であり、数値における「0」に対応するもので、単位行列とは役割が異なります。
注意点
単位行列に関する注意点として、単位行列は常に行数と列数が等しい「正方行列」でなければならないという点があります。長方形の行列(行数と列数が異なる行列)に対しては、そのまま乗算の単位元となるような単一の単位行列は定義できません。また、ディープラーニングのプログラミング(PythonのNumPyやPyTorchなど)で単位行列を生成する際、サイズ指定を誤ると行列の積の次元が一致せず、エラーの原因になるため、次元の不整合には注意が必要です。