重みパラメータとは、ニューラルネットワークにおいて入力データが結果にどれほど影響を与えるかを決定する数値のことです。AIの学習プロセスでは、この値を調整することで予測精度を向上させます。
重みパラメータとは
一言でいうと、ニューラルネットワークにおける情報の重要度を調整する「つまみ」のような数値です。
詳しく解説
重みパラメータは、人間の脳におけるシナプスの結合の強さに着想を得た仕組みです。入力されたデータに対してそれぞれの重みパラメータが掛け合わされ、その総和が次の層へと伝達されます。ニューラルネットワークの学習とは、正解データとAIの予測値との誤差を計算し、その誤差が小さくなるようにバックプロパゲーションというアルゴリズムを用いて重みパラメータの値を少しずつ書き換えていく作業にほかなりません。この数値の調整が適切に行われることで、複雑なパターンや特徴をAIが認識できるようになります。
具体例・使われ方
例えば、画像認識AIが「猫」の写真を判定する場合、耳の尖り具合やヒゲの有無など特定の特徴に対応する入力信号に対して、それが猫である確率を高めるような重みパラメータが強く設定されます。また、生成AIや大規模言語モデルにおいても、膨大なテキストデータから言葉のつながりを予測するために、何千億もの重みパラメータが活用されています。
似た用語との違い
混同されやすい概念として「バイアス（偏置）」があります。重みパラメータが入力データの重要度（掛け算の係数）を調整するのに対し、バイアスは活性化のしやすさを調整する定数（足し算の項）として機能します。両者が組み合わさることで、ニューラルネットワークは柔軟な表現力を持ちます。
注意点
重みパラメータの数が多すぎると、学習データに対して過剰に適応してしまう過学習（オーバーフィッティング）を起こしやすくなります。その結果、未知のデータに対する予測精度が低下することがあるため、適切なモデル設計や正則化手法による対策が必要です。