全結合層
全結合層は、ニューラルネットワークにおいて前の層のすべてのニューロンと次の層のすべてのニューロンが結合している基本構造です。データの最終的な分類や回帰を行う重要な役割を持ち、多くの深層学習モデルの出力段で広く使われています。
ニューラルネットワークのAI用語一覧
55件ニューラルネットワークに関するAI用語を55件掲載しています。意味や使い方、関連用語を一覧から確認できます。
活性化関数
活性化関数とは、ニューラルネットワークにおいて入力信号の総和を出力信号に変換する関数です。人工ニューロンが次の層へ信号を伝える際、非線形な変化を加える役割を持ちます。これにより、複雑なパターンや非線形な関係をモデルが学習できるようになり、ディープラーニングの表現力を決定づける極めて重要な要素となっています。
ReLU
ReLU（レルー）は、ディープラーニングのニューラルネットワークで広く用いられる活性化関数の一種です。入力値が0以下の場合は0を出力し、0を超える場合は入力をそのまま出力するという単純な計算ルールを持ちます。計算が非常に高速で、勾配消失問題を緩和できるため、現代の深層学習モデルにおいてデファクトスタンダードとして定着しています。
状態
AIや強化学習において「状態（State）」とは、ある特定の時点における環境やシステムが置かれている状況や情報を表すデータのことです。エージェントが次の行動を決定するための判断材料となり、マルコフ決定過程やリカレントニューラルネットワークなどのモデルで中心的な役割を果たします。
オートエンコーダ
オートエンコーダは、入力データを一度次元削減して圧縮し、再び元のデータに復元するプロセスを学習する教師なし学習のニューラルネットワークです。データの持つ本質的な特徴抽出や異常検知、ノイズ除去に広く活用されています。
プーリング層
プーリング層は、CNNなどの畳み込みニューラルネットワークにおいて、特徴マップの解像度を小さくしてデータ量を削減する層です。位置のわずかなズバに対する頑健性を高め、計算量を効率化する役割を持ちます。
勾配消失
勾配消失とは、深層学習において学習の過程で誤差逆伝播法を通じて伝わる勾配が次第に小さくなり、最終的に入力層に近い初期の層の重みが更新されなくなる現象です。これにより多層のニューラルネットワークの学習が正常に行われなくなる課題があります。
出力層
出力層とは、ニューラルネットワークの構造において、最終的な結果や予測を出力する一番最後の層のことです。入力データから中間層を経て抽出された特徴をもとに、分類や回帰などのタスクに応じた最終的な数値を算出し、AIモデルの判断を外部へ伝えます。
オートエンコーダー
オートエンコーダーは、入力データを一度圧縮して元のデータを復元するように学習する教師なし学習のニューラルネットワークです。データを圧縮するエンコーダーと、復元するデコーダーから構成され、データの次元削減やノイズ除去、異常検知などに広く活用されています。非線形な特徴を抽出できる点が大きな特徴です。
入力層
入力層とは、ニューラルネットワークにおいて外部からデータを受け取り、モデル内部へ受け渡す最初の層です。画像やテキスト、数値などの入力データを適切な形式に変換・調整し、続く隠れ層へと伝達する役割を果たします。データの次元数に応じたユニットで構成され、機械学習モデル全体の精度や処理効率の基礎を支える重要なコンポーネントです。
Leaky ReLU
Leaky ReLUは、ディープラーニングのニューラルネットワークで使われる活性化関数のひとつです。従来のReLU関数で発生する「勾配消失問題」を改善するため、負の入力に対してわずかな傾きを持たせた仕組みが特徴です。
畳み込み層
畳み込み層は、畳み込みニューラルネットワーク（CNN）の中心となる層であり、画像や音声などのグリッド状データから局所的な特徴を効率的に抽出する役割を持ちます。AIによる画像認識や物体検出などの分野で不可欠な技術です。
破滅的忘却
破滅的忘却とは、ニューラルネットワークなどの機械学習モデルが新しいデータを学習する際、以前に学習した知識を急速に忘れてしまう現象です。人工知能の継続的な学習や適応における大きな課題の一つとして知られています。
ReLU関数
ReLU関数（Rectified Linear Unit）は、ディープラーニングで広く使われる活性化関数の一つです。入力が0以下の場合は0を出力し、0より大きい場合は入力値をそのまま出力するシンプルな仕組みを持ち、勾配消失問題を軽減して学習を高速化する重要な役割を果たします。
重みパラメータ
重みパラメータとは、ニューラルネットワークにおいて入力データが結果にどれほど影響を与えるかを決定する数値のことです。AIの学習プロセスでは、この値を調整することで予測精度を向上させます。
アダマール積
アダマール積とは、同じサイズの行列やテンソル同士の間で、対応する要素どうしを掛け合わせる演算のことです。深層学習のニューラルネットワークでは、活性化関数を通した後のゲート制御や注意機構などで幅広く利用されています。
残差接続
残差接続とは、ニューラルネットワークの層を飛び越えて信号を伝えるスキップ接続の一種です。勾配消失問題を緩和し、数百層にも及ぶ超深層学習を安定して成功させるために不可欠な技術として、ResNetなどで広く採用されています。
自己符号化器
自己符号化器（オートエンコーダー）は、入力データを一度圧縮し、それを元のデータに復元するように訓練するニューラルネットワークです。教師なし学習の一種であり、データの次元削減や特徴量抽出、ノイズ除去などに広く用いられます。中間層の「潜在変数」と呼ばれる低次元表現を通じて、データの本質的なパターンを捉えることができます。
単層パーセプトロン
単層パーセプトロンとは、入力層と出力層のみで構成される最も基本的な人工ニューラルネットワークのモデルです。複数の入力に対して重みとバイアスを適用し、活性化関数を通じて二値分類を行います。深層学習の原点となった概念ですが、線形分離可能な問題しか解けないという数学的な限界を持ちます。
敵対的学習
敵対的学習とは、あえてモデルが誤認しやすい特殊なノイズを加えたデータを学習させることで、AIの頑健性を高める機械学習の手法です。悪意ある攻撃に対する防御力を向上させるために広く活用されています。
自然勾配降下法
自然勾配降下法は、確率的モデルのパラメータ空間における確率分布の幾何学的な歪みを考慮し、真の距離に基づいて効率的な学習を行う最適化アルゴリズムです。
人工ニューロン
人工ニューロンとは、人間の脳にある神経細胞の働きを模倣して作られた、人工知能や機械学習における最も基本的な計算ユニットです。複数の入力データに対してそれぞれ「重み」を掛け合わせ、総和に「バイアス」を加えた上で「活性化関数」を通して出力値を決定します。ディープラーニングやニューラルネットワークの基礎となる重要技術です。
XOR問題
XOR問題とは、排他的論理和を単層のパーセプトロンでは直線で分離できず学習できないという、初期のニューラルネットワークにおける限界を示した歴史的な問題です。多層パーセプトロンや活性化関数を用いることで解決されました。
エコー状態ネットワーク
エコー状態ネットワーク（ESN）は、リザーバコンピューティングと呼ばれる枠組みに基づく再帰型ニューラルネットワーク（RNN）の一種です。中間層の結合重みをランダムに初期化したまま固定し、出力層の重みのみを学習させることで、従来のRNNで課題となっていた学習コストの高さや勾配消失問題を劇的に改善し、高速な時系列データ処理を実現します。