損失関数
損失関数とは、AIの予測値と正解データのズレを数値化する数学的な関数のことです。この値が小さいほどAIの予測精度が高いと判断され、モデルのパラメータ調整や最適化を行うための基準として機械学習の学習プロセスにおいて不可欠な役割を果たします。
ディープラーニングのAI用語一覧
70件ディープラーニングに関するAI用語を70件掲載しています。意味や使い方、関連用語を一覧から確認できます。
全結合層
全結合層は、ニューラルネットワークにおいて前の層のすべてのニューロンと次の層のすべてのニューロンが結合している基本構造です。データの最終的な分類や回帰を行う重要な役割を持ち、多くの深層学習モデルの出力段で広く使われています。
プーリング層
プーリング層は、CNNなどの畳み込みニューラルネットワークにおいて、特徴マップの解像度を小さくしてデータ量を削減する層です。位置のわずかなズバに対する頑健性を高め、計算量を効率化する役割を持ちます。
パラメータ
パラメータとは、AIや機械学習のモデルがデータから学習する過程で自動的に調整される内部の数値データです。主に重みとバイアスで構成され、入力データから適切な予測や判断を行うための計算式を形作ります。パラメータの数が増えるほどモデルの表現力が高まりますが、膨大な計算資源と広範な学習データが必要になります。
ハイパーパラメータ
ハイパーパラメータとは、機械学習モデルの訓練を開始する前に人間や外部アルゴリズムが事前に設定する調整用パラメータです。モデルの学習プロセスそのものや構造を制御する役割を持ち、学習率やバッチサイズ、エポック数などが代表例です。モデルがデータから自動的に獲得する通常のパラメータとは区別され、予測精度や学習速度を左右する極めて重要な要素です。
オートエンコーダー
オートエンコーダーは、入力データを一度圧縮して元のデータを復元するように学習する教師なし学習のニューラルネットワークです。データを圧縮するエンコーダーと、復元するデコーダーから構成され、データの次元削減やノイズ除去、異常検知などに広く活用されています。非線形な特徴を抽出できる点が大きな特徴です。
隠れ層
隠れ層（中間層）は、ニューラルネットワークにおいて入力層と出力層の間に配置される層のことです。外部から直接見えない内部で、入力されたデータから複雑なパターンや特徴量を段階的に抽出・変換する役割を持ちます。この層を何重にも重ねることでディープラーニングが実現可能となり、高度な認識タスクに対応します。
非線形性
非線形性とは、入力と出力の関係が単純な直線（比例関係）にならない性質のことです。AIや機械学習の分野、特にディープラーニングでは、この非線形性が極めて重要な役割を果たします。複雑な現実世界のデータパターンや相互作用をモデルが学習し、高度な予測や識別を行うためには、ニューラルネットワークに非線形性を取り入れることが不可欠です。
ディープニューラルネットワーク
ディープニューラルネットワーク（DNN）とは、人間の脳の神経回路網を模したニューラルネットワークの隠れ層を多層に重ねた機械学習モデルです。入力層と出力層の間に複数の隠れ層を持つことで、画像処理や自然言語処理などの複雑なデータから高精度な特徴抽出が可能となり、現代のディープラーニング技術の中核を担っています。
ニューラルネットワーク
ニューラルネットワークとは、人間の脳神経系（ニューロン）の構造をモデルにしたAI技術の基盤となる仕組みです。入力データを受け取り、複数の計算層で重み付けや変換処理を行うことで、画像認識や自然言語処理など複雑なパターンの学習と予測を可能にします。現代のディープラーニングを支える中心的な技術として、幅広い分野で活用されています。
出力層
出力層とは、ニューラルネットワークの構造において、最終的な結果や予測を出力する一番最後の層のことです。入力データから中間層を経て抽出された特徴をもとに、分類や回帰などのタスクに応じた最終的な数値を算出し、AIモデルの判断を外部へ伝えます。
Leaky ReLU
Leaky ReLUは、ディープラーニングのニューラルネットワークで使われる活性化関数のひとつです。従来のReLU関数で発生する「勾配消失問題」を改善するため、負の入力に対してわずかな傾きを持たせた仕組みが特徴です。
エポック
エポックとは、機械学習やディープラーニングにおいて、訓練用データセット全体をモデルに1回学習させる単位のことです。データが1周学習されると「1エポック」とカウントされます。学習回数を適切に設定することで、AIモデルの予測精度を高めつつ、過学習や未学習を防ぐために重要なハイパーパラメータとして使用されます。
事前学習
事前学習とは、AIモデルに特定のタスクを学習させる前段階として、大量のデータを用いて汎用的な知識やパターンを習得させるプロセスのことです。ディープラーニングや大規模言語モデルの開発において不可欠な手法であり、ゼロから学習させるよりも少ないデータと計算量で高精度なモデルを構築できる転移学習の基礎となっています。
入力層
入力層とは、ニューラルネットワークにおいて外部からデータを受け取り、モデル内部へ受け渡す最初の層です。画像やテキスト、数値などの入力データを適切な形式に変換・調整し、続く隠れ層へと伝達する役割を果たします。データの次元数に応じたユニットで構成され、機械学習モデル全体の精度や処理効率の基礎を支える重要なコンポーネントです。
交差エントロピー誤差
交差エントロピー誤差は、機械学習モデルが出力した確率分布と正解データの確率分布との間の乖離を数値化する損失関数です。分類問題の学習において、モデルの予測精度を高めるための勾配降下法によるパラメータの更新に広く利用されています。
アベレージプーリング
アベレージプーリングは、畳み込みニューラルネットワークにおいて特徴マップの局所的な領域の平均値を計算し、データサイズを縮小するプーリング処理手法です。画像の解像度を下げて計算量を削減しつつ、全体的な特徴を保持する役割を持ちます。
勾配爆発問題
勾配爆発問題とは、深層学習の学習時に誤差逆伝播法を通じて算出される勾配が過度に巨大化し、パラメータの更新が不安定になる、あるいは破綻する現象です。特にRNNなどの深いネットワークで起こりやすく、モデルの学習が正常に進まなくなる重大な課題の一つです。
逆誤差伝播法
逆誤差伝播法とは、ニューラルネットワークの学習において、出力された予測値と正解との誤差をネットワークの逆向きに伝播させ、各パラメータを効率的に更新するためのアルゴリズムです。深層学習の急速な発展を支えた最も重要な基盤技術の一つです。
ダイイングReLU問題
ダイイングReLU問題とは、ディープラーニングの活性化関数であるReLUにおいて、ニューロンの出力が常にゼロになり更新されなくなる現象です。学習中に大きな勾配が流れると重みが負の領域に固定され、ニューロンが実質的に死亡してモデルの表現力が低下します。これを防ぐためにLeaky ReLUなどの派生関数が用いられます。
多層パーセプトロン
多層パーセプトロン（MLP）は、入力層、隠れ層、出力層の複数の層から構成される基本的な人工ニューラルネットワークです。非線形なデータの関係性を学習できるため、現代の深層学習の基礎となる重要なアーキテクチャです。
オートエンコーダ
オートエンコーダは、入力データを一度次元削減して圧縮し、再び元のデータに復元するプロセスを学習する教師なし学習のニューラルネットワークです。データの持つ本質的な特徴抽出や異常検知、ノイズ除去に広く活用されています。
敵対的生成ネットワーク
敵対的生成ネットワーク（GAN）は、生成器と識別器という2つのAIモデルを競い合わせることで、高精度な画像やデータを自動生成するディープラーニングの枠組みです。1人のアーティストと1人の鑑定士が競うように学習し、本物そっくりな偽物を作り出します。
ハイパーパラメタ
ハイパーパラメタとは、機械学習やディープラーニングにおいてモデルの学習を開始する前に人間が手動で設定する構成設定値です。学習率やバッチサイズなどが該当し、モデルがデータから自動的に調整するモデルパラメータとは明確に区別されます。ハイパーパラメタの適切な調整は、モデルの予測精度や学習速度を左右する非常に重要な工程です。