ドロップアウト
ドロップアウトとは、ディープラーニングの訓練時にニューラルネットワーク内のノードをランダムに無効化することで過学習を防ぐ正規化の手法です。特定のノードへの過度な依存を抑え、モデルの汎化性能を高めます。推論時には全ノードを使用するため、手軽に導入できる標準的な手法として幅広く活用されています。
ディープラーニングに関するAI用語を70件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は2ページ目です。
ドロップアウトとは、ディープラーニングの訓練時にニューラルネットワーク内のノードをランダムに無効化することで過学習を防ぐ正規化の手法です。特定のノードへの過度な依存を抑え、モデルの汎化性能を高めます。推論時には全ノードを使用するため、手軽に導入できる標準的な手法として幅広く活用されています。
L2正則化(Ridge正則化)とは、機械学習モデルの過学習を防ぐために損失関数へ重みの2乗和を加算する手法です。モデルの重みが極端に大きくなるのを抑え、未知データに対する予測性能(汎化性能)を向上させます。
画像分類とは、入力された画像全体がどのようなカテゴリに属するかをコンピュータに判定させるAI技術です。例えば、写真に猫が映っているか犬が映っているかを自動で識別するタスクで広く使われており、画像認識の基本技術として多分野で活用されています。
畳み込み層は、畳み込みニューラルネットワーク(CNN)の中心となる層であり、画像や音声などのグリッド状データから局所的な特徴を効率的に抽出する役割を持ちます。AIによる画像認識や物体検出などの分野で不可欠な技術です。
畳み込みニューラルネットワーク(CNN)は、画像認識などの格子状のデータ処理に特化したディープラーニングの一種です。画像の特徴を効率的に抽出する「畳み込み層」と、位置のズレに対する耐性を高める「プーリング層」を組み合わせることで、高精度なパターン認識を実現し、自動運転や画像診断などの分野に大きく貢献しています。
モデルパラメータとは、機械学習モデルの内部に保持され、トレーニング(学習)の過程でデータから自動的に最適化される数値のことです。ニューラルネットワークにおける「重み」や「バイアス」がこれに該当します。このパラメータが入力データを処理する際の係数として機能し、その数が多いほど複雑な表現が可能になりますが、過学習や計算コストの増大といった課題も生じます。
Word2Vecは、大量のテキストデータから単語を多次元のベクトルに変換する機械学習の手法です。単語の持つ意味や文脈上の役割を数値化(分散表現)することで、単語同士の意味の近さを計算したり、単語の足し算・引き算といった演算を行ったりすることを可能にしました。現代の自然言語処理における基礎技術の一つです。
バッチ正規化は、ディープラーニングにおいて各層の入力をミニバッチごとに平均0、分散1に正規化する技術です。内部共変量シフトを抑えることで、学習速度の劇的な向上や初期値への依存性低減、勾配消失の防止といったメリットをもたらします。CNNをはじめとする多くのニューラルネットワークモデルで標準的に採用されています。
転移学習とは、ある領域で学習した知識やモデルを別の関連する領域の学習に再利用する技術です。ゼロからモデルを構築する場合に比べて必要なデータ量や計算コストを大幅に削減でき、データが少ない課題でも高精度な予測を実現します。画像認識や自然言語処理などのディープラーニング領域で広く活用されています。
エポック数とは、機械学習やディープラーニングのモデル訓練において、訓練データ全体を完全に1回学習し終える単位を指す数値です。全体のデータセットを何周させてパラメーターを最適化するかを表します。適切に設定することで予測精度の向上が期待できますが、大きすぎると過学習を招くため慎重な調整が求められます。
学習率とは、機械学習やディープラーニングのモデルを訓練する際に、パラメータを一度にどれだけ更新するかを調整する重要なハイパーパラメーターです。学習率が大きすぎると最適な解を通り過ぎてしまい学習が収束せず、小さすぎるとモデルの学習に非常に時間がかかったり局所解にとらわれたりします。
パディングとは、機械学習やディープラーニングの入力データや特徴量マップの周囲に、0などの特定の値を補う処理です。画像処理では画像の端の情報ロスを防ぎ、自然言語処理では文章の長さを揃えるために必須の技術です。
ソフトマックス関数とは、複数の数値を合計が1になる確率のような分布へと変換する活性化関数です。主にニューラルネットワークの出力層で使われ、多クラス分類問題において各クラスに属する確率を算出する際に重要な役割を果たします。
ReLU関数(Rectified Linear Unit)は、ディープラーニングで広く使われる活性化関数の一つです。入力が0以下の場合は0を出力し、0より大きい場合は入力値をそのまま出力するシンプルな仕組みを持ち、勾配消失問題を軽減して学習を高速化する重要な役割を果たします。
ボイスクローニングとは、AI技術を用いて特定の人物の音声を学習し、その人そっくりの声色や話し方を再現する技術です。数秒から数分程度の音声サンプルがあれば高精度な合成音声を作り出せるため、エンタメやアクセシビリティ分野で活用が期待されています。
リアルタイム音声変換とは、入力された人間の声をほとんど遅延なく別の声質や特徴へと変換する音声処理技術です。ディープラーニングを活用することで、発話の抑揚やニュアンスを維持したまま自然な声へ即座に変換します。配信やゲーム、発話支援など幅広い分野で活用されていますが、悪用防止などの倫理的注意も求められます。
ニューラル機械翻訳(NMT)は、ディープラーニングを応用した高精度な自動翻訳技術です。文章全体をひとつのニューラルネットワークで処理することにより、文脈を考慮した極めて自然で流暢な翻訳を実現します。Google翻訳やDeepLなどのサービスに採用されており、従来の翻訳技術を大きく上回る精度を誇ります。
勾配消失問題とは、ディープラーニングにおいて層を深くした際、ネットワークの逆誤差伝播法で計算される勾配が入力層に近づくにつれて小さくなり、学習が進まなくなってしまう現象です。活性化関数としてシグモイド関数などを使用すると発生しやすく、パラメータの更新が停滞することでモデルの精度向上を妨げる大きな課題となります。
バッチサイズとは、ディープラーニングなどの機械学習において、モデルのパラメータを1回更新するために使用する訓練データのサンプル数のことです。データセット全体を一度に処理するのではなく、小さなグループに分割して学習を進めることで、メモリの消費量を抑えつつ、効率的かつ安定した学習を実現する重要なハイパーパラメータです。
重みとは、人工知能や機械学習モデルにおいて、入力データの特徴が予測結果に与える影響の大きさを表す数値(パラメータ)です。学習の過程でデータをもとに調整され、AIの精度を決定づける重要な要素となります。重みの値が大きくなるほど、その入力情報が最終判断に及ぼす影響が強くなります。
特徴マップとは、畳み込みニューラルネットワーク(CNN)の層において、入力データから抽出された特徴の空間的な分布や強度を示す2次元の配列データです。画像認識やパターン検出などにおいて、AIがどこに着目しているかを可視化する際にも重要な役割を果たします。
画像生成AIとは、テキストプロンプトなどの指示を入力するだけで、自動的に新しい画像を創り出す人工知能技術です。ディープラーニングを活用し、イラストから写真風の画像まで多様な表現を短時間で作成できるため、デザインやエンターテインメントなど幅広い分野で広く活用が進んでいます。
ReLU(レルー)は、ディープラーニングのニューラルネットワークで広く用いられる活性化関数の一種です。入力値が0以下の場合は0を出力し、0を超える場合は入力をそのまま出力するという単純な計算ルールを持ちます。計算が非常に高速で、勾配消失問題を緩和できるため、現代の深層学習モデルにおいてデファクトスタンダードとして定着しています。
CUDAとは、NVIDIAが開発したGPU向けの汎用並列コンピューティングプラットフォームおよびプログラミングモデルです。AI開発やディープラーニングの学習・推論において不可欠な技術であり、大量の数値を高速に処理することを可能にします。