ストライド
ストライドとは、CNNなどの畳み込み層においてフィルターを移動させる際のステップ幅のことです。値が大きいほど出力マップのサイズが小さくなり、計算効率が向上しますが、詳細な特徴量が失われるトレードオフがあります。
ディープラーニングに関するAI用語を364件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は3ページ目です。
ストライドとは、CNNなどの畳み込み層においてフィルターを移動させる際のステップ幅のことです。値が大きいほど出力マップのサイズが小さくなり、計算効率が向上しますが、詳細な特徴量が失われるトレードオフがあります。
Stable Diffusionは、テキストの指示から高品質な画像を生成できるオープンソースの深層学習モデルです。潜在拡散モデルを採用しており、消費者向けの一般的なパソコンでも実行できる手軽さから、クリエイティブ分野や研究開発で広く活用されています。
デコーダーとは、AIや機械学習の分野において、エンコーダーなどが処理した潜在表現や数値データをもとに、人間にとって理解しやすい言語や画像、音声などの具体的な出力へ変換する役割を持つ中核的なコンポーネントです。
ミニバッチ学習とは、機械学習の訓練においてデータを小さなまとまりに分割して学習を行う手法です。計算効率と精度のバランスが良く、ディープラーニングの標準的な最適化手法として広く利用されています。
識別器とは、入力されたデータがどのカテゴリに属するかを判定する機械学習アルゴリズムやモデルのことです。画像認識やスパムメール判定など、AIのさまざまな分類タスクにおいて中心的な役割を果たしています。
学習率とは、機械学習やディープラーニングのモデルを訓練する際に、パラメータを一度にどれだけ更新するかを調整する重要なハイパーパラメーターです。学習率が大きすぎると最適な解を通り過ぎてしまい学習が収束せず、小さすぎるとモデルの学習に非常に時間がかかったり局所解にとらわれたりします。
ボイスクローニングとは、AI技術を用いて特定の人物の音声を学習し、その人そっくりの声色や話し方を再現する技術です。数秒から数分程度の音声サンプルがあれば高精度な合成音声を作り出せるため、エンタメやアクセシビリティ分野で活用が期待されています。
ドロップアウトとは、ディープラーニングの訓練時にニューラルネットワーク内のノードをランダムに無効化することで過学習を防ぐ正規化の手法です。特定のノードへの過度な依存を抑え、モデルの汎化性能を高めます。推論時には全ノードを使用するため、手軽に導入できる標準的な手法として幅広く活用されています。
畳み込み層は、畳み込みニューラルネットワーク(CNN)の中心となる層であり、画像や音声などのグリッド状データから局所的な特徴を効率的に抽出する役割を持ちます。AIによる画像認識や物体検出などの分野で不可欠な技術です。
モデル並列とは、単一のGPUなどのハードウェアメモリに収まらない巨大なAIモデルを複数のプロセッサに分割して配置し、協調して学習や推論を行う分散処理手法です。大規模言語モデルなどの巨大化に伴い、メモリ不足を解消して計算を実行するために不可欠な技術となっています。データ並列と組み合わせて活用されます。
プルーニングとは、ディープラーニングモデルの精度に大きく影響しない不要なニューロンや結合を削除し、モデルを軽量化・効率化する技術です。計算量を減らして推論速度を向上させます。
自己回帰モデルは、時系列データや文章などのシーケンスデータにおいて、過去の自身の出力を未来の予測に利用する統計・機械学習モデルです。自然言語処理の分野で広く使われる大規模言語モデル(LLM)の基盤技術であり、直前に生成された単語を次の単語予測の入力として逐次的に処理することで、自然な文章生成を可能にします。
蒸留(知識蒸留)とは、巨大な高性能なニューラルネットワーク(教師モデル)が持つ知識を、より軽量でコンパクトなモデル(生徒モデル)に効率よく引き継がせる技術です。精度を極力落とさずに処理速度を向上させられるため、AIの実用化において広く活用されています。
エンコーダーとは、入力されたデータをAIが処理しやすい別の表現や数値の形式に変換する仕組みのことです。画像やテキストなどの生データを特徴量として抽出し、特徴ベクトルへと圧縮する役割を持ちます。
BERTはGoogleが開発した自然言語処理モデルです。Transformerを双方向に学習する仕組みにより、文脈を深く理解でき、AIの言語理解能力を飛躍的に向上させました。
特徴マップとは、畳み込みニューラルネットワーク(CNN)の層において、入力データから抽出された特徴の空間的な分布や強度を示す2次元の配列データです。画像認識やパターン検出などにおいて、AIがどこに着目しているかを可視化する際にも重要な役割を果たします。
Leaky ReLUは、ディープラーニングのニューラルネットワークで使われる活性化関数のひとつです。従来のReLU関数で発生する「勾配消失問題」を改善するため、負の入力に対してわずかな傾きを持たせた仕組みが特徴です。
GAN(Generative Adversarial Network)とは、生成ネットワークと識別ネットワークという2つのニューラルネットワークを競い合わせることで、高精度な偽データを作り出す深層学習の枠組みです。画像生成などで大きな成果を上げています。
分子動力学(MD)は、原子や分子の物理的な運動をコンピュータ上でシミュレーションし、物質の微視的な振る舞いや熱力学的性質を解析する手法です。近年は、ディープラーニングなどのAI技術を用いたニューラルネットワークポテンシャルの導入により、第一原理計算に迫る高い精度と、従来の古典的計算手法に匹敵する高速性を両立したシミュレーションが可能になっています。
オール・リデュース方式とは、分散環境における複数のGPUやノード間で、計算された勾配などのデータを効率的に集約・同期するための通信アルゴリズムです。大規模なディープラーニングモデルの学習時間を大幅に短縮するために不可欠な技術となっています。
計算グラフとは、数式や計算処理のプロセスを、ノード(操作)とエッジ(データの流れ)からなる有向グラフで表現したデータ構造です。ディープラーニングにおいて、複雑なニューラルネットワークの順伝播と逆伝播を効率的に自動微分で計算するために不可欠な技術となっています。
大域的極小解とは、最適化問題において、目的関数の定義域全体の中で最も値が小さくなる点を指します。機械学習やディープラーニングのモデル訓練では、損失関数を最小化するパラメータを探索する際、この大域的極小解を見つけることが理想とされます。局所的な最適解である局所的極小解と対比される重要な概念です。
分散学習とは、複数のコンピュータやGPUを用いて大規模なAIモデルを効率的に訓練する手法です。単一のハードウェアでは処理しきれない膨大なデータや巨大なパラメータを持つモデルを、計算資源を並列化することで高速かつ大容量に処理することが可能になります。
教師モデルとは、知識蒸留などの手法において、あらかじめ高度な学習を完了させた性能の高いAIモデルのことです。自己のもつ豊富な知識や出力確率の傾向を、より軽量な生徒モデルへ引き継ぐことで、AIの軽量化や効率化を実現します。