モデル並列化
モデル並列化とは、巨大なニューラルネットワークのモデルを複数のGPUやノードに分割して配置し、並行して計算を行う手法です。単一のデバイスのメモリ容量では収まらない大規模なモデルを効率的に訓練・実行するために不可欠な技術として、近年の生成AI開発などで広く活用されています。
ディープラーニングのAI用語一覧（15ページ目）
364件ディープラーニングに関するAI用語を364件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は15ページ目です。
He初期化
He初期化とは、ディープラーニングの神経回路網において、畳み込み層などで広く使われるReLU関数に最適化された重みの初期化手法です。層が深くなっても学習が停滞する勾配消失を防ぎ、効率的なモデル学習を可能にします。
VGG
VGGは、オックスフォード大学の研究チームが開発した代表的な畳み込みニューラルネットワーク（CNN）のアーキテクチャです。3×3の小規模な畳み込みフィルタを重ねて層を深める構造が特徴であり、転移学習や画風変換などの画像処理タスクで広く利用されています。
残差ネットワーク
ResNet（残差ネットワーク）は、スキップコネクションという構造を用いて勾配消失問題を軽減し、ディープラーニングの層を劇的に深くすることを可能にした画期的なニューラルネットワークアーキテクチャです。
混合精度演算
混合精度演算とは、AIの学習や推論においてFP16（半精度浮動小数点数）とFP32（単精度浮動小数点数）などの異なる数値精度を組み合わせて計算する手法です。計算速度の向上とメモリ使用量の削減を達成しながら、モデルの予測精度低下を最小限に抑えることができます。ディープラーニングの計算を効率化する標準技術です。
トランスフォーマーモデル
トランスフォーマーモデルは、2017年に発表されたディープラーニング（深層学習）のアーキテクチャです。文脈全体の依存関係を同時に計算する自己アテンションメカニズムを採用し、従来のニューラルネットワークに比べ劇的な処理速度と精度の向上を実現しました。現在の生成AIや大規模言語モデル（LLM）の基盤技術として、自然言語処理を中心に広く応用されています。
再帰ニューラルネットワーク
再帰ニューラルネットワーク（RNN）は、時間的な順序や文脈を考慮して時系列データや自然言語を処理するニューラルネットワークの一種です。中間層の出力を次の処理へ再帰的に入力する構造により、過去の情報を記憶して処理に反映できるのが特徴です。音声認識や機械翻訳の基礎として広く用いられてきました。
リプレイメモリ
リプレイメモリとは、強化学習においてエージェントが過去に経験した状態や行動、報酬などのデータを一時的に保存し、ランダムに抽出して学習に利用する仕組みです。データの相関関係を断ち切り、効率的で安定したニューラルネットワークの学習を実現するために広く用いられています。
神経常微分方程式
神経常微分方程式（Neural ODEs）とは、ディープラーニングの層の深さを連続的な時間変化として捉え、常微分方程式を用いてデータの変化をモデル化する手法です。ResNetのような離散的な層構造を連続関数に拡張することで、メモリ効率の向上や不規則な時系列データの自然な処理を実現します。
逆伝播法
逆伝播法は、ニューラルネットワークの学習において出力側の誤差を逆向きに伝え、パラメータを効率的に調整するための基礎的なアルゴリズムです。深層学習の発展には欠かせない技術であり、多層構造のモデルを正確に訓練することを可能にします。
フィードフォワード型ニューラルネットワーク
フィードフォワード型ニューラルネットワークは、情報が一方向にのみ流れる基本的な人工ニューラルネットワークです。入力から出力へ向かって処理が進み、ループ構造を持たないため、画像認識や分類タスクなど幅広いAI技術の基礎として活用されています。
アンカーボックス
アンカーボックスは、物体検出アルゴリズムにおいて、画像内の対象物の位置や大きさを予測するための基準となる、あらかじめ定義された矩形のことです。検出したい物体の代表的なアスペクト比やサイズを事前に複数設定し、モデルがこれを調整・修正することで、多様な形状の物体を高速かつ高精度に検出できます。
ILSVRC
ILSVRCとは、大規模画像データセットImageNetを用いた画像認識の精度を競う世界的なコンペティションです。2012年にディープラーニングモデルのAlexNetが圧倒的な成績を収めたことで、現代のAIブームの火付け役となりました。
忘却ゲート
忘却ゲートは、LSTMなどの再帰型ニューラルネットワークにおいて、過去の記憶から不要になった情報をどれだけ捨てるかを調整する仕組みです。新しい情報が入力された際に、古いセル状態の保持割合を0から1の値で決定することで、長年の課題であった勾配消失問題を軽減し、時系列データの長期的依存関係の学習を可能にします。
モデルマージ
モデルマージとは、それぞれ異なるデータやタスクで学習済みの複数のAIモデルの重みを統合し、新たな追加学習を行わずに複数の能力を兼ね備えた単一のモデルを作り出す技術です。効率的なAI開発手法として注目されています。
神経回路網
神経回路網とは、人間の脳の神経細胞の仕組みを模して作られた情報処理の数理モデルです。人工知能やディープラーニングの基礎技術として、画像認識や自然言語処理など幅広い分野で応用されています。
マルチモーダル学習
マルチモーダル学習とは、テキスト、画像、音声、動画などの異なる種類のデータを組み合わせてAIに学習させる技術です。人間が視覚や聴覚、言語などを統合して物事を理解するように、より高度で文脈に沿った判断を可能にする手法として注目を集めています。
ビジョントランスフォーマー
ビジョントランスフォーマー（Vision Transformer）とは、自然言語処理で主流となったTransformerのアーキテクチャを画像認識分野に応用したディープラーニングモデルです。従来のCNNに依存せず、画像全体の関係性を捉えることで高い性能を発揮します。
デンスデータ
デンスデータとは、大半の要素に意味のある数値が格納されている密なデータのことであり、機械学習やディープラーニングのモデルにおいて効率的な特徴量表現として扱われます。
Mixture of Experts（MoE）
Mixture of Experts（MoE）は、複数の「専門家（エキスパート）」と呼ばれる小規模なニューラルネットワークを組み合わせ、入力データに応じて適切な専門家を選択して処理を行う機械学習のアーキテクチャです。全パラメータを同時に活性化させない「スパース活性化」により、計算コストを抑えながらモデルのパラメータ数を大幅に巨大化させることが可能です。
Region Proposal Network
Region Proposal Network（RPN）は、画像認識における物体検出タスクにおいて、検出対象の物体が存在する可能性が高い領域（候補領域）を高速に予測する畳み込みニューラルネットワーク（CNN）の一種です。Faster R-CNNなどで導入され、従来の選択的探索アルゴリズムをネットワークに統合することで、物体検出全体の処理速度と精度を劇的に向上させました。
YOLO
YOLO（You Only Look Once）は、画像中の物体を高速かつ高精度に検出するディープラーニングアルゴリズムです。従来の物体検出手法とは異なり、画像全体を一度だけ畳み込みニューラルネットワークに入力して物体の位置と種類を同時に予測するため、リアルタイム処理に非常に優れています。防犯カメラや自動運転など幅広く活用されています。
スケーリング則
スケーリング則とは、AIモデルの性能が計算資源、データ量、パラメータ数の増加に対してどのように向上するかを数学的に示す法則です。大規模言語モデルの開発効率を高める予測指標として、現代のAI研究において非常に重要な役割を果たしています。
スパースモデル
スパースモデルとは、AIモデルの内部パラメータのうち、特定の入力に対して実際に活性化・稼働する割合を意図的に抑えて効率化する手法です。計算コストを削減しつつ性能を維持できるため、大規模言語モデルなどの高速化に不可欠な技術として注目されています。