エネルギーベースモデル
エネルギーベースモデル(EBM)は、取り得る各データや状態に対して「エネルギー」と呼ばれるスカラー値を割り当て、エネルギーが低い状態ほど自然で妥当であるとみなして確率分布を表現する柔軟な機械学習フレームワークです。
ディープラーニングに関するAI用語を364件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は7ページ目です。
エネルギーベースモデル(EBM)は、取り得る各データや状態に対して「エネルギー」と呼ばれるスカラー値を割り当て、エネルギーが低い状態ほど自然で妥当であるとみなして確率分布を表現する柔軟な機械学習フレームワークです。
AIアクセラレータは、人工知能やディープラーニングの計算処理を高速かつ効率的に行うために設計された専用のハードウェアのことです。膨大な行列演算などを並列処理する能力に優れており、スマートフォンの音声・画像認識からデータセンターでの大規模言語モデルの学習まで、現代のAI技術を支える基盤となっています。
モデル容量とは、AIモデルが学習データ内のパターンや複雑な関係性をどれだけ正確に記憶・表現できるかを示す指標です。一般的にパラメータ数やネットワークの規模が大きいほどモデル容量は高くなりますが、過学習のリスクも増大するため適切な調整が求められます。
分散型学習とは、大規模な機械学習モデルの訓練を複数の計算資源に分割して効率的に実行する手法です。データやモデルを分割し、複数のGPUやサーバーで並列処理を行うことで、膨大なデータセットや巨大なパラメータを持つディープラーニングモデルの学習時間を大幅に短縮します。
内部共変量シフトとは、ディープラーニングの学習中において、中間層への入力データの分布が層ごとに変化してしまう現象です。この現象はモデルの学習を不安定にし、収束を遅らせる要因となるため、バッチ正規化などの手法で対策されます。
レイヤー正規化は、ディープラーニングにおいて各データの各層における活性化値をサンプル単位で正規化する技術です。バッチサイズに依存せず安定した学習が可能になるため、Transformerや再帰型ニューラルネットワークなどの自然言語処理モデルで広く採用されています。勾配消失の抑制や学習の高速化に大きく貢献します。
中間層とは、人工ニューラルネットワークにおいて入力層と出力層の間に位置する階層の総称です。入力されたデータから複雑な特徴やパターンを自動的に抽出し、高度な判断や予測を行うためのディープラーニングの根幹を担う重要な仕組みです。
逆誤差伝播法とは、ニューラルネットワークの学習において、出力された予測値と正解との誤差をネットワークの逆向きに伝播させ、各パラメータを効率的に更新するためのアルゴリズムです。深層学習の急速な発展を支えた最も重要な基盤技術の一つです。
AIモデルのトレーニングに必要な計算資源や時間、費用などを指す「計算コスト」と、人間が新しいAI技術を習得・運用するために必要な時間や労力を指す「認知的学習コスト」の2つの側面を持つ概念。本用語は、モデル開発時のインフラ投資規模を測る指標であると同時に、実務への技術導入障壁を表す指標でもあります。
畳み込み処理とは、画像などのデータに対してフィルター(カーネル)をスライドさせながら局所的な特徴を抽出する数学的な操作です。ディープラーニングにおける畳み込みニューラルネットワーク(CNN)の核心技術として、画像認識や音声処理などで広く活用されています。
モデル蒸留とは、大規模で高精度なAIモデル(教師モデル)が持つ知識を、より軽量で小さなAIモデル(生徒モデル)に継承させる機械学習の手法です。モデルのサイズや計算コストを大幅に削減しつつ、元の高精度な予測能力を維持できるため、スマートフォンや組み込み機器などのリソースが限られた環境でのAI活用に貢献します。
顔検出とは、画像や動画の中から人間の顔の位置や領域を特定するAI技術です。顔認識の前段階として広く利用されており、スマートフォンでのオートフォーカスや防犯カメラの人物特定など、さまざまな応用分野で活用されています。
サドルポイントとは、ある方向では極小値であり別の方向では極大値となる、馬の鞍のような形状の点のことです。ディープラーニングなどの機械学習における損失関数の最適化において、勾配がゼロになるため学習が停滞する原因として注目されます。
画像生成モデルとは、テキストや数値などの入力から、AIが自動的に新しい画像を創り出すディープラーニングの仕組みです。クリエイティブな作業やデザイン分野で広く活用されています。
勾配爆発問題とは、深層学習の学習時に誤差逆伝播法を通じて算出される勾配が過度に巨大化し、パラメータの更新が不安定になる、あるいは破綻する現象です。特にRNNなどの深いネットワークで起こりやすく、モデルの学習が正常に進まなくなる重大な課題の一つです。
PCI Expressは、コンピュータのマザーボード上でCPUとGPUやSSDなどの周辺機器を高速に接続するための拡張バス規格です。近年の生成AIの学習や推論において、膨大なデータを高速にやり取りするための基盤技術として不可欠な存在となっています。
ノイズキャンセリングとは、機械学習やディープラーニングを活用して音声データから周囲の雑音を除去する技術です。AIが人間の声と不要な環境音を識別し、クリアな音声を抽出することで、音声認識の精度向上や快適な通話環境を実現します。
姿勢推定とは、画像や動画から人間や物体の関節や骨格の位置を検出し、そのポーズを特定するコンピュータビジョン技術です。ディープラーニングの発展により高精度化が進み、スポーツ分析から医療、エンターテインメントまで幅広く活用されています。
AIやディープラーニングにおけるゲートとは、情報の通過や遮断を動的に制御するメカニズムのことです。LSTMなどのリカレントニューラルネットワークやトランスフォーマーにおいて、重要度に応じて情報の流れを調整し、長文脈の学習や勾配消失問題の緩和に貢献します。
AIプロセッサとは、人工知能の計算処理に特化した専用の半導体チップです。膨大なデータを並列処理するディープラーニングや機械学習の実行において、従来のCPUよりも圧倒的な高速性と高い電力効率を発揮し、現代のAI技術の発展を根底から支えています。
機械学習コンパイラは、AIモデルの計算グラフを最適化し、多様なハードウェア上で高速に実行するための専用プログラムです。深層学習の処理を効率化する基盤技術として、エッジデバイスからクラウドまで広く活用されています。
AIにおける短期記憶とは、システムが現在処理しているタスクや、進行中の会話などの直近の情報を一時的に保持・活用する機能のことです。リカレントニューラルネットワーク(RNN)や長・短期記憶(LSTM)の内部状態、大規模言語モデル(LLM)のプロンプト領域(コンテキストウィンドウ)などがこれに該当し、一貫した文脈理解において重要な役割を果たします。
静的計算グラフとは、ディープラーニングのモデルを実行する前に全体の計算手順を固定して構築する仕組みです。プログラムの実行前にグラフ全体を最適化できるため、高速な処理や大規模な分散学習に向いています。一方で、途中で処理の動的な変更がしにくいという特徴があります。
ONNX(Open Neural Network Exchange)は、異なる機械学習フレームワーク間でモデルを相互運用するためのオープンな標準フォーマットです。学習済みモデルを別のフレームワークや推論エンジンに変換して実行できるため、開発の柔軟性が大きく向上します。