サドルポイント
サドルポイントとは、ある方向では極小値であり別の方向では極大値となる、馬の鞍のような形状の点のことです。ディープラーニングなどの機械学習における損失関数の最適化において、勾配がゼロになるため学習が停滞する原因として注目されます。
ディープラーニングに関するAI用語を364件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は8ページ目です。
サドルポイントとは、ある方向では極小値であり別の方向では極大値となる、馬の鞍のような形状の点のことです。ディープラーニングなどの機械学習における損失関数の最適化において、勾配がゼロになるため学習が停滞する原因として注目されます。
AIや機械学習において、モデルの性能を左右する調整可能な変数を指します。ニューラルネットワークの結合重みやバイアスなどが代表例で、膨大なデータを用いた学習プロセスを通じて最適化され、高精度な予測や生成を実現する中核となります。
排他的論理和(XOR)とは、2つの入力の一方のみが真(1)である場合にのみ出力が真(1)となる論理演算です。AIや機械学習の歴史においては、初期の単純パーセプトロンがこの非線形な排他的論理和問題を解決できなかったことが大きな課題となり、後の多層パーセプトロンやディープラーニング発展の契機となりました。
画像生成モデルとは、テキストや数値などの入力から、AIが自動的に新しい画像を創り出すディープラーニングの仕組みです。クリエイティブな作業やデザイン分野で広く活用されています。
勾配爆発問題とは、深層学習の学習時に誤差逆伝播法を通じて算出される勾配が過度に巨大化し、パラメータの更新が不安定になる、あるいは破綻する現象です。特にRNNなどの深いネットワークで起こりやすく、モデルの学習が正常に進まなくなる重大な課題の一つです。
AIマッティング(AI Matting)は、ディープラーニングを用いて画像や動画から人物などの被写体と背景を高精度に分離するコンピュータビジョン技術です。従来の技術では困難だった髪の毛や半透明の物体などの複雑な境界線を、ピクセルごとに透過度(アルファチャンネル)を算出することで美しく切り出すことができます。
データ並列化は、巨大なデータセットを複数のプロセッサやGPUに分割して同時に処理し、機械学習モデルの訓練時間を大幅に短縮するための分散学習手法です。各デバイスが同じモデルを持ちながら異なるデータ部分を担当します。
自動回帰とは、過去のデータや直前に生成した情報をもとに、次のデータを予測・生成する手法です。時系列データ解析だけでなく、大規模言語モデルなどの生成AIにおいて、文章を1単語ずつ順番に予測して書き進める基本的な仕組みとして不可欠な役割を果たしています。
チェックポイントとは、機械学習モデルの訓練途中でその時点の重みやパラメータの状態を保存したファイルのことです。長時間かかる学習処理の途中で発生する障害への対策や、過学習を避けて最適な段階のモデルを再利用するために利用されます。
NeRF(Neural Radiance Fields、ナーフ)は、複数枚の2D画像からニューラルネットワークを用いて高精度な3Dシーンを再構成する技術です。従来の3Dモデリングとは異なり、空間の各点における密度と光の放射強度を暗黙的に学習することで、写真のようにリアルな視点合成画像を生成できます。
グローバルミニマとは、機械学習や最適化問題において、取りうるすべての範囲の中で関数の値が最も小さくなる大域的最小値のことです。モデルの精度を極限まで高める理想的な状態ですが、AIの学習ではその発見が困難な場合が多くあります。
モデル重みとは、人工知能や機械学習モデルの内部で情報の重要度を調整し、入力データから正確な出力を導くために使われる数値のパラメータです。学習の過程で最適化され、AIの性能を左右する極めて重要な要素となります。
VRAM(ビデオRAM)は、GPU専用の超高速なメモリ領域です。ディープラーニングなどのAI処理において、大規模なモデルデータや計算中の中間データを一時的に保持する役割を担います。VRAMの容量や転送速度は、動作させるAIモデルの規模や処理速度に直結するため、AIの学習や推論を実行するハードウェアの選定において最も重要なスペックの一つです。
混合精度学習とは、ディープラーニングのモデル訓練において、従来の32ビット浮動小数点数(FP32)に加えて16ビット浮動小数点数(FP16やBF16)を組み合わせる計算手法です。計算速度の向上とメモリ消費量の削減を同時に実現し、巨大なAIモデルの学習効率を劇的に高める技術として幅広く活用されています。
オプティマイザは、機械学習やディープラーニングの訓練において、モデルの予測誤差を最小化するためにパラメータを効率的に更新するアルゴリズムです。損失関数の勾配を利用して重みを調整し、学習の速度や精度を大きく左右する重要な役割を持ちます。
ハードターゲットとは、機械学習の分類問題において正解ラベルを「0か1か」の確信的な値として与える教師データの表現方法です。ニューラルネットワークの学習時に広く使われますが、過剰適合を引き起こすリスクがあるため注意が必要です。
RMSpropは、ディープラーニングなどのニューラルネットワーク学習において用いられる最適化アルゴリズムの一つです。過去の勾配の自乗平均を指数移動平均として保持・更新することで、学習率を適応的に調整します。これによりAdaGradで問題となっていた学習後半の学習率の極端な低下を防ぎ、安定したパラメーターの更新を可能にします。
大規模モデルとは、膨大なデータと無数のパラメーターを用いて構築された人工知能モデルの総称です。深層学習技術の進歩に伴い、文章生成や画像認識などで従来の技術を超える高度な処理能力を実現しました。事前学習によって汎用的な知識を獲得し、多目的なタスクに適応できる点が特徴で、現代の生成AIを支える基盤技術となっています。
AIウォーターマークとは、生成AIが作成したテキストや画像などのコンテンツに、人間には知覚できない隠し署名を埋め込む技術です。フェイクニュースの拡散防止や著作権保護の有効な手段として注目されています。
変分オートエンコーダーは、確率分布を利用してデータを低次元の潜在空間に圧縮し、新しいデータを生成するディープラーニング手法です。従来のオートエンコーダーとは異なり、データを連続的な空間として表現するため、滑らかなデータ補間や安定した画像生成が可能です。異常検知や画像生成など多様な分野で応用されています。
物理情報ニューラルネットワーク(PINN)は、物理法則(偏微分方程式など)を損失関数に組み込むことで、少量のデータでも物理的に妥当な予測を行うディープラーニング手法です。シミュレーションや工学設計など、データが限られた領域で威力を発揮します。
画像診断におけるAIの活用は、X線やMRIなどの医療画像をディープラーニング技術を用いて解析し、医師の病変発見や診断を支援する仕組みです。読影時間の短縮や見落としの軽減が期待される一方で、誤認識のリスクや法的責任の所在など課題も残されています。
点群ニューラルネットワークは、3次元空間上の点の集合である点群データを直接処理するためのディープラーニングモデルです。自動運転やロボティクス、ARなどの分野で、3D形状の認識やセグメンテーションに広く活用されています。
Mask R-CNNは、Faster R-CNNを拡張し、物体検出と同時にピクセル単位のセグメンテーション(インスタンスセグメンテーション)を行うディープラーニングモデルです。画像内の個々のオブジェクトを正確な形状で切り分けることが可能です。