敵対的学習
敵対的学習とは、あえてモデルが誤認しやすい特殊なノイズを加えたデータを学習させることで、AIの頑健性を高める機械学習の手法です。悪意ある攻撃に対する防御力を向上させるために広く活用されています。
ニューラルネットワークに関するAI用語を55件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は2ページ目です。
敵対的学習とは、あえてモデルが誤認しやすい特殊なノイズを加えたデータを学習させることで、AIの頑健性を高める機械学習の手法です。悪意ある攻撃に対する防御力を向上させるために広く活用されています。
エコー状態ネットワーク(ESN)は、リザーバコンピューティングと呼ばれる枠組みに基づく再帰型ニューラルネットワーク(RNN)の一種です。中間層の結合重みをランダムに初期化したまま固定し、出力層の重みのみを学習させることで、従来のRNNで課題となっていた学習コストの高さや勾配消失問題を劇的に改善し、高速な時系列データ処理を実現します。
人工神経回路網(ANN)とは、人間の脳にある神経細胞(ニューロン)のネットワークを模した数理モデルです。入力されたデータに対して、重み付けや活性化関数を用いた計算を重ねることで、高度なパターン認識や予測を行います。現代のディープラーニングの基礎となる技術であり、画像認識や自然言語処理など幅広い分野で活用されています。
中間層とは、人工ニューラルネットワークにおいて入力層と出力層の間に位置する階層の総称です。入力されたデータから複雑な特徴やパターンを自動的に抽出し、高度な判断や予測を行うためのディープラーニングの根幹を担う重要な仕組みです。
内挿性能とは、機械学習モデルが学習データの分布の内部や範囲内にある未知のデータに対して、高精度に予測や処理を行える能力のことです。学習データの傾向を正しく捉えているか評価する重要な指標となります。
リザーバー計算とは、固定された複雑な中間構造(リザーバー)を用いて時系列データを高速に処理する機械学習の手法です。入力層や中間層の重みを固定し、出力層の重みのみを学習させるため、従来のニューラルネットワークに比べて計算コストや学習時間を劇的に削減できます。省電力なエッジAIやリアルタイム予測への応用が期待されています。
力学系とは、時間が経つにつれて状態がどのように変化するかを数学的に記述する枠組みです。AIや機械学習の分野では、ニューラルネットワークの動作解析や連続時間モデルの理解、深層学習の表現力を解き明かすための基礎理論として広く活用されています。
ボルツマンマシンとは、統計力学のエネルギー関数の考え方を応用した確率的なニューラルネットワークの一種です。各ノードが相互に結合されたネットワーク構造を持ち、データ背景にある確率分布を学習する生成モデルとして開発されました。学習計算が非常に複雑なため、接続を制限した制限付きボルツマンマシンなどの派生手法の基礎となりました。
単層パーセプトロンとは、入力層と出力層のみで構成される最も基本的な人工ニューラルネットワークのモデルです。複数の入力に対して重みとバイアスを適用し、活性化関数を通じて二値分類を行います。深層学習の原点となった概念ですが、線形分離可能な問題しか解けないという数学的な限界を持ちます。
Hopfieldネットワークとは、1982年に提案された、相互結合型の人工ニューラルネットワークです。情報をネットワークの「エネルギー」が最小となる状態として記憶し、不完全な情報から元の記憶を復元する「連想メモリ」として機能する特徴を持ち、脳の記憶再現や最適化問題に活用されます。
自然勾配降下法は、確率的モデルのパラメータ空間における確率分布の幾何学的な歪みを考慮し、真の距離に基づいて効率的な学習を行う最適化アルゴリズムです。
普遍性定理とは、十分な数のニューロンを持つ単純なニューラルネットワークであっても、適切なパラメータを設定すれば任意の連続関数を高精度に近似できるという数学的な定理です。ディープラーニングが複雑なパターンを学習できる理論的根拠となっています。
破局的忘却とは、機械学習モデルが新しいデータを学習する際に、これまで学習していた古いデータを急速に忘れてしまう現象です。人工知能の継続的な学習を阻む大きな壁として知られており、対策の研究が進められています。
相互結合型ニューラルネットワークとは、ネットワーク内のすべてのノード間が双方向に結合を持つ、または時系列データを処理するために循環構造を持つニューラルネットワークの総称です。情報の記憶や複雑なパターン認識に用いられます。
外部からの直接的な指示や制御なしに、システム内部の相互作用によって自律的に秩序ある構造やパターンが形成される現象。AIや機械学習においては、自己組織化マップ(SOM)などに代表され、教師なし学習によってデータの類似性を視覚的に整理・クラスタリングする技術として応用されている。
連想記憶とは、入力された一部の情報や類似した手がかりから、過去に記憶した関連情報を完全な形で思い出す仕組みです。脳の記憶機能を模倣したニューラルネットワークの基礎として、AIやパターン認識の分野で広く研究されています。
全結合ニューラルネットワークとは、ある層のすべてのニューロンが次の層のすべてのニューロンと結合している基本的なニューラルネットワーク構造です。データの全体的な関係性を捉えるのに適しており、ディープラーニングの基礎となる重要なアーキテクチャです。
ゲートメカニズムとは、ニューラルネットワークにおいて情報の流れを動的に制御する仕組みです。LSTMやGRUなどのリカレントニューラルネットワークで広く使われ、重要な情報を保持し不要な情報を忘れることで、長期間の依存関係学習を可能にします。
フォワードパスとは、ニューラルネットワークにおいて入力データをモデルの最初から最後まで一方向に流し、予測値を出力するプロセスのことです。順伝播とも呼ばれ、AIが推論を行う際の基本動作となります。
アジュイント法(随伴変数法)は、大規模なシステムにおいて、設計変数に対する出力の感度(勾配)を効率的に計算する数学的手法です。ニューラルODEなどの連続時間ニューラルネットワークの学習で重要な役割を果たします。順方向のシミュレーションと逆方向の随伴方程式の解法を組み合わせることで、メモリ消費量を抑えつつ高速な最適化を可能にします。
機械学習やシミュレーションにおいて、学習や計算を開始する直前のシステムやパラメータの状態のこと。AI分野では、ニューラルネットワークの初期重みの設定や、最適化アルゴリズムの探索開始地点などが代表的な初期条件であり、モデルが適切に学習できるか、あるいは局所解に陥るかを決定付ける極めて重要な要素です。
深層学習モデルとは、多層のニューラルネットワークを用いてデータから特徴量を自動で抽出し、高度な予測や認識を行う機械学習モデルの総称です。画像認識や自然言語処理など、現代の人工知能技術の基盤として広く活用されています。
スキップコネクションとは、深層学習のニューラルネットワークにおいて、ある層の出力を中間の層を飛ばして先の層へ直接伝達する技術です。層を深くした際に生じる勾配消失問題などを防ぎ、モデルの学習を安定化・高速化させる役割を果たします。ResNetなどの代表的なモデルで広く採用されています。
自己符号化は、入力データをより低次元の潜在空間へ圧縮し、再び元のデータへと復元する学習を行うニューラルネットワークの手法です。教師なし学習の代表例であり、次元削減やノイズ除去、異常検知などに幅広く活用されています。