Hopfieldネットワークとは、1982年に提案された、相互結合型の人工ニューラルネットワークです。情報をネットワークの「エネルギー」が最小となる状態として記憶し、不完全な情報から元の記憶を復元する「連想メモリ」として機能する特徴を持ち、脳の記憶再現や最適化問題に活用されます。
Hopfieldネットワークとは
Hopfieldネットワークは、すべてのニューロンが双方向に結合された構造を持つ、対称型の「相互結合型ニューラルネットワーク」です。脳の記憶想起メカニズムをモデル化したもので、入力された不完全なデータやノイズを含むデータから、あらかじめ記憶させた正しいパターンを復元する「連想メモリ」や、「組み合わせ最適化問題」を解く手法として用いられます。
詳しく解説
Hopfieldネットワークの最大の特徴は、「エネルギー関数」の導入にあります。ネットワーク全体のエネルギー状態は、ニューロンの状態が更新されるたびに常に減少、あるいは一定に保たれるという物理的な安定性を持っています。記憶したいパターンを結合荷重（重み）に埋め込んでおくと、エネルギーの谷（局所最小値）がその記憶に対応するようになります。不完全な初期状態からスタートすると、ニューロン同士が影響を及ぼし合いながら、最終的に最も近いエネルギーの谷へと状態が収束し、正しい記憶が想起されます。この仕組みは統計力学におけるスピングラスモデルの理論を応用したものです。
具体例・使われ方
具体的な利用例として「パターンのノイズ除去」があります。例えば、一部が欠損したりノイズが混ざったりした文字画像を入力すると、ネットワークは過去に学習した完全な文字を想起・復元します。また、都市を効率よく巡る経路を探す「巡回セールスマン問題」のような、膨大な選択肢から最適な組み合わせを見つけ出す「組み合わせ最適化問題」を、エネルギー最小化プロセスを利用して近似的に解く際にも応用されています。
似た用語との違い
入力から出力へ一方向にのみ信号を伝達する「フィードフォワードニューラルネットワーク」とは異なり、Hopfieldネットワークは双方向に信号が行き来する「相互結合型ニューラルネットワーク」です。また、時系列データを順番に処理して文脈を理解する「リカレントニューラルネットワーク」とも異なります。Hopfieldネットワークは時系列の変化ではなく、初期入力から時間経過を伴わずに平衡状態（エネルギー最小値）へ至る収束プロセスそのものを重視します。
注意点
主な限界として、記憶できるパターン数（記憶容量）の少なさがあります。ニューロン数をNとしたとき、正常に記憶できるのは約0.138N程度であり、これを超えると無関係なパターンが生成される「偽の記憶」という現象が発生します。また、エネルギーの「局所最小値（ローカルミニマム）」にトラップされ、最も理想的な状態に到達できない問題もあります。なお、近年ではこれらの制限を大幅に改善した「現代的Hopfieldネットワーク」が提案され、Transformerの注意機構（Attention）との数理的な類似性から再注目されています。