破局的忘却とは、機械学習モデルが新しいデータを学習する際に、これまで学習していた古いデータを急速に忘れてしまう現象です。人工知能の継続的な学習を阻む大きな壁として知られており、対策の研究が進められています。
破局的忘却とは
一言でいうと、ニューラルネットワークが新しいことを覚える代わりに、以前覚えた内容をすべて忘れてしまう致命的な物忘れのことです。
詳しく解説
破局的忘却は、ニューラルネットワークが新しいタスクを学習する際、モデルの重みパラメータが新しいデータに適応するよう大きく書き換えられることで発生します。人間の脳は新しい知識を得ても過去の記憶を保持できますが、標準的なニューラルネットワークでは、最適化の過程で過去の知識に対応していた回路が上書きされてしまいます。人工知能が実世界の動的な環境で継続的に学習・適応していく上で、この現象を克服することは極めて重要な課題となっています。
具体例・使われ方
例えば、画像認識AIが最初に「犬」と「猫」の識別を学習し、その後に新しいタスクとして「車」と「飛行機」の識別を学習した場合、後者の学習によってネットワークの構造が大きく変化し、結果として最初に学習した「犬」や「猫」の識別能力が著しく低下するといったケースが挙げられます。
似た用語との違い
一般的な過学習（オーバーフィッティング）が訓練データへの過剰適応によって未知データへの汎化性能が落ちる現象を指すのに対し、破局的忘却は過去に学習したタスクのデータそのものを失う、あるいは忘れてしまうという点に違いがあります。
注意点
破局長忘却を完全に防ぐ万全な解決策はまだ確立されていません。過去のデータを保存して再学習させる方法はプライバシーやメモリの観点から非現実的であり、プロンプトエンジニアリングや転移学習を用いる際にも、モデルが古い知識を保持できているかの注意深い検証が不可欠です。