AIにおける外部記憶とは、モデル自体のパラメータに依存せず、外部のデータベースやメモリ領域に情報を保持して必要に応じて検索・参照する仕組みです。コンテキスト長を超える長大な情報の処理や、情報の動的な更新を可能にする重要な技術として活用されています。
外部記憶とは
一言でいうと外部記憶とは、AIが自身のネットワーク内部だけで情報を保持するのではなく、外側のデータベースやメモリ領域を補助脳として利用し、情報の検索や保持を行う仕組みです。
詳しく解説
大規模言語モデルをはじめとするAIは、訓練時に学習したデータを内部の重みパラメータとして保持していますが、これには容量の限界があり、学習後に入力された新しい情報をリアルタイムに書き換えることは困難です。そこで、モデルの外部にベクトルデータベースなどの記憶領域を設け、入力に関連する情報を検索してプロンプトやコンテキストに付加する仕組みが開発されました。これにより、AIは広大なドキュメントや過去のやり取りを正確に参照できるようになり、ハルシネーションの軽減や最新情報の反映が可能になります。
具体例・使われ方
具体的な利用例として、社内マニュアルや過去の問い合わせ履歴をベクトルデータベースに保存しておき、ユーザーからの質問に対して関連する文書を外部記憶から検索して回答の根拠とする検索拡張生成（RAG）システムがあります。また、長文の対話履歴を外部に保持し、対話が長期化しても過去の文脈を忘れないようにするエージェントの設計にも応用されています。
似た用語との違い
AIモデル自体の重みパラメータに記憶される知識が人間の「長期記憶」や固定化された知識に近いものであるのに対し、外部記憶は作業に応じて出し入れする「ノート」や「外部データベース」のような役割を持ちます。また、モデルの短期的な入力制限であるコンテキストウィンドウとは異なり、理論上無限に近い情報を扱える点が異なります。
注意点
外部記憶を活用する場合でも、検索精度が低いと不適切な情報がモデルに渡されて誤った回答を生成する原因になります。また、検索対象となるデータベース自体のセキュリティやプライバシー管理、情報鮮度の維持が重要であり、外部記憶依存による処理遅延が発生する点にも注意が必要です。