AIにおけるメモリとは、対話の文脈や過去の情報を保持・参照するための記憶機能や仕組みを指します。大規模言語モデル（LLM）やAIエージェントが、ユーザーとの過去のやり取りや外部知識を記憶・活用することで、一貫性のある自然な対話や高度なタスク実行を可能にします。また、計算処理に必要なハードウェア上の記憶領域を指すこともあります。
メモリとは
AIにおけるメモリとは、AIが過去のやり取りや学習データを一時的または長期的に保持し、必要な時に参照できるようにする記憶処理の仕組みです。
詳しく解説
従来のAIモデルは単発の入力に対して応答を出力する処理が中心でしたが、生成AIの進化に伴い、一貫した対話やタスク継続を行うための記憶保持が重要になりました。AIにおけるメモリは大きく「短期記憶」と「長期記憶」に分かれます。短期記憶は現在の対話セッション内での情報を保持する機能で、コンテキストウィンドウの範囲内で機能します。長期記憶は過去のセッションやユーザーの嗜好情報、外部知識をデータベースなどに保存し、必要な時に取り出して活用する機能です。これにより、大規模言語モデル（LLM）やAIエージェントは過去の対話内容を踏まえたパーソナライズされた応答や、長期的なタスクの自動化を実現できます。
具体例・使われ方
利用例として、チャットボットがユーザーの以前の質問や名前を覚えていて文脈に合わせた返答をする場面があげられます。また、AIエージェントが過去の作業履歴を長期記憶として保存し、複雑な業務手順をスムーズに実行するケースや、外部記憶検索と連携して専門的な質問に正確に回答するシステムなどで活用されています。
似た用語との違い
「コンテキストウィンドウ」との違いとして、コンテキストウィンドウはLLMが一度に処理できるトークン数の物理的な制限（枠）であるのに対し、メモリはその枠を超えて情報を効率的に整理・保持・検索するための包括的な仕組みや概念を指します。また、ハードウェアの記憶装置であるGPUのVRAM領域と区別されることも多く、文脈記憶とハードウェア記憶のどちらを指すかは文脈に応じた確認が必要です。
注意点
AIのメモリ機能は非常に便利ですが、古い情報や誤った情報を記憶し続けると、誤った回答（ハルシネーション）の原因となるリスクがあります。また、個人情報や機密データを長期記憶に蓄積することによるプライバシー・セキュリティ上の懸念や、記憶の更新・削除処理の難しさにも注意が必要です。