ハルシネーションとは、生成AIが事実とは異なる情報や根拠のない嘘の出力を、あたかも正しい事実であるかのように生成してしまう現象のことです。大規模言語モデルが過去の学習データの文脈や単語の確率的つながりに基づいて自然な文章を作り出す仕組みに起因して発生します。生成AIの信頼性やビジネス利用における重要な課題とされています。
ハルシネーションとは
ハルシネーションとは、AI（特に生成AI）が現実には存在しない虚偽の情報や事実誤認を含む内容を、もっともらしい文章で出力してしまう現象のことです。
詳しく解説
ハルシネーション（幻覚）は、主に大規模言語モデルなどの生成AIで発生します。これらのモデルは人間のような正確な知識を記憶して答えているわけではなく、提示された文脈に続いて出現する確率が最も高い単語を計算して文章を構成しています。そのため、モデルの学習データ内に含まれる誤った情報、データ自体の不足、あるいは確率的な計算のブレによって、実在しない出来事や人物、誤った数値を堂々と出力してしまいます。ハルシネーションはAIの文脈理解や知識の正確性における根本的な課題であり、適切な対策なしにはAIの応答をそのまま業務や意思決定に利用できない大きな理由となっています。
具体例・使われ方
例えば、歴史上の人物の生没年や実績について質問した際、存在しない架空の文献名や出来事を具体的に提示して解説するケースが挙げられます。また、プログラミングコードの生成時に存在しないライブラリや関数を提案したり、長いニュース記事の要約を指示した際に本文に含まれていない架空の数値を補うのもハルシネーションの具体例です。
似た用語との違い
単なる計算ミスやプログラムのバグとは異なります。バグはコード上の不具合により処理が停止したり明確なエラーを返したりしますが、ハルシネーションは言語モデルが自然で文法的に正しい文章を出力するため、一見すると間違いに気付きにくいという特徴があります。また、意図的な嘘とも異なり、AI自身が悪意や意図を持って事実を歪めているわけではありません。
注意点
生成AIがどれほど説得力のある回答を出力していても、ハルシネーションが発生する可能性を完全にゼロにすることは現在の技術では困難です。そのため、AIが出力した重要な事実関係や数値は、必ず人間が一次情報で事実確認を行う必要があります。ハルシネーションを低減する手法として、外部データベースの情報を参照させるRAGや、特定のドメイン知識を強化するファインチューニング、プロンプトエンジニアリングなどの技術的アプローチを組み合わせることが推奨されます。