モデル崩壊（Model Collapse）とは、AIが生成したデータを次の世代のAIの学習に繰り返し使用することで、出力の多様性が失われ、最終的に実用的な出力を生成できなくなる現象です。合成データへの過度な依存によって発生し、元々のデータ分布の端にある稀な情報が失われ、ありふれた表現ばかりが生成されるようになります。
モデル崩壊とは
モデル崩壊とは、AIが生成したデータ（合成データ）を基に新しいAIモデルを訓練することを繰り返すうちに、データの多様性が失われ、出力の品質が著しく劣化して使い物にならなくなる現象です。コピーのコピーを繰り返すと画質が劣化していく現象に似ています。
詳しく解説
大規模言語モデル（LLM）や画像生成AIの急速な普及に伴い、インターネット上にはAIが生成したテキストや画像が大量に氾濫しています。新たなAIモデルを訓練する際、意図せず、あるいはデータ不足を補うために、これらAI生成データを学習データに含めてしまうことがあります。このプロセスを「自己再帰的学習」と呼びます。AIモデルの学習では、データ全体の統計的な中央値（最も一般的なパターン）が強調されやすく、分布の端（裾野）にある珍しい情報や例外的なデータはノイズとして切り捨てられがちです。世代交代を繰り返すごとにこの情報の欠落が累積し、最終的にはモデルが特定の単調な出力しかできなくなる「モデル崩壊」が引き起こされます。
具体例・使われ方
モデル崩壊は、ドッグフードのパッケージ画像から犬種を学習する画像生成AIを例に説明できます。初期のAIが生成した「ゴールデンレトリバー」の画像を、次の世代のAIが本物の犬として学習します。このとき、耳の形状や毛並みといった細部の「ブレ」がノイズとして処理されるか、あるいは誇張されて伝播します。第5世代、第10世代と世代交代を重ねるうちに、モデルは犬の多様な特徴を維持できなくなり、最終的にはノイズのような判別不能な画像や、完全に破綻した不自然な画像を出力するようになります。
似た用語との違い
「過学習」と混同されやすいですが、これらは異なる現象です。過学習は、特定の訓練データに過剰に適合してしまい、未知のテストデータに対する予測精度が下がる現象を指します。一方、モデル崩壊は、学習データそのものがAIによって汚染（合成データの混入）されることで、世代を重ねるごとに表現可能な空間全体が縮小・劣化していく現象です。また、「モード崩壊」は主に敵対的生成ネットワーク（GAN）において、ジェネレータがごく限られたパターンの出力しか生成しなくなる訓練中の問題を指しますが、モデル崩壊は世代交代によるデータのフィードバックループが原因である点で異なります。
注意点
モデル崩壊を防ぐためには、人間が作成した高品質な「リアルデータ」を学習データとして確保し続けることが不可欠です。しかし、インターネット上のAI生成データが爆発的に増加している現在、これらを完全にフィルタリングして排除することは技術的に困難を極めます。また、すべての合成データの利用がモデル崩壊を招くわけではありません。特定のルールに基づいて厳密にフィルタリング・加工された高品質な合成データや、シミュレーションによって生成された物理的に正しいデータは、学習を促進することが知られており、適切なデータ管理が求められます。