過剰平滑化とは、グラフニューラルネットワーク（GNN）において層を深く重ねるにつれて、ノードの特徴量が似通ってしまい、個々のノードの識別が困難になる現象です。これによりモデルの予測精度が低下するため、深層化における主要な課題とされています。残差接続の導入やドロップアウトなどの対策技術が研究されています。
過剰平滑化とは
過剰平滑化（Over-smoothing）とは、グラフニューラルネットワークの層を深くしすぎると、グラフ内のすべてのノード表現（特徴量ベクトル）が平均化されて均一になり、ノード同士の区別がつかなくなる現象のことです。
詳しく解説
グラフニューラルネットワークでは、隣接するノード間で情報を集約・更新するメッセージパッシングを行うことで学習します。しかし、層（レイヤー）の数を増やすと、各ノードが参照する範囲がグラフ全体に広がり、すべてのノードがほぼ同じ情報を共有してしまいます。結果としてノードの特徴量が平均化され、特定のノードが持つ個別情報が失われます。この現象はモデルの深層化を阻む要因となっており、対策として層間の出力を結合する残差接続や、エッジをランダムに削除する手法などが提案されています。
具体例・使われ方
例えば、SNSのユーザーネットワークにおいて、友人の趣味情報を何階層も伝播させて集約すると、最終的に全員が同じ趣味を持っているかのような均一な特徴量になってしまいます。その結果、コミュニティ内の特定の個人を分類・予測することができなくなります。化合物構造分析においても、分子内の全原子の特徴が同じに見えてしまい、化学的性質を正しく予測できなくなるケースがあります。
似た用語との違い
過剰適合（オーバーフィッティング）はトレーニングデータに過度に最適化されて未学習データへの汎用性を失う現象ですが、過剰平滑化はデータへの適合度に関わらず構造的に特徴量が同一化してしまう現象です。また、過剰圧迫（Over-squashing）は長い経路の情報を固定長ベクトルに圧縮することで情報が欠損する現象であり、全ノードの特徴量が平均化する過剰平滑化とは異なります。
注意点
過剰平滑化を避けるために単に層を浅くしすぎると、広範囲のコンテキストや長距離の依存関係を捉えられなくなるトレードオフが存在します。また、すべてのグラフ構造で層を深くすると必ず悪影響が出るわけではなく、グラフの密度やタスクの性質に応じて適切な深さや防止策を選択する必要があります。