摂動とは、AIや機械学習のモデルにおいて、入力データやパラメータにごくわずかな変化を加える操作を指します。機械学習の分野では、モデルの頑健性を評価するためのテストや、敵対的攻撃に対する防御策の研究などにおいて重要な役割を果たしています。
摂動とは
摂動とは、システムやデータに対して加えられる、ごくわずかな変化や撹乱のことです。AIの分野では、モデルの挙動を検証したり性能を向上させたりするために、意図的に微小なノイズを加える手法として広く用いられています。
詳しく解説
数学や物理学に由来する摂動という概念は、機械学習においては入力データやニューラルネットワークの重みに微小な変動を与える文脈で使用されます。例えば、画像認識AIにおいて人間の目には分からないほどの微小な画素の変化を加えることで、AIが誤認識を起こすかどうかを検証します。これにより、モデルのロバストネスを高めるための学習データ拡張（データオーグメンテーション）や、アドバーサリアル訓練の基盤技術として活用されています。
具体例・使われ方
画像認識において、パンダの画像にごくわずかなノイズである摂動を加えた結果、AIが別物であるテナガザルと誤認する現象が挙げられます。また、音声認識AIの入力波形に微小な変動を与えてシステムの弱点をあらかじめ発見し、未知のノイズに対する頑健性を高めるテストにも利用されます。
似た用語との違い
一般的なランダムノイズと混同されやすいですが、ノイズが単なる偶然の誤差であるのに対し、摂動はシステムにどのような影響を与えるかを評価・検証するために、特定の意図や計算に基づいて意図的に加えられる微小な変化を指すことが多い点に違いがあります。
注意点
過度に大きな摂動を加えると元のデータの特徴が失われるため、変化量は極めて微小に抑える必要があります。また、悪意ある攻撃者が意図的に作成した摂動によってAIが深刻な誤作動を起こすリスク（敵対的例の利用）が存在するため、セキュリティ上の脆弱性としても常に警戒されています。