ロバスト性（堅牢性）とは、入力データの揺らぎやノイズ、予期せぬ変化に対しても、AIモデルが精度を大きく低下させることなく、安定して正しい出力や予測を維持できる能力のことです。現実世界の多様な環境でAIシステムを安全かつ信頼性高く運用するために不可欠な指標であり、信頼性の高いAI開発において重視されています。
ロバスト性とは
ロバスト性とは、AIモデルに入力されるデータにノイズや外れ値、あるいは意図的な妨害が含まれていても、出力の精度やパフォーマンスを一定以上に保ち、誤作動を起こさずに安定して動作し続ける能力（堅牢性）のことです。
詳しく解説
機械学習のモデルは、学習に使用したデータと酷似した環境下では高い性能を発揮しますが、現実世界のデータには常に様々な変動が伴います。例えば、画像認識における照明の変化、音声認識における周囲の騒音、テキストデータにおける表記揺れなどが挙げられます。ロバスト性が低いAIモデルは、わずかなノイズや入力のブレによって全く異なる誤った判断を下してしまいます。さらに、AIの脆弱性を突いて意図的に誤認識を誘発させる敵対的攻撃に対して耐性を持つことも、ロバスト性の観点から非常に重要です。モデルのロバスト性を高めるためには、ノイズを加えたデータで追加学習を行うデータ拡張や、モデルの構造自体を単純化して過学習を防ぐアプローチなどが取られます。
具体例・使われ方
自動運転車における障害物検出AIが、大雨や大雪などの悪天候（ノイズ）の中でも歩行者や標識を正しく認識し続けられるシステムは、ロバスト性が高いと言えます。また、スパムメールの検知システムにおいて、文字のフォント変更や一部の文字列が伏字にされるといった意図的な改変（敵対的攻撃の一種）に対しても、正しくスパム判定を維持できる例が挙げられます。
似た用語との違い
よく混同される概念に汎化性能があります。汎化性能は未知のデータに対して正しく予測できる能力という広範な性能を指します。これに対して、ロバスト性は特にノイズや異常値、妨害などの好ましくない入力変動に対して、予測精度を崩さず耐え抜く能力に焦点を当てた概念です。汎化性能が高いモデルであっても、極端な外れ値や異常検知の対象となるような敵対的データに対して脆弱な場合があるため、両者は区別して評価されます。
注意点
ロバスト性を極限まで高めようとすると、モデルが極端なデータにばかり適応してしまい、通常のデータに対する本来の予測精度が低下するというトレードオフが生じることがあります。また、開発段階で想定していなかった全く新しいタイプの攻撃や物理的な環境変化に対して、完全にロバスト性を保証することは困難です。そのため、ロバスト性の検証は一度きりで終わらせず、継続的なモニタリングと更新が必要です。