多層防御（Defense in Depth）とは、AIシステムや情報資産を保護するために、複数の独立したセキュリティ対策を重ねて配置する防御戦略です。単一の対策が突破されても、別の層が攻撃を食い止めることで、システム全体の安全性を確保します。敵対的攻撃やデータ漏洩など、AI特有のセキュリティ脅威に対抗するために極めて重要なアプローチです。
多層防御とは
多層防御とは、情報セキュリティにおける基本的な設計思想であり、システム全体を保護するために、ネットワーク、ホスト、アプリケーション、データなどの各レイヤー（層）で異なるセキュリティ対策を重層的に施すアプローチです。AIシステムにおいては、従来のITセキュリティに加え、AI特有の脆弱性を標的とした攻撃からシステムを守るための必須の戦略となっています。
詳しく解説
従来の境界型セキュリティ（外側を防ぐ方法）だけでは、一度侵入された場合に全ての資産が危険に晒されます。特にAIシステムは、データパイプライン、学習用モデル、推論APIなど多くの接点があり、それぞれが固有の脆弱性を持っています。多層防御の仕組みでは、例えば以下の各層で対策を講じます。1. 物理・ネットワーク層：認証やファイアウォールによるアクセス制限。2. システム・ホスト層：OSやミドルウェアのパッチ適用、権限の最小化。3. アプリケーション（AI）層：入力データのフィルタリング（敵対的サンプル対策）、APIのレートリミット。4. データ・モデル層：モデルの難読化、機密データの暗号化、データポイズニング検知。このように、攻撃者が一つの障壁を破っても、次の障壁が攻撃を検知・阻止するため、被害を最小限に抑えることができます。
具体例・使われ方
大規模言語モデル（LLM）を搭載したWebアプリケーションにおける多層防御の例として、まず第一の層でWAF（Web Application Firewall）を配置し不正なネットワークアクセスを遮断します。次に、第二の層としてユーザーからの入力を監視し、プロンプトインジェクションなどの悪意ある操作を検知するフィルターを適用します。さらに第三の層として、AIモデルの出力に対してデータ保護ツールを適用し、機密情報や個人情報が外部に漏洩するのを防ぎます。最後に第四の層として、システムの全操作ログを記録・監視し、異常なアクセスパターンを速やかに検知して管理者に通知します。
似た用語との違い
多層防御と混同されやすい概念に「多重防御」があります。多重防御は同じ対策（例：同一メーカーのファイアウォールを2台直列で配置する）を繰り返すことを指す場合が多いのに対し、多層防御は「異なる性質の対策（例：技術的対策、物理的対策、組織的ルール）」を組み合わせて重層的に守る点を重視します。また、境界をなくしてすべてのアクセスを検証するゼロトラスト概念とは対立するものではなく、ゼロトラストを具現化するための手段の一つとして多層防御が活用されます。
注意点
多層防御は「絶対に突破されないシステム」を作るものではありません。各層の対策が増えるほど、システムの複雑性が増し、開発コストや運用負荷が高まるほか、パフォーマンス（応答速度など）の低下を招くリスクがあります。また、対策同士が干渉して新たな脆弱性を生む可能性もあるため、ただ闇雲に対策を重ねるのではなく、リスク評価に基づいた適切な設計が必要です。特にAIの進化に伴い、新たな敵対的攻撃の手法が次々と現れるため、防御層を継続的にアップデートし続ける必要があります。