中間者攻撃とは、通信を行う2者間に第三者が不正に割り込み、通信内容の盗聴や改ざんを行うサイバー攻撃手法です。AI分野では、ユーザーとAIサービスを結ぶAPI通信の傍受や、フェデレーテッドラーニングにおけるモデル更新データの改ざんなど、データの機密性や推論結果の信頼性を損なう重大なセキュリティ脅威として警戒されています。
中間者攻撃とは
中間者攻撃は、正当な通信を行う二者間のネットワーク経路に攻撃者が秘密裏に介入し、やり取りされるデータを盗聴または改ざんするセキュリティ攻撃手法です。
詳しく解説
通常の通信では送信者と受信者が直接やり取りしますが、中間者攻撃では攻撃者が双方に対して相手になりすまし、すべての通信を中継します。AIシステムにおいては、クライアントとAIモデルを中継するAPI通信が標的となりやすく、送信されるプロンプトや推論結果の窃取・改ざんが発生します。また、分散型学習であるフェデレーテッドラーニングにおいて、端末と中央サーバー間のパラメータ通信が改ざんされると、モデル全体の性能低下やデータポイズニングに似た悪影響が引き起こされるため、適切な暗号化や認証が不可欠です。
具体例・使われ方
具体例として、暗号化されていない公共Wi-Fi環境下で生成AIサービスを利用した際に、APIへのリクエストが盗聴され機密情報が漏洩するケースが挙げられます。また、通信途中で入力文を改ざんされて意図しないプロンプトインジェクションが仕込まれたり、AIの出力結果が不正に書き換えられて偽の情報がユーザーに届くリスクがあります。
似た用語との違い
中間者攻撃は「通信経路の途中で割り込む攻撃」であるのに対し、なりすまし攻撃は単に他人の認証情報を使って直接アクセスする攻撃を指します。また、AIモデル自体に悪意あるデータを混入させるデータポイズニングとは異なり、中間者攻撃は主にネットワーク通信層における介入手法である点が異なります。
注意点
中間者攻撃は通信プロトコルレベルの脅威であるため、AIモデル自体の防御機能だけでは防ぐことができません。AIアプリケーションの開発や利用においては、SSL/TLSによるエンドツーエンドの暗号化や厳格な証明書検証など、基盤となるインフラ層でのセキュリティ対策を怠らないことが重要です。