AIシステムを不正アクセス、データ改ざん、悪意ある操作などの脅威から保護するための総合的な取り組みです。従来のサイバーセキュリティに加え、AI特有の脆弱性である入力攻撃や学習データの汚染を防ぎ、システムの安全性、信頼性、プライバシーを確保する役割を持ちます。
セキュリティ対策とは
AIにおけるセキュリティ対策とは、機械学習モデルや関連インフラ、学習データおよび運用環境をサイバー攻撃や不正利用などの脅威から守り、安全かつ安定して稼働させるための包括的な防御措置のことです。
詳しく解説
AIの普及に伴い、従来のITシステムが抱える脆弱性に加え、機械学習特有の攻撃手法への対応が急務となっています。代表的な脅威には、悪意のある指示を入力して意図しない動作を誘発するプロンプトインジェクションや、学習データに不正な情報を混入させてモデルの挙動を狂わせるデータポイズニング、入力に微小なノイズを加えて誤認識を起こさせる敵対的攻撃などがあります。さらに、知的財産であるモデル構造や重みを不正に盗み出すモデル抽出攻撃も存在します。これらに対処するため、入力値の検証、安全な出力制御を実現するガードレールの導入、データの暗号化、アクセス制御、継続的な監視などの多層防御が不可欠です。
具体例・使われ方
大規模言語モデル（LLM）を組み込んだチャットボットにおいて、システムプロンプトの漏洩や不適切な回答を防ぐためにプロンプトインジェクション対策フィルターを適用する例や、自動運転車の画像認識AIが敵対的攻撃によって標識を見誤らないよう、敵対的サンプルを学習に含めて頑健性を高める手法などが挙げられます。また、学習パイプラインへの不正アクセスを防ぐ権限管理の徹底も具体例の一つです。
似た用語との違い
従来のサイバーセキュリティが主にネットワークやサーバー、データベースの不正侵入やマルウェア感染を防ぐのに対し、AIのセキュリティ対策はそれに加えてアルゴリズムや学習データ、入出力インターフェースといった機械学習固有の挙動や資産を保護する点に違いがあります。また、法令遵守や倫理性を保つAIガバナンスとも密接に関連しますが、セキュリティ対策は技術的・運用的な攻撃防御とリスク低減に焦点を当てています。
注意点
AIのセキュリティ対策は一度設定すれば恒久的に安全というわけではなく、新たな攻撃手法の登場に応じて継続的に更新する必要があります。また、安全性を過度に高める設定や過剰なガードレールを適用すると、モデルの利便性や回答の柔軟性が損なわれるトレードオフが生じることがあるため、セキュリティと実用性のバランスを考慮した設計が重要です。