ブラックボックス攻撃
ブラックボックス攻撃とは、AIモデルの内部構造やパラメータ、訓練データなどの詳細な情報にアクセスできない状況において、外部からの入力と出力の反応のみを観察し、誤認識を誘発するような敵対的サンプルを生成・入力する攻撃手法。APIを介して提供される商用AIサービスなどに対して現実的な脅威となっている。
AI安全保障のAI用語一覧
2件AI安全保障に関するAI用語を2件掲載しています。意味や使い方、関連用語を一覧から確認できます。
AI安全保障に関するAI用語を2件掲載しています。意味や使い方、関連用語を一覧から確認できます。
ブラックボックス攻撃とは、AIモデルの内部構造やパラメータ、訓練データなどの詳細な情報にアクセスできない状況において、外部からの入力と出力の反応のみを観察し、誤認識を誘発するような敵対的サンプルを生成・入力する攻撃手法。APIを介して提供される商用AIサービスなどに対して現実的な脅威となっている。
多層防御（Defense in Depth）とは、AIシステムや情報資産を保護するために、複数の独立したセキュリティ対策を重ねて配置する防御戦略です。単一の対策が突破されても、別の層が攻撃を食い止めることで、システム全体の安全性を確保します。敵対的攻撃やデータ漏洩など、AI特有のセキュリティ脅威に対抗するために極めて重要なアプローチです。