ブラックボックス攻撃
ブラックボックス攻撃とは、AIモデルの内部構造やパラメータ、訓練データなどの詳細な情報にアクセスできない状況において、外部からの入力と出力の反応のみを観察し、誤認識を誘発するような敵対的サンプルを生成・入力する攻撃手法。APIを介して提供される商用AIサービスなどに対して現実的な脅威となっている。
敵対的機械学習のAI用語一覧
1件敵対的機械学習に関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
敵対的機械学習に関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
ブラックボックス攻撃とは、AIモデルの内部構造やパラメータ、訓練データなどの詳細な情報にアクセスできない状況において、外部からの入力と出力の反応のみを観察し、誤認識を誘発するような敵対的サンプルを生成・入力する攻撃手法。APIを介して提供される商用AIサービスなどに対して現実的な脅威となっている。