グレーボックス攻撃
グレーボックス攻撃とは、AIモデルの構造や重みの一部のみが公開されている状況で行われる敵対的攻撃手法です。完全な情報を持つホワイトボックス攻撃と、入力と出力しか分からないブラックボックス攻撃の中間に位置し、現実的なセキュリティ脅威として研究されています。
敵対的機械学習のAI用語一覧
2件敵対的機械学習に関するAI用語を2件掲載しています。意味や使い方、関連用語を一覧から確認できます。
ブラックボックス攻撃
ブラックボックス攻撃とは、AIモデルの内部構造やパラメータ、訓練データなどの詳細な情報にアクセスできない状況において、外部からの入力と出力の反応のみを観察し、誤認識を誘発するような敵対的サンプルを生成・入力する攻撃手法。APIを介して提供される商用AIサービスなどに対して現実的な脅威となっている。