プロンプト・インジェクション
プロンプト・インジェクションとは、AIに対する入力指示（プロンプト）を悪用し、不正な命令を遂行させるセキュリティ上の脆弱性です。本来のシステム制御を回避して意図しない動作を引き起こすため、AIシステム開発における重要な防御対象となっています。
脆弱性のAI用語一覧
3件脆弱性に関するAI用語を3件掲載しています。意味や使い方、関連用語を一覧から確認できます。
脆弱性に関するAI用語を3件掲載しています。意味や使い方、関連用語を一覧から確認できます。
プロンプト・インジェクションとは、AIに対する入力指示（プロンプト）を悪用し、不正な命令を遂行させるセキュリティ上の脆弱性です。本来のシステム制御を回避して意図しない動作を引き起こすため、AIシステム開発における重要な防御対象となっています。
ペネトレーションテストとは、AIシステムやネットワークに対して実際のサイバー攻撃を仕掛け、脆弱性や安全性を検証するテスト手法です。AIモデルの誤動作を誘発するプロンプトインジェクションなどのリスク発見に活用されます。
グレイボックス攻撃とは、攻撃者がAIモデルの内部構造やパラメータの一部のみを知る状態で、セキュリティの脆弱性を突く手法です。完全な情報を持つホワイトボックス攻撃と、情報を持たないブラックボックス攻撃の中間に位置し、現実的な脅威として研究されています。