シャドーAI
シャドーAIとは、企業の組織や管理部門の許可を得ずに、従業員が個人的に業務へ導入・利用している生成AIサービスのことです。セキュリティリスクや情報漏洩の原因となるため、適切なITガバナンスとルール策定が急務となっています。
セキュリティのAI用語一覧（4ページ目）
174件セキュリティに関するAI用語を174件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は4ページ目です。
AIリスク管理
AIリスク管理とは、AIの導入や運用に伴うセキュリティ脅威やバイアス、倫理的課題などのリスクを特定・評価し、適切に制御するための体系的な取り組みです。機械学習技術の発展に伴い、企業の社会的信用や安全性を守るために不可欠となっています。リスクの完全排除ではなく、許容レベルの管理と発生時の迅速な対応が重視されます。
所持情報
所持情報とは、本人確認やアクセス制御において、ユーザーが所有・所持しているデバイスやトークンを利用して認証を行う情報のことです。多要素認証の主要な構成要素であり、パスワードなどの知識情報や指紋などの生体情報と組み合わせることで、AIシステムや各種サービスへの不正アクセスを効果的に防止します。
多要素認証
多要素認証（MFA）は、ユーザーの本人確認をより確実に行うため、「知識情報」「所持情報」「生体認証」の3つの要素のうち、異なる2つ以上の要素を組み合わせて認証を行うセキュリティ手法です。パスワード漏洩による不正アクセスを防ぎ、システムの安全性を劇的に高めるために不可欠な技術となっています。
プライバシー保護技術
プライバシー保護技術（PETs）は、個人情報や機密データのプライバシーを厳格に保護しながら、安全にデータ分析やAIの機械学習を行うための技術の総称です。差分プライバシーや秘密計算、連合学習などの技術を活用することで、データ漏洩リスクを最小限に抑えつつ、医療や金融などの機密分野における高度なデータ利活用を両立します。
ホワイトボックス攻撃
ホワイトボックス攻撃とは、AIモデルの内部構造、重みパラメータ、学習データ、活性化関数などの情報を完全に把握している攻撃者が、その知識を利用してモデルの誤認識を誘発する敵対的サンプルを生成する攻撃手法です。防御策の限界やセキュリティの脆弱性を評価するテストで重要な役割を果たします。
楕円曲線暗号
楕円曲線暗号（ECC）は、短い鍵長で従来のRSA暗号と同等の高い安全性を実現する公開鍵暗号方式です。計算資源が限られた環境や、近年のAIセキュリティ、ブロックチェーンなどの技術において広く活用されています。
ハッシュ値
ハッシュ値とは、任意の長さのデータを一定の長さに変換した固定長の値（文字列）です。元のデータが同じであれば常に同じ値が得られ、わずかでも変更があれば全く異なる値に変化します。AIやデータ処理の分野では、大量のデータセットの重複排除や改ざん検知、効率的な検索アルゴリズムなどで幅広く活用されています。
APIキー
APIキーとは、プログラムからクラウド上のAIサービスなどを呼び出す際に、利用者の本人確認やアクセス権限の認証を行うための文字列です。LLMなどのAIモデルを利用したシステム開発において、利用量の把握や課金管理、セキュリティの確保に不可欠な役割を果たします。
認可
認可とは、認証されたユーザーやAIシステムに対して、特定のデータや機能へのアクセス権限を付与・管理する仕組みです。AIエージェントが自律的に動作するシステムにおいて、過剰な操作を防ぎ、適切なアクセス制御を行うために不可欠なセキュリティ要件となっています。
TLS/SSL
TLS/SSLは、インターネットなどのネットワーク上でデータを暗号化して安全に送受信するための通信プロトコルです。AIサービスのAPIエンドポイントとの通信やクラウド上の推論APIの利用時に、入力プロンプトや機密データが盗聴・改ざんされるのを防ぐ基盤技術として不可欠です。
共通鍵暗号
共通鍵暗号とは、データの暗号化と復号に同一の鍵を使用する暗号方式です。計算処理が非常に高速であるため、AIモデルの重みデータ保護や大量の学習データのセキュアな保管・転送など、データ保護やプライバシー保護技術の基盤として広く利用されています。
生体認証
生体認証とは、指紋や顔、虹彩、声紋など個人固有の身体的・行動的特徴を用いて本人を確認する認証技術です。パスワードのように紛失や忘却の心配がなく、AIや画像認識技術の発展によって認証精度と利便性が飛躍的に向上しています。
アクセス権限
アクセス権限とは、ユーザーやプログラムが特定のデータ、AIモデル、機能などを利用・操作できる範囲を定めた許可のことです。AIシステムでは、学習データの改ざん防止や機密情報の漏洩を防ぐために不可欠であり、適切なデータガバナンスとセキュリティを維持する基本概念となります。
秘匿計算
秘匿計算とは、データを暗号化した状態のままで計算処理を行う技術の総称です。個人情報や企業秘密といった機密データを第三者やクラウド事業者に開示することなく、AIモデルの学習やデータ分析に活用できます。プライバシー保護とデータの有効活用を両立させる技術として注目を集めています。
公開鍵暗号
公開鍵暗号とは、暗号化と復号に異なるペアの鍵を使用する暗号方式です。鍵の事前共有が不要で、現代のインターネット通信やブロックチェーン技術の基盤となっています。
敵対的例
敵対的例とは、機械学習モデルの予測を誤らせるために意図的に微小な変更を加えた入力データのことです。人間には元のデータと区別がつかないわずかなノイズでありながら、AIには誤認を引き起こすため、AIシステムの脆弱性やセキュリティリスクとして注目されています。
準同型暗号
準同型暗号は、データを暗号化したままの状態で計算処理を行える次世代の暗号技術です。復号することなく統計処理や機械学習の推論を行えるため、クラウドサービスにおけるデータ漏洩リスクを根本から防ぐプライバシー保護技術として注目を集めています。
グレーボックス攻撃
グレーボックス攻撃とは、AIモデルの構造や重みの一部のみが公開されている状況で行われる敵対的攻撃手法です。完全な情報を持つホワイトボックス攻撃と、入力と出力しか分からないブラックボックス攻撃の中間に位置し、現実的なセキュリティ脅威として研究されています。
ペネトレーションテスト
ペネトレーションテストとは、AIシステムやネットワークに対して実際のサイバー攻撃を仕掛け、脆弱性や安全性を検証するテスト手法です。AIモデルの誤動作を誘発するプロンプトインジェクションなどのリスク発見に活用されます。
ウォーターマーク
AIウォーターマークとは、生成AIが作成したテキストや画像などのコンテンツに、人間には知覚できない隠し署名を埋め込む技術です。フェイクニュースの拡散防止や著作権保護の有効な手段として注目されています。
ポイズニング攻撃
ポイズニング攻撃とは、AIの学習データに悪意のある偽データやノイズを混入させ、モデルの予測精度を低下させたり特定の誤認識を引き起こさせたりする攻撃手法です。モデルの信頼性や安全性を損なう脅威であり、学習データの収集段階やファインチューニングの過程で防御策を講じることが重要視されています。
RSA暗号
RSA暗号は、桁数の大きい素因数分解の困難さを安全性の根拠とした、代表的な公開鍵暗号方式です。データの暗号化とデジタル署名（電子署名）の両方に利用され、インターネット通信の安全性（SSL/TLSなど）を支える基盤技術です。情報の機密性確保だけでなく、AIシステムにおけるデータの安全な送受信やプライバシー保護にも貢献します。
リバースプロキシ
リバースプロキシは、クライアントからのリクエストをインターネット側から受け取り、背後にある適切なサーバー（WebサーバーやAI推論サーバーなど）へ中継する中継サーバーです。セキュリティ向上、負荷分散（ロードバランシング）、SSL暗号化処理のオフロード、キャッシュによる応答高速化などの役割を果たします。