機密データ
AIモデルの学習や運用において外部への漏洩が許されない、個人情報や知的財産、企業の機密情報などの総称。AIの利用拡大に伴い、モデルへの入力や学習データに機密データが含まれることによる情報漏洩リスクへの対策が重要視されており、データ匿名化や安全な実行環境の整備が必要です。
セキュリティのAI用語一覧（3ページ目）
174件セキュリティに関するAI用語を174件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は3ページ目です。
ロールベースアクセス制御
ロールベースアクセス制御（RBAC）とは、システム利用者個別の識別子ではなく、組織内の「役割（ロール）」に基づいてデータや機能へのアクセス権限を管理するセキュリティ手法です。大規模言語モデルやAIエージェントの運用において、機密データへの不適切なアクセスを防ぎ、安全で効率的な権限管理を実現するために不可欠な概念です。
偽情報
偽情報とは、人々を欺いたり特定の利益・世論誘導を図る目的で意図的に作成・拡散される事実無根または歪曲された情報です。生成AI技術の進展により、精巧なテキストや偽画像、音声の大量作成が容易になり、民主主義や社会秩序を脅かす重大なリスクとして世界的な対策が進められています。
アドバーサリアル訓練
アドバーサリアル訓練とは、AIモデルの学習時に意図的に作られた攪乱データを入力することで、敵対的攻撃に対する耐性や汎化性能を高める機械学習の手法です。ノイズに強いモデルを構築するために広く利用されています。
共通鍵暗号方式
共通鍵暗号方式とは、暗号化と復号に同一の鍵を使用する暗号化の仕組みです。処理速度が速いため大量のデータ保護に適しており、AI分野においても機密データの安全な送受信やプライバシー保護の基盤技術として広く活用されています。
電子署名
電子署名とは、電子データに対して行われる、物理的な署名や捺印に代わる電子的な兆候です。誰が作成したデータであり、改ざんされていないかを証明するために、公開鍵暗号などの技術を用いてAIによる契約管理システムやブロックチェーンなどでも広く活用されています。
バックドア攻撃
バックドア攻撃とは、AIモデルに特定のトリガーが入力された時だけ不正な動作を引き起こすように仕込むセキュリティ脅威です。通常時は正常に動作するため検知が極めて難しく、ディープラーニングの普及に伴いAIシステムの脆弱性として深刻な課題になっています。
データ漏洩
データ漏洩とは、AIモデルの学習時に本来テストデータとして分離すべき情報が混入し、過学習を引き起こして予測精度が著しく低下する現象です。特に機械学習の開発現場でモデルの信頼性を損なう重大な問題として警戒されています。
多層防御
多層防御（Defense in Depth）とは、AIシステムや情報資産を保護するために、複数の独立したセキュリティ対策を重ねて配置する防御戦略です。単一の対策が突破されても、別の層が攻撃を食い止めることで、システム全体の安全性を確保します。敵対的攻撃やデータ漏洩など、AI特有のセキュリティ脅威に対抗するために極めて重要なアプローチです。
動的解析
動的解析とは、コンピュータプログラムを実際に実行してその挙動や性能を観察し、バグや脆弱性、動作上の問題を検出する手法です。AI分野では、機械学習モデルの実行時の振る舞いや、生成AIのセキュリティ検証などに活用されます。
データ匿名化
データ匿名化とは、個人を特定できる情報を削除または加工し、元の個人が分からない状態にする処理です。AIの学習データ作成やビッグデータ分析において、プライバシーを保護しながら安全にデータを活用するために不可欠な技術となっています。
ハッシュ
ハッシュとは、任意の長さのデータから固定長の短い文字列や値を計算して生成する技術です。AI分野では、大規模なデータの高速検索や重複排除、機械学習モデルの識別やデータの改ざん検知など、効率性と安全性を高めるために広く利用されています。
鍵配送問題
鍵配送問題とは、共通鍵暗号において暗号化と復号に使う秘密鍵を、盗聴の危険がある通信路上で安全に共有する方法の難しさを指す課題です。第三者に秘密鍵が漏洩すると暗号化通信の安全性が損なわれるため、暗号技術における重要なテーマとなっています。現代では公開鍵暗号や鍵交換プロトコルを用いてこの課題を解決しています。
敵対的学習
敵対的学習とは、あえてモデルが誤認しやすい特殊なノイズを加えたデータを学習させることで、AIの頑健性を高める機械学習の手法です。悪意ある攻撃に対する防御力を向上させるために広く活用されています。
秘密計算
秘密計算とは、データを暗号化したままの状態で計算処理を行う最先端の暗号技術です。AIの学習や分析において、機密情報を一切復号することなく安全に処理できるため、プライバシー保護とデータ活用の両立を可能にする技術として注目されています。
シグネチャ検知
シグネチャ検知とは、既知の攻撃やウイルスが持つ特徴的なパターン（シグネチャ）をデータベースと照合して脅威を特定する技術です。AIセキュリティや従来のアンチウイルスソフトで広く使われ、高速で確実な検出が可能ですが、未知の攻撃には対応できない制限があります。
敵対的訓練
敵対的訓練とは、機械学習モデルの安全性や堅牢性を高めるため、あらかじめ人工的なノイズや微小な変化を加えたデータを学習プロセスに組み込む手法です。人間の目には識別できない微小なデータを意図的に作成して学習させることで、誤認識を誘発する敵対的攻撃に対する耐性を向上させます。安全なAIシステムの運用において不可欠なセキュリティ対策技術の一つです。
量子暗号
量子暗号は、量子力学の物理法則（観測すると状態が変化する性質など）を利用して、盗聴が不可能な通信経路を確立するセキュリティ技術です。特に「量子鍵配送」を用いて解読不可能な暗号鍵を共有する仕組みが代表的です。将来的に高性能な「量子コンピューター」が実現しても破られない究極の暗号技術として期待されています。
ゼロトラストアーキテクチャ
ゼロトラストアーキテクチャとは、社内ネットワークの内外を問わずすべてのアクセスを信用せず、毎回検証を行うセキュリティ概念です。AIシステムの急速な普及やクラウド利用の拡大に伴い、従来の境界防御に代わる新しいセキュリティモデルとしてAIインフラでも重要視されています。
シャドーAI
シャドーAIとは、企業の組織や管理部門の許可を得ずに、従業員が個人的に業務へ導入・利用している生成AIサービスのことです。セキュリティリスクや情報漏洩の原因となるため、適切なITガバナンスとルール策定が急務となっています。
AIリスク管理
AIリスク管理とは、AIの導入や運用に伴うセキュリティ脅威やバイアス、倫理的課題などのリスクを特定・評価し、適切に制御するための体系的な取り組みです。機械学習技術の発展に伴い、企業の社会的信用や安全性を守るために不可欠となっています。リスクの完全排除ではなく、許容レベルの管理と発生時の迅速な対応が重視されます。
所持情報
所持情報とは、本人確認やアクセス制御において、ユーザーが所有・所持しているデバイスやトークンを利用して認証を行う情報のことです。多要素認証の主要な構成要素であり、パスワードなどの知識情報や指紋などの生体情報と組み合わせることで、AIシステムや各種サービスへの不正アクセスを効果的に防止します。
多要素認証
多要素認証（MFA）は、ユーザーの本人確認をより確実に行うため、「知識情報」「所持情報」「生体認証」の3つの要素のうち、異なる2つ以上の要素を組み合わせて認証を行うセキュリティ手法です。パスワード漏洩による不正アクセスを防ぎ、システムの安全性を劇的に高めるために不可欠な技術となっています。
動的アクセス制御
動的アクセス制御とは、ユーザーの状況やデータの機密性に応じてアクセス権限をリアルタイムに変動させるセキュリティ手法です。生成AIの普及に伴い、機密情報の漏洩を防ぐための重要な技術として活用が進んでいます。