SQLインジェクション
SQLインジェクションとは、WebアプリケーションやAIシステムの入力フォーム等に悪意のあるSQL命令を注入し、データベースを不正に操作するサイバー攻撃の手法です。データベース内の機密情報の閲覧、改ざん、削除などの被害を引き起こすため、入力数値の検証やエスケープ処理、プレースホルダーを利用した適切な対策が不可欠です。
セキュリティのAI用語一覧（2ページ目）
174件セキュリティに関するAI用語を174件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は2ページ目です。
プロンプト・インジェクション
プロンプト・インジェクションとは、AIに対する入力指示（プロンプト）を悪用し、不正な命令を遂行させるセキュリティ上の脆弱性です。本来のシステム制御を回避して意図しない動作を引き起こすため、AIシステム開発における重要な防御対象となっています。
TEE
TEE（Trusted Execution Environment）とは、プロセッサ内に作られる保護領域で、データを安全に処理する技術です。メインOSや管理者権限から隔離された環境でプログラムを実行するため、外部からの攻撃やデータ漏洩を防ぎます。AI分野では、医療データなどの機密情報を保持したまま学習や推論を行う機密コンピューティングの基盤として重要視されています。
ゼロトラスト
ゼロトラストとは、「何も信頼せず、すべてを常に検証する」というセキュリティ概念です。社内外を問わずすべてのアクセスを監視・認証し、AIを用いた異常検知や動的アクセス制御などを通じて安全性を確保します。クラウド時代やAIシステムの安全運用に不可欠なアプローチです。
秘密鍵
秘密鍵とは、公開鍵暗号方式において本人だけが厳重に管理すべき機密の鍵です。AIモデルの保護や、API連携時の認証、データの復号や電子署名の生成において極めて重要な役割を果たし、漏洩すると深刻なセキュリティリスクにつながります。
情報セキュリティ
情報セキュリティとは、情報の機密性、完全性、可用性を維持し、不正アクセスやデータ漏洩などの脅威から守るための技術や運用の総称です。AIの普及に伴い、モデルの学習データの保護やAIシステムへの攻撃を防ぐ「AIセキュリティ」の重要性も高まっています。
敵対的攻撃
敵対的攻撃とは、AIや機械学習モデル（特に深層学習）に対して、人間には判別できないほどの微小なノイズや細工を加えた入力（敵対的サンプル）を与えることで、モデルに意図的な誤認識や誤分類を起こさせるサイバー攻撃の手法です。AIの脆弱性を突くセキュリティ上の重大な脅威として、現在盛んに研究されています。
データプライバシー
データプライバシーとは、個人に関する情報がどのように収集、共有、利用されるかを管理し、個人の権利を守る考え方です。AI開発においては、学習データに含まれる個人情報の保護やプライバシー侵害を防ぐために非常に重要な要素となります。
暗号文
暗号文とは、平文と呼ばれる元のデータを特定のアルゴリズムと鍵を用いて変換し、第三者には意味が分からないように秘匿したデータのことを指します。AIシステムの学習データや機密情報を安全に保護する上で不可欠な要素です。
サプライチェーン
サプライチェーンとは、製品やサービスが原材料の調達から製造、流通を経て消費者に届くための一連の流れを指します。AI分野においては、データ収集やアノテーション、AIモデルの学習、システムのデプロイに至る一連の供給網を「AIサプライチェーン」と呼びます。構成要素の健全性を確保し、セキュリティリスクを防ぐ管理が重要視されています。
復号
復号とは、暗号化されたデータを元の読める状態に戻す処理のことです。AIの分野では、機密データの保護やプライバシーを保ったまま機械学習を行う秘匿計算などの技術において重要な役割を果たしています。
脆弱性
AIシステムにおける脆弱性とは、セキュリティ上の欠陥や弱点を指します。プロンプトインジェクションやデータ汚染など、AI特有の攻撃手法に対する懸念が高まっており、適切なセキュリティ対策やリスク評価が不可欠となっています。
リスクアセスメント
リスクアセスメントとは、AIシステムの開発や運用に伴って生じる潜在的な危険や不利益を特定し、その影響度や発生確率を分析・評価する一連のプロセスです。公平性の欠如、誤情報の生成、情報漏洩などの問題を事前に把握し、適切な対策を講じることで、安全かつ信頼性の高いAI活用を実現するために不可欠な取り組みです。
ハッシュ関数
ハッシュ関数とは、任意の長さのデータを固定長のデータ値へ変換するアルゴリズムです。元のデータがわずかでも変更されると出力結果が全く異なる値になる特徴を持ち、データの改ざん検知や高速なデータ検索で用いられます。AI分野でも高次元な特徴量の効率的な処理や、類似データを高速に探索する技術の基盤として広く利用されています。
アクセス制御
アクセス制御とは、システム内のデータやリソースに対して、誰がどのような操作を行う権限を持つかを管理・制限する仕組みです。生成AIの普及やクラウド利用の拡大に伴い、機密情報の漏洩を防ぐための重要なセキュリティ対策として改めて注目されています。
暗号鍵
暗号鍵とは、データの暗号化や復号、デジタル署名の作成・検証を行うために用いられる、特定のアルゴリズムを制御するデータである。AIモデルの知的財産保護や、学習用データの安全な転送・保管において不可欠なセキュリティ基盤技術であり、現代の情報社会における機密性と信頼性を支える重要な役割を担っている。
フィッシング攻撃
フィッシング攻撃とは、実在する組織を装った偽のメールやウェブサイトを用いて、暗証番号やクレジットカード番号などの個人情報を盗み出す詐欺手法です。近年は生成AIの悪用により、不自然な日本語が修正された極めて巧妙な文面が作成されるなど、従来のフィルタリングをかいくぐる高度な攻撃が増加しており、対策の重要性が高まっています。
機密データ
AIモデルの学習や運用において外部への漏洩が許されない、個人情報や知的財産、企業の機密情報などの総称。AIの利用拡大に伴い、モデルへの入力や学習データに機密データが含まれることによる情報漏洩リスクへの対策が重要視されており、データ匿名化や安全な実行環境の整備が必要です。
ロールベースアクセス制御
ロールベースアクセス制御（RBAC）とは、システム利用者個別の識別子ではなく、組織内の「役割（ロール）」に基づいてデータや機能へのアクセス権限を管理するセキュリティ手法です。大規模言語モデルやAIエージェントの運用において、機密データへの不適切なアクセスを防ぎ、安全で効率的な権限管理を実現するために不可欠な概念です。
プライバシー予算
プライバシー予算とは、データから統計情報や機械学習モデルを作成する際に消費される個人情報の許容量を示す指標です。差分プライバシーにおいてデータ開示の回数やノイズ量を管理し、過度な情報漏洩を防ぐために用いられます。
ファイアウォール
ファイアウォールは、信頼できる内部ネットワークとインターネットなどの信頼できない外部ネットワークの間で通信を監視し、不正なアクセスやサイバー攻撃を防ぐセキュリティシステムのことです。AIシステムやサーバーを保護する基盤としても不可欠な役割を担います。
データ汚染
データ汚染とは、AIの学習や評価に用いるデータセットに不適切なデータや本来含めてはならないテストデータが混入する現象です。特に評価用データが事前学習段階でモデルに取り込まれると、AIが過剰に高い性能を示す漏洩が生じ、正確な性能評価が困難になります。AIの信頼性や公正性を担保する上で重要な課題です。
ランサムウェア
ランサムウェアは、感染したコンピュータのシステムやファイルを暗号化して使用不能にし、復旧と引き換えに身代金（ランサム）を要求する悪意のあるソフトウェアです。近年では、攻撃手法の高度化に生成AIなどの人工知能技術が一部悪用される一方、これを検知・防御する側でもAIを活用した振る舞い検知技術などの導入が進んでいます。
動的解析
動的解析とは、コンピュータプログラムを実際に実行してその挙動や性能を観察し、バグや脆弱性、動作上の問題を検出する手法です。AI分野では、機械学習モデルの実行時の振る舞いや、生成AIのセキュリティ検証などに活用されます。