ディープフェイク
ディープフェイクとは、ディープラーニング（深層学習）技術を用いて、実在する人物の顔や声を合成・改変して作られた偽の画像、動画、音声コンテンツのことです。映画の特殊効果やエンターテインメント領域で活用される一方で、なりすまし犯罪や誤情報の拡散など社会的なリスクが懸念されており、検知技術の向上や法的な対策が進められています。
セキュリティのAI用語一覧
174件セキュリティに関するAI用語を174件掲載しています。意味や使い方、関連用語を一覧から確認できます。
摂動
摂動とは、AIや機械学習のモデルにおいて、入力データやパラメータにごくわずかな変化を加える操作を指します。機械学習の分野では、モデルの頑健性を評価するためのテストや、敵対的攻撃に対する防御策の研究などにおいて重要な役割を果たしています。
プロンプトインジェクション
プロンプトインジェクションとは、大規模言語モデルに対して開発者の意図しない命令を悪意を持って注入し、システムプロンプトの制限を回避させたり不正な出力を引き出したりする攻撃手法です。生成AIを活用したアプリケーションにおける重大なセキュリティ脅威であり、適切な防御策の導入が強く求められています。
匿名化
匿名化とは、個人情報から特定の個人を識別できないように加工する技術やプロセスのことです。AIの機械学習において、ユーザーのプライバシー保護とデータ活用の両立を図るための重要な手法として広く利用されています。
オンプレミス
オンプレミスとは、自社が管理する施設内にサーバーやネットワーク機器を導入し、システムを構築・運用する形態のことです。クラウドサービスの普及後も、AI分野において個人情報や機密データの漏洩を防ぐ高度なセキュリティ確保や、独自のGPU環境による大規模言語モデルの効率的なファインチューニングを実行するために、広く採用されています。
ブロックチェーン
ブロックチェーンとは、複数のコンピュータでデータを分散して記録・管理する分散型台帳技術です。暗号技術を用いてデータを変更困難な「ブロック」として鎖状につなぎ、改ざん防止や高い透明性を実現します。AIの学習データの信頼性確保やスマートコントラクトによる自動取引など、先進技術との融合が進んでいます。
秘密分散法
秘密情報を複数の断片に分割し、単体では復元不可能な状態で安全に保管・転送する暗号技術です。AI分野では、機密性の高い訓練データやモデルのプライバシー保護手法として活用されています。
機密情報
機密情報とは、組織内で秘密に管理され一般に公開されていない情報のことです。AIの普及に伴い、プロンプトに入力した機密情報がAIモデルの学習データとして再利用され、他社に情報漏洩するリスクが深刻化しています。企業では、生成AIの安全な活用のためにオプトアウトの設定や専用のガイドライン策定など、適切な情報管理策が強く求められています。
サイバー攻撃
サイバー攻撃とは、ネットワークやコンピュータシステムに対して、データの窃取や破壊、システムの停止などを目的に行われる不法な侵入や攻撃行為のことです。近年では生成AIを利用した巧妙なフィッシング攻撃や自動化された攻撃が増加しており、企業や個人の安全を守るためのAIを活用したセキュリティ対策の重要性が高まっています。
ハッシュ化
ハッシュ化とは、任意の長さのデータを特定の規則に従って、固定長の不規則な値に変換する技術です。AIや機械学習の分野では、膨大な「特徴量」の「次元削減」や、データの重複排除、匿名化、そして高速な「ベクトル検索」を可能にする特殊なハッシュ手法などに広く活用されています。
AI検知
AI検知とは、文章や画像、音声などのデータが人工知能によって生成されたものか、人間が作成したものかを判別する技術やプロセスのことです。生成AIの普及に伴い、ディープフェイクや偽情報の拡散防止、教育現場での不正利用対策などを目的に開発されています。統計的な特徴やパターンの分析を通じて判定を行います。
フィッシング攻撃
フィッシング攻撃とは、実在する組織を装った偽のメールやウェブサイトを用いて、暗証番号やクレジットカード番号などの個人情報を盗み出す詐欺手法です。近年は生成AIの悪用により、不自然な日本語が修正された極めて巧妙な文面が作成されるなど、従来のフィルタリングをかいくぐる高度な攻撃が増加しており、対策の重要性が高まっています。
SQLインジェクション
SQLインジェクションとは、WebアプリケーションやAIシステムの入力フォーム等に悪意のあるSQL命令を注入し、データベースを不正に操作するサイバー攻撃の手法です。データベース内の機密情報の閲覧、改ざん、削除などの被害を引き起こすため、入力数値の検証やエスケープ処理、プレースホルダーを利用した適切な対策が不可欠です。
バックアップ
AI開発や運用において、モデルの重みデータや学習用コーパス、システム設定などの重要なデータを消失から守るために複製し、安全な場所に保存することです。ハードウェアの故障や誤操作、サイバー攻撃に備えるために不可欠なプロセスです。
ゼロトラスト
ゼロトラストとは、「何も信頼せず、すべてを常に検証する」というセキュリティ概念です。社内外を問わずすべてのアクセスを監視・認証し、AIを用いた異常検知や動的アクセス制御などを通じて安全性を確保します。クラウド時代やAIシステムの安全運用に不可欠なアプローチです。
プライバシー
AI開発や利用において、個人の個人情報や機密データを保護するための概念と技術です。機械学習モデルの学習データに個人情報が混入することや、生成AIが機密情報を漏洩するリスクを防ぐために、厳格なデータ管理とプライバシー保護技術が求められています。
過剰検知
過剰検知とは、AIや機械学習を用いた検知システムにおいて、本来は検出・対処すべき対象ではない正常なデータや無害なパターンを、誤って「異常」や「検知対象」として判定してしまう現象のことです。安全性を重視して検知感度を高く設定しすぎることなどで発生し、運用現場での確認コスト増大を引き起こす要因となります。
サンドボックス
サンドボックスとは、外部のシステムや重要データから隔離された安全な仮想実行環境です。AI領域では、LLMやAIエージェントが自動生成したプログラムを安全に実行し、不正アクセスや破壊的な動作によるホスト環境への悪影響を防ぐためのセキュリティ基盤として不可欠な役割を果たします。
サプライチェーン
サプライチェーンとは、製品やサービスが原材料の調達から製造、流通を経て消費者に届くための一連の流れを指します。AI分野においては、データ収集やアノテーション、AIモデルの学習、システムのデプロイに至る一連の供給網を「AIサプライチェーン」と呼びます。構成要素の健全性を確保し、セキュリティリスクを防ぐ管理が重要視されています。
デジタル署名
デジタル署名とは、電子データが本物であり、途中で改ざんされていないことや、正当な発信者によって作成されたことを証明する暗号技術です。AI時代の生成AIコンテンツの真贋判定やデータ改ざん防止において重要な役割を果たします。
情報セキュリティ
情報セキュリティとは、情報の機密性、完全性、可用性を維持し、不正アクセスやデータ漏洩などの脅威から守るための技術や運用の総称です。AIの普及に伴い、モデルの学習データの保護やAIシステムへの攻撃を防ぐ「AIセキュリティ」の重要性も高まっています。
暗号鍵
暗号鍵とは、データの暗号化や復号、デジタル署名の作成・検証を行うために用いられる、特定のアルゴリズムを制御するデータである。AIモデルの知的財産保護や、学習用データの安全な転送・保管において不可欠なセキュリティ基盤技術であり、現代の情報社会における機密性と信頼性を支える重要な役割を担っている。
セキュリティホール
セキュリティホールとは、ソフトウェアやAIシステムにおける設計上の欠陥やプログラムの不具合によって生じる安全上の弱点のことです。攻撃者がこの弱点を悪用することで、不正アクセスや情報の漏洩、システムの乗っ取りなどの被害が発生する危険性があります。AIモデルにおいてはプロンプトインジェクションやデータ汚染などの新たな脅威に関連して注目されています。
マルウェア
マルウェア（悪意のあるソフトウェア）とは、コンピュータやネットワーク、利用者に不利益をもたらすために意図的に設計された悪質なプログラムの総称です。ウイルス、ワーム、トロイの木馬、ランサムウェアなど多岐にわたる種類が存在し、近年ではAI技術を悪用した高度なマルウェアの開発や、逆にAIを用いた高精度な検知システムの構築などが進んでいます。