ディープフェイク
ディープフェイクとは、ディープラーニング（深層学習）技術を用いて、実在する人物の顔や声を合成・改変して作られた偽の画像、動画、音声コンテンツのことです。映画の特殊効果やエンターテインメント領域で活用される一方で、なりすまし犯罪や誤情報の拡散など社会的なリスクが懸念されており、検知技術の向上や法的な対策が進められています。
セキュリティのAI用語一覧
174件セキュリティに関するAI用語を174件掲載しています。意味や使い方、関連用語を一覧から確認できます。
プロンプトインジェクション
プロンプトインジェクションとは、大規模言語モデルに対して開発者の意図しない命令を悪意を持って注入し、システムプロンプトの制限を回避させたり不正な出力を引き出したりする攻撃手法です。生成AIを活用したアプリケーションにおける重大なセキュリティ脅威であり、適切な防御策の導入が強く求められています。
平文
平文とは、暗号化などのセキュリティ保護が施されておらず、人間やコンピュータがそのまま読み取り・解読できる状態のデータです。AIや自然言語処理の領域では、学習データやプロンプトとして入力される一般的なテキストを指します。処理が容易な反面、盗聴や情報漏洩のリスクがあるため、適切なデータ保護対策が重要です。
摂動
摂動とは、AIや機械学習のモデルにおいて、入力データやパラメータにごくわずかな変化を加える操作を指します。機械学習の分野では、モデルの頑健性を評価するためのテストや、敵対的攻撃に対する防御策の研究などにおいて重要な役割を果たしています。
機密情報
機密情報とは、組織内で秘密に管理され一般に公開されていない情報のことです。AIの普及に伴い、プロンプトに入力した機密情報がAIモデルの学習データとして再利用され、他社に情報漏洩するリスクが深刻化しています。企業では、生成AIの安全な活用のためにオプトアウトの設定や専用のガイドライン策定など、適切な情報管理策が強く求められています。
ブロックチェーン
ブロックチェーンとは、複数のコンピュータでデータを分散して記録・管理する分散型台帳技術です。暗号技術を用いてデータを変更困難な「ブロック」として鎖状につなぎ、改ざん防止や高い透明性を実現します。AIの学習データの信頼性確保やスマートコントラクトによる自動取引など、先進技術との融合が進んでいます。
匿名化
匿名化とは、個人情報から特定の個人を識別できないように加工する技術やプロセスのことです。AIの機械学習において、ユーザーのプライバシー保護とデータ活用の両立を図るための重要な手法として広く利用されています。
過剰検知
過剰検知とは、AIや機械学習を用いた検知システムにおいて、本来は検出・対処すべき対象ではない正常なデータや無害なパターンを、誤って「異常」や「検知対象」として判定してしまう現象のことです。安全性を重視して検知感度を高く設定しすぎることなどで発生し、運用現場での確認コスト増大を引き起こす要因となります。
秘密分散法
秘密情報を複数の断片に分割し、単体では復元不可能な状態で安全に保管・転送する暗号技術です。AI分野では、機密性の高い訓練データやモデルのプライバシー保護手法として活用されています。
情報漏洩
情報漏洩とは、組織や個人の機密情報や個人情報が外部へ不当に流出・開示される事象です。AI分野では、大規模言語モデルなどの生成AIに対して機密データや個人情報を入力した結果、訓練データとして取り込まれ第三者の出力に現れるリスクや、モデルから訓練データを復元する攻撃などが課題となっています。
サイバー攻撃
サイバー攻撃とは、ネットワークやコンピュータシステムに対して、データの窃取や破壊、システムの停止などを目的に行われる不法な侵入や攻撃行為のことです。近年では生成AIを利用した巧妙なフィッシング攻撃や自動化された攻撃が増加しており、企業や個人の安全を守るためのAIを活用したセキュリティ対策の重要性が高まっています。
認証
認証とは、システムやサービスを利用しようとするユーザーやデバイスが、正真正銘の本人であるかを確認する手続きです。AIシステムの利用やデータアクセスにおいても、不正利用や情報漏洩を防ぐための基本的なセキュリティ対策として不可欠です。パスワードや生体認証、APIキーなど様々な手法が組み合わせて活用されています。
AI検知
AI検知とは、文章や画像、音声などのデータが人工知能によって生成されたものか、人間が作成したものかを判別する技術やプロセスのことです。生成AIの普及に伴い、ディープフェイクや偽情報の拡散防止、教育現場での不正利用対策などを目的に開発されています。統計的な特徴やパターンの分析を通じて判定を行います。
マルウェア
マルウェア（悪意のあるソフトウェア）とは、コンピュータやネットワーク、利用者に不利益をもたらすために意図的に設計された悪質なプログラムの総称です。ウイルス、ワーム、トロイの木馬、ランサムウェアなど多岐にわたる種類が存在し、近年ではAI技術を悪用した高度なマルウェアの開発や、逆にAIを用いた高精度な検知システムの構築などが進んでいます。
ハッシュ化
ハッシュ化とは、任意の長さのデータを特定の規則に従って、固定長の不規則な値に変換する技術です。AIや機械学習の分野では、膨大な「特徴量」の「次元削減」や、データの重複排除、匿名化、そして高速な「ベクトル検索」を可能にする特殊なハッシュ手法などに広く活用されています。
暗号化
暗号化とは、データを特定のルールに基づいて第三者には解読できない形式（暗号文）に変換する技術です。AIの分野では、学習データの漏洩防止やプライバシー保護、セキュアなモデル共有において極めて重要な役割を果たします。復号鍵を持つ正規の受信者のみが元のデータに戻すことができるため、データの機密性を確保できます。
プライバシー
AI開発や利用において、個人の個人情報や機密データを保護するための概念と技術です。機械学習モデルの学習データに個人情報が混入することや、生成AIが機密情報を漏洩するリスクを防ぐために、厳格なデータ管理とプライバシー保護技術が求められています。
オンプレミス
オンプレミスとは、自社が管理する施設内にサーバーやネットワーク機器を導入し、システムを構築・運用する形態のことです。クラウドサービスの普及後も、AI分野において個人情報や機密データの漏洩を防ぐ高度なセキュリティ確保や、独自のGPU環境による大規模言語モデルの効率的なファインチューニングを実行するために、広く採用されています。
デジタル署名
デジタル署名とは、電子データが本物であり、途中で改ざんされていないことや、正当な発信者によって作成されたことを証明する暗号技術です。AI時代の生成AIコンテンツの真贋判定やデータ改ざん防止において重要な役割を果たします。
公開鍵
公開鍵とは、非対称暗号方式において広く一般に公開される暗号鍵です。データ暗号化やデジタル署名の検証に用いられ、秘密鍵とペアで使用することで安全な通信や本人確認を実現します。AIシステムにおけるデータ保護やモデルの整合性検証にも重要な基盤技術となっています。
セキュリティホール
セキュリティホールとは、ソフトウェアやAIシステムにおける設計上の欠陥やプログラムの不具合によって生じる安全上の弱点のことです。攻撃者がこの弱点を悪用することで、不正アクセスや情報の漏洩、システムの乗っ取りなどの被害が発生する危険性があります。AIモデルにおいてはプロンプトインジェクションやデータ汚染などの新たな脅威に関連して注目されています。
サンドボックス
サンドボックスとは、外部のシステムや重要データから隔離された安全な仮想実行環境です。AI領域では、LLMやAIエージェントが自動生成したプログラムを安全に実行し、不正アクセスや破壊的な動作によるホスト環境への悪影響を防ぐためのセキュリティ基盤として不可欠な役割を果たします。
フィッシングメール
フィッシングメールとは、実在する企業や公的機関になりすまし、受信者を偽のウェブサイトへ誘導して個人情報やアカウント情報を詐取しようとする詐欺メールのことです。近年では生成AIや自然言語処理技術を利用して不自然さのない自然な文章が作成されるようになり、被害の防止や検知がより重要になっています。
SQLインジェクション
SQLインジェクションとは、WebアプリケーションやAIシステムの入力フォーム等に悪意のあるSQL命令を注入し、データベースを不正に操作するサイバー攻撃の手法です。データベース内の機密情報の閲覧、改ざん、削除などの被害を引き起こすため、入力数値の検証やエスケープ処理、プレースホルダーを利用した適切な対策が不可欠です。