セーフティフィルター
セーフティフィルターとは、生成AIにおいて有害や不適切なコンテンツの入力・出力を検知し、自動的に遮断・修正する安全制御機構です。差別的発言、犯罪の助長、個人情報漏洩などのリスクを防ぐためのガードレールとして機能し、ユーザーからの入力プロンプトとAIの出力データの双方をリアルタイムで監視してシステムの安全性を担保します。
AIガバナンスのAI用語一覧
16件AIガバナンスに関するAI用語を16件掲載しています。意味や使い方、関連用語を一覧から確認できます。
データガバナンス
データガバナンスとは、組織内のデータ資産の可用性、品質、整合性、安全性を管理し、適切に活用するための体制やルールのことです。AIの精度向上やリスク管理において不可欠な基盤となります。
リスクアセスメント
リスクアセスメントとは、AIシステムの開発や運用に伴って生じる潜在的な危険や不利益を特定し、その影響度や発生確率を分析・評価する一連のプロセスです。公平性の欠如、誤情報の生成、情報漏洩などの問題を事前に把握し、適切な対策を講じることで、安全かつ信頼性の高いAI活用を実現するために不可欠な取り組みです。
アセスメント
AIにおけるアセスメントとは、開発・導入するAIシステムが倫理や法律、セキュリティに与える影響を事前または継続的に評価・検証するプロセスです。リスクの特定や公平性の確認を行い、安全なAI社会実装を目指すために重要な手法として注目されています。
機密性
機密性とは、アクセス権限を持つ正規のユーザーのみが情報にアクセスできるように保護する情報セキュリティの基本特性です。AIシステムの開発や運用においては、学習データやプロンプトに含まれる機密情報の漏洩を防ぐために不可欠な要素となります。
オープンソースの定義
オープンソースの定義とは、非営利団体Open Source Initiativeが制定したソフトウェアの再配布や改変の自由を保障する10個の要件です。近年ではAIモデルの普及に伴い、ソースコードだけでなく訓練データや重みデータを含むオープンソースAIの定義策定が進められており、技術の透明性や再利用性を確保するための重要な基準となっています。
AIリスク管理
AIリスク管理とは、AIの導入や運用に伴うセキュリティ脅威やバイアス、倫理的課題などのリスクを特定・評価し、適切に制御するための体系的な取り組みです。機械学習技術の発展に伴い、企業の社会的信用や安全性を守るために不可欠となっています。リスクの完全排除ではなく、許容レベルの管理と発生時の迅速な対応が重視されます。
リスク管理
AIにおけるリスク管理とは、AIシステムの開発や運用に伴って生じるハルシネーション、公平性を損なうバイアス、セキュリティ侵害などの潜在的脅威を特定・評価し、適切な対策を講じて被害を最小化する一連のプロセスのことです。技術の普及とともに、倫理面や法令遵守を含めた継続的な対策が不可欠となっています。
リスクベースアプローチ
リスクベースアプローチとは、AIシステムがもたらす危険性の度合いや規模に応じて、対策の厳しさを調整する考え方です。EU AI法などで採用されており、一律の規制ではなく高リスクな領域に重点的な管理を求める手法として注目されています。
GDPR
GDPR（EU一般データ保護規則）は、EU域内の個人データの保護とプライバシー権利を強化するために制定された法規則です。個人データの収集や処理、機械学習モデルの学習データとしての利用に関する厳格なルールを定めており、AI開発やデータ分析を行う世界中の企業や機関に大きな影響を与えています。
最小権限の原則
「最小権限の原則」とは、ユーザーやシステム、AIエージェントなどに対し、業務を実行するために必要最小限のアクセス権限のみを付与するセキュリティ設計の基本原則です。不要な権限を制限することで、不正アクセス、データ漏洩、システム乗っ取り、さらにはAIの暴走などのセキュリティリスクを最小限に抑えることができます。
サプライチェーン攻撃
サプライチェーン攻撃とは、ターゲットとなる組織を直接攻撃するのではなく、信頼されている外部のソフトウェア、ライブラリ、データセット、またはサードパーティ製品を介して侵入を試みるサイバー攻撃手法です。AI分野では、学習データへの毒入れやオープンソースモデル、外部ライブラリに悪意あるコードを混入させる攻撃が増加しています。
アイデンティティ管理
アイデンティティ管理とは、デジタル空間における人やAIエージェント、デバイスの身元情報を正確に把握し、適切なアクセス権限を付与・制御する仕組みです。AIの自律的な活動が増える現代において、不正アクセスやデータ漏洩を防ぐための基盤技術として重要性が高まっています。
最小特権の原則
最小特権の原則とは、システムやユーザー、AIエージェントに対し、業務を遂行するために不可欠な最小限のアクセス権限のみを付与するセキュリティ上の基本的な考え方です。不正アクセスやデータ漏洩のリスクを最小限に抑えるために極めて重要です。
Open Source Initiative
Open Source Initiative（OSI）は、オープンソースソフトウェア（OSS）の普及と保護を目的とする非営利団体です。「オープンソース定義」を管理し、各種ライセンスが基準を満たしているかを認定する役割を担っています。近年は、機械学習モデルや生成AIの発展に伴い、「オープンソースAI」の定義策定に向けた国際的な議論を主導しています。
サーキットブレーカー制度
AIのサーキットブレーカー制度とは、生成AIなどのシステムが暴走したり予期せぬ重大な危害をもたらしたりする恐れがある際、自動的あるいは手動でその動作を緊急停止させる安全機構のことです。AIの急速な普及に伴い、安全な社会実装とリスク管理を担保するための重要なAIガバナンス施策として議論が進められています。