セーフティフィルター
セーフティフィルターとは、生成AIにおいて有害や不適切なコンテンツの入力・出力を検知し、自動的に遮断・修正する安全制御機構です。差別的発言、犯罪の助長、個人情報漏洩などのリスクを防ぐためのガードレールとして機能し、ユーザーからの入力プロンプトとAIの出力データの双方をリアルタイムで監視してシステムの安全性を担保します。
AIガバナンスのAI用語一覧
1件AIガバナンスに関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
AIガバナンスに関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
セーフティフィルターとは、生成AIにおいて有害や不適切なコンテンツの入力・出力を検知し、自動的に遮断・修正する安全制御機構です。差別的発言、犯罪の助長、個人情報漏洩などのリスクを防ぐためのガードレールとして機能し、ユーザーからの入力プロンプトとAIの出力データの双方をリアルタイムで監視してシステムの安全性を担保します。