コンテンツモデレーションのAI用語一覧

ヘイトスピーチ

人工知能や大規模言語モデルにおけるヘイトスピーチとは、人種、宗教、性別、国籍などに基づいて特定の集団や個人を攻撃・差別する表現を指します。AIが差別的な出力をしないよう、有害性検出モデルを用いたフィルタリングやアライメント技術による対策が不可欠です。