人工知能や大規模言語モデルにおけるヘイトスピーチとは、人種、宗教、性別、国籍などに基づいて特定の集団や個人を攻撃・差別する表現を指します。AIが差別的な出力をしないよう、有害性検出モデルを用いたフィルタリングやアライメント技術による対策が不可欠です。
ヘイトスピーチとは
AIにおけるヘイトスピーチとは、大規模言語モデルやテキスト生成AIが、人種や性別、国籍などに対する差別的、侮辱的、あるいは暴力的な表現を学習・生成してしまう問題、およびその出力される有害な言葉そのものを指します。
詳しく解説
生成AIは膨大なインターネット上のテキストデータを学習するため、現実社会に存在する偏見や差別表現をそのまま吸収してしまうリスクがあります。AI倫理の観点から、こうした不適切出力を抑制することは開発企業にとって重要な課題です。自然言語処理の分野では、入力や出力の段階で不適切表現を検知するコンテンツモデレーションの技術が組み込まれ、モデルの安全性向上が図られています。
具体例・使われ方
例えば、特定の国籍や民族に対する偏見を助長するような質問に対し、生成AIが差別的な固定観念を事実であるかのように答えてしまうケースがあります。また、SNSの自動返答AIやチャットボットがユーザーの悪意ある誘導によってヘイトスピーチを学習し、不適切な発言を繰り返してしまう事例などが挙げられます。
似た用語との違い
一般的な誤情報やフェイクニュースが「事実に基づかない情報の拡散」を目的とするのに対し、ヘイトスピーチは「特定の属性を持つ人々への尊厳を傷つける攻撃や差別的意図」に焦点を当てている点が異なります。ただし、フェイクニュースが差別的なヘイトスピーチを伴うなど、両者が複合して現れることもあります。
注意点
AIによるヘイトスピーチの検知や自動フィルターは完全に機能するわけではありません。文脈の理解不足による過剰検知（正当な批判や議論をヘイトと誤認すること）や、巧妙な言い換えによるすり抜けといった限界が存在するため、人間による監視や継続的なモデルの改善が欠かせません。