AI分野における誤情報とは、生成AIなどが事実とは異なる不正確な情報を誤って生成・拡散してしまう現象やそのデータを指します。もっともらしい嘘を出力するハルシネーションとも深く関連し、情報の信頼性を損なう重大な課題として対策が進められています。
誤情報とは
誤情報とは、悪意の有無に関わらず、事実と異なる不正確な情報が発信・拡散される現象のことであり、AI分野では主に大規模言語モデルなどが間違った事実をもっともらしく出力することを指します。
詳しく解説
AIにおける誤情報は、モデルが学習したデータに含まれる偏りや、確率的な単語予測の仕組みに起因して発生します。大規模言語モデルは文章の流暢さを重視して出力するため、論理的であっても内容が事実無根である場合があります。これがSNSなどを通じて自動生成・大量拡散されると、社会的な混乱を招くリスクが高まるため、AI開発や利用において情報の真偽を検証するガバナンスやフィルタリングの仕組みが非常に重要視されています。
具体例・使われ方
AIチャットボットがユーザーの質問に対し、実在しない論文のタイトルや架空の歴史的事件をもっともらしい解説付きで回答してしまうケースや、生成AIが事実無根のニュース記事の要約を作成して発信してしまう事例などが挙げられます。
似た用語との違い
意図的に他者を欺く目的で流布される「偽情報（ディスインフォメーション）」とは異なり、誤情報は悪意の有無に関わらず不正確である情報全般を指す点が異なります。また、AIが文脈に反して完全に架空の出力をするハルシネーションは、誤情報が発生するメカニズムの一つとして位置づけられます。
注意点
AIが生成する情報は一見すると非常に自然で正確に見えるため、内容を鵜呑みにせず人間が必ず事実確認を行うファクトチェックが不可欠です。また、意図せず誤情報を拡散しないよう、利用者はその限界を正しく理解し慎重に扱う必要があります。