バイアスとは、AIや機械学習において予測値と正解値の間に生じる系統的なずれ、またはデータの偏りによって生じる予測の不公平性のことです。統計学的にはモデルの表現力不足による誤差を指し、AI倫理では人間社会の偏見を反映した差別的な判定を指します。公平なAIを構築するには、学習データの選定から評価まで各段階でバイアスを監視・排除する対策が重要です。
バイアスとは
AIや機械学習におけるバイアスとは、予測値と正解値の間に生じる系統的なずれ、またはデータの偏りによって生じるモデルの不公平性や予測の歪みを指します。
詳しく解説
機械学習におけるバイアスには大きく分けて2つの文脈があります。1つ目は統計学的な文脈での「バイアスと分散のトレードオフ」におけるバイアスです。これは、モデルが単純すぎてデータの複雑なパターンを十分に学習できないことによる予測の系統的な誤差を指します。2つ目は、AI倫理の文脈における社会的・倫理的な「バイアス」です。AIが学習に使用する学習データそのものに人間の偏見や過去の差別的な意思決定が含まれている場合、AIはその傾向をそのまま再現・増幅してしまい、特定のグループに対して不公平な判定を下すようになります。
具体例・使われ方
AIの倫理的バイアスの具体例としては、過去の採用履歴データを基に構築された採用支援AIが、男性の採用率が高かった背景をそのまま学習し、女性の応募者を不当に低く評価してしまうケースが挙げられます。また、顔認識システムにおいて、特定の肌の色のデータが不足しているために認識精度が著しく低下するといったケースも、学習データの偏りに起因するバイアスです。
似た用語との違い
「バイアス」と混同されやすい概念に「過学習」があります。過学習は、学習データに適合しすぎて未知のデータに対する予測性能が低下する現象を指し、統計的には「分散」が高い状態に該当します。これに対し、バイアスが高い状態（アンダーフィッティング）は、モデルが単純すぎて学習データの特徴すら十分に捉えられていない状態を指します。また、社会的バイアスと「公平性」は対比される概念であり、AIのバイアスを排除することで客観的な公平性を担保する試みが続けられています。
注意点
AIのバイアスは、モデルのアルゴリズムを改善するだけで完全に排除できるものではありません。最大の問題は、私たちが収集した学習データ自体に、現実社会の歴史的な差別や格差が内包されている点にあります。開発者は、データ収集の段階から多様性を確保し、学習が完了した後も継続的に出力結果の公平性を監視する必要があります。