条件付き確率場(CRF)は、データの順序や文脈による相互依存関係を考慮して最適なラベルシーケンスを予測する確率的グラフィカルモデルです。自然言語処理の品詞タグ付けや固有名詞抽出などの「逐次ラベル付け」において、前後のつながりを統合的に判断して高精度な分類を実現するための基盤技術として広く用いられています。
条件付き確率場とは
条件付き確率場(CRF)とは、文脈情報を考慮して「系列データ」の各要素に適切なラベルを割り当てる「構造化予測」のための確率的グラフィカルモデルです。一言でいうと、前後の状態の依存関係を考慮しながら全体の最適なラベルシーケンスを決定するアルゴリズムです。
詳しく解説
従来の分類器が個々の要素を独立して予測するのに対し、条件付き確率場は要素間の相互依存関係(遷移確率)をモデル化します。例えば「逐次ラベル付け」において、ある単語の品詞は前後の単語の品詞に強く依存します。CRFは、入力データ全体を条件部(観測値)として与え、出力ラベル全体の結合確率を表現します。学習時には対数尤度を最大化するようにパラメータを更新し、推論時には「ビタビアルゴリズム」を用いて最も確率の高いラベル列を効率的に探索します。これにより、局所的な予測の誤りが全体に波及するのを防ぎ、高精度なシーケンス分類を可能にします。
具体例・使われ方
代表的な応用例は自然言語処理における「逐次ラベル付け」タスクです。例えば、固有名詞抽出において「東京 に 行く」のように、単語の並び(「系列データ」)から品詞や固有表現の境界を特定します。また、バイオインフォマティクスにおけるDNA配列の遺伝子領域特定や、画像処理におけるピクセル単位でのセグメンテーションなど、順序や位置関係が重要なデータに対して幅広く利用されています。
似た用語との違い
「隠れマルコフモデル」との違いがよく比較されます。隠れマルコフモデルは生成モデルであり、入力と出力の同時確率をモデル化するため、入力特徴量間の強い依存関係を扱うのが困難です。一方、条件付き確率場は識別モデルであり、入力全体を条件とした条件付き確率を直接モデル化するため、重複する多様な特徴量を柔軟に設計できる強みがあります。これにより、文脈を考慮した高度な「構造化予測」が可能となります。
注意点
条件付き確率場は表現力が高い反面、計算コストが大きいという課題があります。特にラベルの種類数や系列長が増加すると、学習や推論(「ビタビアルゴリズム」による探索など)に必要な計算量が爆発的に増加します。また、特徴量設計にドメイン知識が必要とされる場合もあります。近年はディープラーニングと組み合わせたハイブリッドモデルが主流ですが、計算負荷の最適化は常に重要な考慮事項となります。