機械学習深層学習自然言語処理

単語分散表現

たんごぶんさんひょうげん · Word Embedding
1 views

単語分散表現とは、言葉の意味を多次元の数値ベクトルに変換し、コンピュータが自然言語のニュアンスや文脈を理解できるようにする技術です。AIにおける自然言語処理の基礎であり、単語同士の意味的な近さを計算できるようになります。

単語分散表現とは

単語分散表現とは、自然言語処理において単語を実数のベクトル(数値の並び)で表現する手法であり、一言でいうと「言葉の意味をコンピュータが計算可能な座標に配置する技術」です。

詳しく解説

従来の手法では、単語を単純なIDや独立したカテゴリとして扱っていたため、単語同士の意味的な近さを捉えることが困難でした。単語分散表現では、ニューラルネットワークを用いて大量のテキストを学習させ、出現傾向が似ている単語同士が近いベクトル空間に配置されるようにします。これにより、単語の意味の類似度計算や文脈の推論が可能になり、自然言語処理の性能が飛躍的に向上しました。

具体例・使われ方

例えば、「王様」から「男性」のベクトルを引き、「女性」のベクトルを足すと「女王」のベクトルに近い値が得られるというような、言葉の意味の足し算や引き算ができるようになります。機械翻訳や検索エンジン、チャットボットなどの基盤技術として広く活用されています。

似た用語との違い

従来の「One-Hot表現」が単語同士の関係性を全く持たず独立した次元として扱うのに対し、単語分散表現は連続値のベクトルを用いて単語間の意味的な近さを表現できる点が大きな違いです。

注意点

学習に用いるコーパス(テキストデータ)の偏りや質によって、得られるベクトルの精度が大きく左右されます。また、多義語であっても基本的に1つの単語に対して1つのベクトルが割り当てられるため、文脈によって意味が大きく変わる言葉の処理には限界がありました。

更新日時: 2026年9月4日 14:31