埋め込み表現（Embedding）とは、単語や画像などの多様なデータをコンピューターが扱いやすい連続値のベクトルに変換する手法です。データの意味的な近さや特徴を空間上の距離として表現できるため、機械学習モデルの精度向上に欠かせない基盤技術となっています。
埋め込み表現とは
一言でいうと、人間が理解する言葉や画像などのデータを、AIが計算しやすい数値の羅列（ベクトル）に変換する仕組みのことです。
詳しく解説
コンピューターはそのままでは文字や画像の意味を理解できません。そのため、従来の自然言語処理では単語をただのIDとして扱っていましたが、これでは単語同士の関係性を捉えられませんでした。埋め込み表現では、膨大なデータから単語の意味や文脈を学習し、高次元の空間に配置します。意味が似ている単語同士は空間上で近くに配置されるため、AIは数値計算によって言葉の意味や関係性を理解できるようになります。この技術は、現在の深層学習や大規模言語モデルにおいて、データの意味的特徴を捉えるための最も基本的なアプローチとして広く活用されています。
具体例・使われ方
例えば、「王様」という単語のベクトルから「男」のベクトルを引いて「女」のベクトルを足すと、「女王」のベクトルに非常に近くなるというような、言葉の意味の足し算や引き算が可能になります。また、検索エンジンで「スマートフォン」と検索した際に、「スマホ」という言葉が含まれていない文書でも、意味が近いために検索結果として表示される仕組みにも埋め込み表現が利用されています。
似た用語との違い
従来の単語表現である「ワンホット表現」が、単語ごとに独立した次元を割り当てて単語同士の関係性を全く考慮しないのに対し、埋め込み表現は連続した数値で意味の近接性を表現できる点が大きく異なります。
注意点
埋め込み表現は学習データに含まれる社会的偏見やバイアスをそのまま数値化してしまうリスクがあります。また、多義語（文脈によって意味が変わる言葉）の場合、単純な手法では同じベクトルに圧縮されてしまうため、最新の大規模言語モデルでは文脈に応じて動的に変化させる仕組みが補われています。