一方向性とは、AIモデルがデータを処理する際に、特定の方向（例：文章の前から後）のデータのみを利用して予測や生成を行う性質のことです。GPTなどの生成AI（大規模言語モデル）で採用されている一方向アテンションは、過去の文脈だけを参考に次の単語を予測する仕組みであり、自然なテキスト生成に適しています。
一方向性とは
一言でいうと、情報を過去から未来など片方向のみに制限して処理する構造や性質のことです。
詳しく解説
機械学習や自然言語処理において、一方向性は特に大規模言語モデルの設計で重要な役割を果たします。たとえばGPTなどの自動回帰モデルでは、ある単語を予測する際にそれ以前に登場した単語（過去の文脈）のみを参照し、未来の単語を参照しないよう制限されています。これを一方向アテンションと呼びます。この制約により、文章の続きを一つずつ生成するテキスト生成タスクを効率的かつ自然に行うことができます。初期のリカーレントニューラルネットワークやトランスフォーマーの一形態でもこの構造が利用されています。
具体例・使われ方
具体的な例として、文章の自動生成や対話型AIが挙げられます。「今日は天気が」という入力に対し、過去の単語だけをもとに「良い」という次の単語を予測・出力する処理は一方向性の典型です。また、音声認識でストリーミング配信される音声をリアルタイムで処理する際にも、未来の音声を待たずに過去の音声データだけで判定を行う一方向性のモデルが使われます。
似た用語との違い
双方向性との違いが代表的です。BERTに代表される双方向モデル（双方向アテンション）は、対象の単語の前後の文脈を同時に参照して意味を理解します。そのため文章理解や分類タスクには強力ですが、未来の情報（文末など）がないと処理できないためリアルタイムな文章生成には向きません。一方、一方向性は過去の情報のみを用いるため、逐次的な文章生成や即時応答に特化しています。
注意点
一方向性の限界として、未来の文脈を参照できないため、文章全体の文脈を深く理解・補正するタスク（文章の穴埋めや精度重視の検索など）では、双方向モデルに比べて適性が低い場合があります。また、過去の生成内容に誤りがあった場合に後続の出力全体が影響を受けてしまう点にも注意が必要です。