トランスフォーマーのAI用語一覧

自己アテンション

自己アテンションとは、入力されたデータ内の異なる要素同士が互いにどれほど重要であるかを計算し、文脈に応じた重み付けを行う仕組みです。トランスフォーマーの根幹をなす技術であり、現代の高度な自然言語処理やAIモデルの発展を支えています。