疎ベクトル
疎ベクトルとは、大部分の要素がゼロであるベクトルのことです。AIや自然言語処理の分野において、メモリ効率を高めたり計算を高速化したりするために広く利用されており、密ベクトルとは対照的な性質を持ちます。
自然言語処理のAI用語一覧（10ページ目）
334件自然言語処理に関するAI用語を334件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は10ページ目です。
対話型AI
対話型AIとは、人間と自然な言葉で双方向のコミュニケーションを行う人工知能技術の総称です。自然言語処理や大規模言語モデルを活用し、質問への回答や文脈を考慮した会話を実現します。カスタマーサポートや業務支援など幅広い分野で普及が進んでいます。
人間のフィードバックからの強化学習
人間のフィードバックからの強化学習（RLHF）は、AIモデルの出力に対して人間の評価（フィードバック）を与え、それを基にモデルの挙動を最適化する機械学習の手法です。特に大規模言語モデルの安全性や実用性を向上させ、人間の意図に沿った回答を出力させる「アライメント」を達成するための基盤技術として広く活用されています。
自己アテンション
自己アテンションとは、入力されたデータ内の異なる要素同士が互いにどれほど重要であるかを計算し、文脈に応じた重み付けを行う仕組みです。トランスフォーマーの根幹をなす技術であり、現代の高度な自然言語処理やAIモデルの発展を支えています。
RAGシステム
RAGシステムとは、大規模言語モデルが外部の知識ベースから関連情報を検索し、その情報を基に高精度な回答を生成する仕組みです。モデルの学習データに含まれない最新情報や社内データにも対応できるため、ハルシネーションの抑制に有効です。
ニューラル機械翻訳
ニューラル機械翻訳（NMT）は、ディープラーニングを応用した高精度な自動翻訳技術です。文章全体をひとつのニューラルネットワークで処理することにより、文脈を考慮した極めて自然で流暢な翻訳を実現します。Google翻訳やDeepLなどのサービスに採用されており、従来の翻訳技術を大きく上回る精度を誇ります。
マルチヘッド・アテンション
マルチヘッド・アテンションは、Transformerモデルの心臓部である注意機構を複数の視点から並列に計算する仕組みです。異なる部分や関係性に同時に注目することで、文脈の多様な特徴や情報を効果的に捉え、AIの理解精度を大幅に向上させます。
外部知識ベース
外部知識ベースとは、AIや大規模言語モデル（LLM）が自らの学習データ以外から最新情報や専門情報を取得・参照するためのデータベースや情報源のことです。モデルの内部パラメータに依存せず、外部から動的に情報を検索・注入することで、ハルシネーションを抑制し、常に正確な回答の生成を可能にします。
Nグラムモデル
Nグラムモデルとは、連続するN個の単語や文字の並びを単位として出現確率を計算し、次の単語を予測する統計的言語モデルです。自然言語処理の分野で古くから使われており、シンプルながら強力な仕組みとして知られています。
フリークエンシーペナルティ
フリークエンシーペナルティは、大規模言語モデル（LLM）のテキスト生成において、同じ単語が何度も繰り返し出現することを抑制するためのパラメータです。生成中のテキスト内ですでに多く使われている単語の選択確率を下げることで、文章の単調化を防ぎ、より多様で自然な表現のテキストを出力させることができます。
リペティションペナルティ
リペティションペナルティとは、大規模言語モデルが文章を生成する際に、すでに登場した単語やフレーズが過剰に繰り返されるのを防ぐためのハイパーパラメータです。生成時に過去に出現したトークンの出力確率を低下させることで、より多様で自然なテキスト生成を実現します。高すぎると意味の破綻を招くため適切な調整が必要です。
露出バイアス
露出バイアスとは、機械学習モデルの訓練時と生成時における入力データの分布の違いに起因する偏りのことです。自然言語処理の生成モデルなどで、訓練時には正解データを用いる一方で推論時には自身が過去に生成した出力を用いることで発生します。
リアルタイム音声認識
リアルタイム音声認識とは、マイクなどを通じて入力された音声を、人間が聞き取るのとほぼ同時にテキストへと変換するAI技術です。会議の文字起こしや自動通訳、ライブ字幕など、即時性が求められる様々な場面で広く活用されています。
エンコード
エンコードとは、人間が理解しやすい文字や画像などのデータを、コンピュータやAIが処理しやすい数値や信号の形式に変換する処理のことです。機械学習や自然言語処理において、データをモデルに入力するための基礎的な前処理として広く活用されています。
出力ゲート
出力ゲートは、LSTMなどのリカレントニューラルネットワークやトランスフォーマー構造において、記憶セルから次の状態や外部へ情報をどれだけ出力するかを動的に制御する仕組みです。重要度の高い情報を選別し、モデルの予測精度向上に貢献します。
シーケンスデータ
シーケンスデータとは、要素が特定の順序を持って連続して並んだデータのことです。自然言語のテキスト、音声、時系列の数値データなどが代表的であり、AIによる予測や生成モデルの学習において非常に重要な役割を果たします。
計画的サンプリング
計画的サンプリングとは、系列生成モデルの学習において、正解データを入力する教師強制と、モデル自身の予測値を入力する自己回帰的な方法を段階的に切り替える手法です。学習時と推論時の入力分布のズレによって生じる露呈バイアスを緩和し、翻訳や音声合成などのタスクで生成品質を向上させる役割を果たします。
関係抽出
関係抽出とは、自然言語のテキスト中から特定の固有表現同士の意味的な関係性を自動的に特定する技術です。情報抽出やナレッジグラフの構築において、大量の文書から知識を構造化するために不可欠な役割を果たします。
インテント認識
インテント認識とは、ユーザーが発した言葉やテキストの裏にある「意図」や「目的」をAIが自動で判別する自然言語処理の技術です。チャットボットや音声アシスタントで適切な回答を返すために広く活用されています。
再帰的なニューラルネットワーク
再帰的なニューラルネットワーク（RNN）は、内部にループ構造を持ち、時系列データや言語などの順序を持ったデータを処理できるニューラルネットワークです。過去の情報を記憶しながら新しい入力を処理できる点が特徴です。
意味ネットワーク
意味ネットワークとは、言葉や概念の意味的な関係をノードとリンクを用いて網の目のように表現する知識表現の仕組みです。AIの黎明期から人間の知識構造をコンピュータ上で再現する手法として研究され、現代の知識グラフやAIモデルにおける概念理解の基礎となっています。
推論モデル
推論モデルとは、複雑な問題に対して人間のように段階的な思考プロセスを経て回答を導き出すAIモデルのことです。従来のAIがパターン認識に基づいて即座に回答を出力していたのに対し、思考の連鎖（Chain of Thought）を内部的に実行し、推論、検証、修正を行うことで、高度な数学、プログラミング、科学的推論において極めて高い精度を実現します。
HumanEval
HumanEvalは、OpenAIが開発した大規模言語モデルのコード生成能力を測定するための代表的なベンチマークデータセットです。Pythonの基本的なプログラミング問題164問で構成されており、生成されたコードが用意された単体テストを正しく通過するかどうかを評価します。AIのコーディング実力を客観的に測る標準指標として広く用いられています。
センテンスピース
SentencePieceは、Googleが開発したオープンソースの教師なしテキスト分かち書き・トークナイザライブラリです。言語非依存で、未知語やスペースを考慮した高精度な前処理を機械学習モデルに提供します。