大規模言語モデル
大規模言語モデル（LLM）とは、膨大なテキストデータを学習し、人間のような自然な文章の理解や生成を行うAIモデルです。自然言語処理技術やトランスフォーマー構造を基盤としており、文章要約、対話、翻訳、プログラミング支援など幅広い用途で活用されています。現代の生成AIブームを牽引する中核的な技術です。
自然言語処理のAI用語一覧
334件自然言語処理に関するAI用語を334件掲載しています。意味や使い方、関連用語を一覧から確認できます。
マスク
マスクとは、AIや機械学習においてデータの一部を意図的に隠したり、計算から除外したりする処理のことです。自然言語処理のTransformerやBERTにおける事前学習で特定単語を隠して予測させるマスク言語モデルや、画像認識の画像セグメンテーションで特定領域を抽出する処理、ニューラルネットワークの計算で未来の情報を参照させないために用いられます。
プレーンテキスト
プレーンテキストとは、文字情報のみで構成され、フォント、装飾、配置などの書式情報を一切含まない、最も単純なテキストデータのことです。特定のアプリケーションやOSに依存しない高い互換性を持ち、あらゆるシステムで読み書きが可能です。AIや自然言語処理の分野では、LLM（大規模言語モデル）の学習データやプロンプトの処理において、不要なノイズを含まない標準フォーマットとして不可欠な存在です。
事前学習
事前学習とは、AIモデルに特定のタスクを学習させる前段階として、大量のデータを用いて汎用的な知識やパターンを習得させるプロセスのことです。ディープラーニングや大規模言語モデルの開発において不可欠な手法であり、ゼロから学習させるよりも少ないデータと計算量で高精度なモデルを構築できる転移学習の基礎となっています。
GPT
GPT（Generative Pre-trained Transformer）は、OpenAI社が開発したトランスフォーマーというニューラルネットワーク構造をベースにする大規模言語モデルです。膨大なテキストデータから事前学習を行い、自然な文章生成や多様なタスクに対応できます。現代の生成AIの基盤技術として広く活用されています。
RNN
RNN（Recurrent Neural Network）は、時系列データや自然言語などの順序を持つ情報を処理するために設計されたニューラルネットワークです。過去の出力を記憶しながら処理を進める点が特徴ですが、長距離の依存関係学習には勾配消失問題などの限界があります。
エンコーダ
エンコーダとは、入力されたデータをコンピュータが処理しやすい形や別の表現に変換する仕組みのことです。自然言語処理や画像認識などのAI分野で広く活用されており、データの意味や特徴を効率的に抽出する役割を担っています。
スケジュールサンプリング
スケジュールサンプリングとは、ニューラルネットワークの訓練時において、正解データとモデル自身の予測のどちらを入力として使うかを確率的に切り替える手法です。訓練と推論の乖離を解消し、モデルの性能や頑健性を向上させます。
デコーダ
デコーダは、符号化されたデータや入力されたコンテキストを基に、テキストや画像などの分かりやすい情報へ変換・生成するAIの重要な構成要素です。大規模言語モデルなどの生成AIにおける中核技術として幅広く活用されています。
条件付き確率場
条件付き確率場（CRF）は、データの順序や文脈による相互依存関係を考慮して最適なラベルシーケンスを予測する確率的グラフィカルモデルです。自然言語処理の品詞タグ付けや固有名詞抽出などの「逐次ラベル付け」において、前後のつながりを統合的に判断して高精度な分類を実現するための基盤技術として広く用いられています。
テキストマイニング
大量のテキストデータから自然言語処理や統計解析を用いて有益な情報や規則性、傾向を抽出・分析する技術です。アンケート回答やSNSの投稿、コールセンターのログといった非構造化データを構造化し、顧客ニーズの把握や課題の発見に役立てられます。
自己回帰
自己回帰（AR）とは、過去の自分自身の出力結果を次の入力として利用し、順番にデータを生成していく予測モデルの仕組みです。言語モデルや音声合成など、最先端の生成AIの基盤技術として広く活用されています。
マルチモーダル
マルチモーダルとは、テキスト、画像、音声、動画などの異なる種類や形式のデータを統合して同時に処理・理解するAI技術のことです。人間が視覚や聴覚など複数の感覚を組み合わせて状況を把握するように、より複雑で高度な認知や推論を可能にするため、次世代のAI基盤として注目を集めています。
トークン
トークンとは、AI（特に自然言語処理モデル）がテキストデータを処理する際に分割する最小の文字列単位です。単語や文字、あるいはサブワード（単語の一部分）がこれに該当します。大規模言語モデルなどのAIは、入力された文章を一度トークンに分割し、それぞれを数値に変換することで高度な言語処理を実現しており、料金や処理性能を測る上での基本単位となっています。
トップkサンプリング
トップkサンプリングとは、大規模言語モデルが文章を生成する際に、確率が高い上位k個の単語のみを選択肢として残し、その中からランダムに次の単語を選ぶ手法です。確率の低い不自然な単語を排除しつつ、文章の多様性を保つために広く使われています。
学習用コーパス
学習用コーパスとは、自然言語処理モデルや機械学習モデルの訓練を目的に収集・整理されたテキストデータの大規模な集合体です。文脈理解や文法規則、知識の獲得に不可欠であり、大規模言語モデルの事前学習や特定タスク向けのファインチューニングなど、幅広いAI開発の基盤データとして活用されます。
検索拡張生成
検索拡張生成とは、大規模言語モデルが回答を生成する際に、外部のデータベースやウェブ上から関連する最新情報を検索して参照し、その情報をもとに正確な回答を組み立てる技術です。モデル自身の学習データに含まれない情報や最新の事実に基づいた応答が可能になり、ハルシネーションの抑制に有効な手法として広く活用されています。
非自己回帰モデル
非自己回帰モデルとは、テキストや音声などのシーケンスデータを生成する際、各要素を依存関係なく同時に並列出力するニューラルネットワークモデルです。従来の自己回帰モデルが1トークンずつ順番に生成していたのに対し、非自己回帰モデルは並列処理によって推論速度を劇的に向上させられる点が大きな特徴です。
類似度
類似度とは、2つのデータや文章などがどれくらい似ているかを数値で表す指標です。AIや検索エンジンにおいて、意味の近さを判定するために広く活用されています。
AI検知
AI検知とは、文章や画像、音声などのデータが人工知能によって生成されたものか、人間が作成したものかを判別する技術やプロセスのことです。生成AIの普及に伴い、ディープフェイクや偽情報の拡散防止、教育現場での不正利用対策などを目的に開発されています。統計的な特徴やパターンの分析を通じて判定を行います。
チャットボット
チャットボットとは、テキストや音声を通じて人間と自動で会話を行うプログラムです。従来のルールベース型から、自然言語処理や生成AIを活用した高度なタイプまで存在します。カスタマーサポートの自動化や社内ヘルプデスク、対話型アシスタントなど幅広い分野で導入され、業務効率化と利便性向上に寄与しています。
ジェイルブレイク
ジェイルブレイクとは、大規模言語モデルなどの生成AIに対して安全対策や利用規約を迂回する特別な入力を行い、不適切な出力や本来禁止されている応答を引き出す攻撃手法や現象のことです。ロールプレイや巧みな前提条件の設定によって制限を解除させようとするもので、AIの安全性を脅かす課題としてセーフティフィルターの強化やアライメント対策が進められています。
誤情報
AI分野における誤情報とは、生成AIなどが事実とは異なる不正確な情報を誤って生成・拡散してしまう現象やそのデータを指します。もっともらしい嘘を出力するハルシネーションとも深く関連し、情報の信頼性を損なう重大な課題として対策が進められています。
トークナイザー
トークナイザーは、人間が読む自然言語の文章を、大規模言語モデルが処理できる数値や小さな断片に分割・変換するプログラムです。AIシステムにおいてテキストデータを正しく入力データに変換するための重要な第一段階として機能します。