オープンソースLLM
オープンソースLLMとは、モデルのソースコードや学習済みパラメータ（重み情報）が一般に公開され、第三者が自由に利用・改変・再配布できる大規模言語モデルのことです。MetaのLlamaシリーズなどが代表例で、高い透明性やカスタマイズの柔軟性、オンプレミス環境などでの自社専用モデル構築の容易さから、企業のAI導入や研究開発で注目を集めています。
LLMのAI用語一覧
24件LLMに関するAI用語を24件掲載しています。意味や使い方、関連用語を一覧から確認できます。
GPTQ
GPTQは、大規模言語モデル（LLM）のパラメータを効率的に量子化し、メモリ消費量を大幅に削減するポストトレーニング量子化（PTQ）技術です。モデルの精度低下を最小限に抑えながら、16ビット（FP16）から4ビットや3ビットへと軽量化できます。これにより、一般的なGPUでも高性能なLLMを高速に動作させることが可能になります。
ベクターデータベース
ベクターデータベースは、テキストや画像などの非構造化データを多次元の数値リスト（高次元ベクトル）に変換し、その「意味の類似性」に基づいて高速に検索・保存することに特化したデータベースです。LLM（大規模言語モデル）の外部記憶として機能するRAGシステムをはじめ、レコメンデーションや類似画像検索など、現代のAIアプリケーションを支える重要な基盤技術です。
コンテキストウィンドウ
コンテキストウィンドウとは、LLMなどのAIモデルが1回の処理で一度に処理・理解できるテキストや情報の最大量のことです。トークンという単位で測定され、入力されたプロンプトとAIが出力する回答の合計がこの枠内に収まる必要があります。この窓が広いほど、長大な文書の要約や複雑な文脈を維持した対話が可能になります。
メモリ
AIにおけるメモリとは、対話の文脈や過去の情報を保持・参照するための記憶機能や仕組みを指します。大規模言語モデル（LLM）やAIエージェントが、ユーザーとの過去のやり取りや外部知識を記憶・活用することで、一貫性のある自然な対話や高度なタスク実行を可能にします。また、計算処理に必要なハードウェア上の記憶領域を指すこともあります。
コンテキスト
コンテキストとは、AIや大規模言語モデル（LLM）が指示や質問を理解・処理する際に参照する文脈や周辺情報を指します。過去の会話履歴や指示文、外部から与えられた参照データなどが含まれ、入力されたプロンプトに対して適切な回答を出力するための重要な判断材料となります。コンテキスト処理能力の向上がAIの精度を高めています。
ニュークリアスサンプリング
LLMなどの文章生成時に、確率が高い単語から累積確率が一定のしきい値（p値）に達するまでの候補群（ニュークリアス）を動的に選択し、その中から次の単語をランダムにサンプリングする手法。従来のTop-kサンプリングに比べ、文脈の不確実性に応じて候補数を柔軟に変化させられるため、より自然で多様なテキスト生成が可能になります。
INT4
INT4とは、ディープラーニングモデルのパラメータや演算を4ビット整数で表現するデータ形式です。一般的なFP16と比べてメモリ使用量を大幅に削減できるため、大規模言語モデルをパーソナルコンピュータやモバイル端末などのエッジ環境で効率的に推論実行する量子化技術として広く活用されています。
プレザンスペナルティ
プレザンスペナルティは、大規模言語モデルが文章を生成する際に同じ単語や話題の繰り返しを抑えるためのハイパーパラメータです。生成済みのテキスト内に特定のトークンが1回でも出現しているかどうかに応じてペナルティを与えることで、モデルが新しい話題や多様な語彙を導入しやすくし、出力の多様性を高めます。
MCP
Model Context Protocol（MCP）は、大規模言語モデル（LLM）のアプリケーションと、外部のデータソースや開発ツールを安全かつシームレスに接続するためのオープンな標準プロトコルです。Anthropic社によって開発・公開され、AIモデルがローカルファイルやデータベース、WebのAPIなどの外部コンテキストに統一的な手段でアクセスできるようにします。
結果報酬モデル
結果報酬モデルとは、AIが生成した回答や出力の最終結果に対して評価を与える報酬モデルです。強化学習において出力全体の正誤や品質に基づいて評価を行い、大型言語モデルの回答精度や安全性の向上に寄与します。途中の推論プロセスではなく最終出力のみを判定対象とする点が特徴です。
プロンプトチェーン
プロンプトチェーンとは、大規模言語モデルへの指示を複数のステップに分割し、一つの出力結果を次の入力として連鎖的に処理させる手法です。複雑なタスクを段階的に実行することで、精度の高い回答を得ることができます。
外部知識ベース
外部知識ベースとは、AIや大規模言語モデル（LLM）が自らの学習データ以外から最新情報や専門情報を取得・参照するためのデータベースや情報源のことです。モデルの内部パラメータに依存せず、外部から動的に情報を検索・注入することで、ハルシネーションを抑制し、常に正確な回答の生成を可能にします。
ツリー・オブ・ソツクス
Tree-of-Thoughts（ToT）は、大規模言語モデルの推論能力を向上させるための枠組みです。従来の単一の思考連鎖にとどまらず、複数の思考の分岐をツリー状に生成し、評価や探索を行いながら最適な解決策を導き出します。
Gemini
Geminiは、Googleが開発した高性能なマルチモーダルAIおよびその対話型AIサービスの名称です。テキストだけでなく、画像、音声、動画、プログラミングコードなど多様な情報を同時に処理できるように設計されています。検索エンジンや各種Googleサービスとの連携に優れ、高度な推論やコンテンツ生成が可能です。
推論コスト
推論コストとは、学習済みのAIモデルが新しいデータに対して予測や生成などの処理を行う際にかかる計算リソース、運用費用、処理時間のことを指します。特に大規模言語モデルの普及に伴い、サービス運用時の継続的な費用や応答速度に直結する推論コストの最適化が重要視されています。
人間フィードバックによる強化学習
人間フィードバックによる強化学習（RLHF）とは、人間の評価データを活用してAIモデルの出力精度や安全性を高める機械学習の手法です。大規模言語モデルなどの出力に対して人間が良し悪しを評価し、その基準に基づいて報酬モデルを学習させ、AIを調整します。AIの意図しない挙動や不適切な発言を抑え、人間の価値観に合わせた出力（アライメント）を実現する重要な技術です。
DPO
DPO（Direct Preference Optimization）は、人間の好みに合わせて大規模言語モデルを効率的に微調整する手法です。従来のRLHFのように複雑な報酬モデルの学習や強化学習のプロセスを経ることなく、好ましい出力と好ましくない出力のペアデータを用いて直接モデルを最適化できるため、計算コストを大幅に削減できます。
vLLM
vLLMは、大規模言語モデルの推論を高速化し、メモリ効率を大幅に向上させるために開発されたオープンソースの推論ライブラリです。オペレーティングシステムの仮想メモリ概念に着想を得たPagedAttentionと呼ばれる独自技術を用いることで、キー・バリュー値を保持するKVキャッシュのメモリ領域を最適化し、高いスループットでのテキスト生成を可能にします。
Few-Shotプロンプト
Few-Shotプロンプトとは、大規模言語モデル（LLM）に対して、出力を求める命令文の中に数個の具体例（デモ）を含めて指示を与えるプロンプトエンジニアリングの手法です。事前学習されたモデルのパラメータを更新することなく、例を示すだけでタスクの形式や出力パターンをLLMに理解させ、回答精度を向上させることができます。
テキスト・トゥ・SQL
テキスト・トゥ・SQLとは、ユーザーが入力した自然言語の質問を、データベースを操作するためのSQLクエリに自動変換する技術です。プログラミングやデータベースの専門知識がない人でも、日常の言葉でデータベースから必要な情報を検索・集計できるようになります。大規模言語モデルの進化により、複雑なクエリの生成精度が向上し、データ分析の民主化を推進する技術として期待されています。
GraphRAG
GraphRAGとは、大規模言語モデル（LLM）とナレッジグラフを組み合わせた新しい検索拡張生成の技術です。従来のベクトル検索に基づくRAGでは難しかった文書全体の構造理解やエンティティ間の複雑な関係性の把握を可能にし、より包括的で正確な回答の生成を実現します。
Anthropic
Anthropicは、安全性と解釈可能性を重視したAIの研究開発を行うアメリカの企業です。対話型AIモデル「Claude」シリーズの開発元として知られており、AIの信頼性向上に注力しています。
Top-p
Top-p（核サンプリング）は、大規模言語モデルなどのテキスト生成AIにおいて、次に生成する単語の選択肢を制御するパラメータです。累積確率が設定値（p）に達するまでの高確率な単語群のみを選択肢とし、その中からランダムにサンプリングします。文脈に応じた多様性と自然さを両立させるために使用されます。