インコンテキストラーニング
インコンテキストラーニングとは、大規模言語モデルが学習時のパラメータを更新することなく、プロンプト内に提示された事例や文脈を読み取るだけで、新たなタスクをその場で学習して実行する仕組みのことです。
大規模言語モデルのAI用語一覧（3ページ目）
101件大規模言語モデルに関するAI用語を101件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は3ページ目です。
フリークエンシーペナルティ
フリークエンシーペナルティは、大規模言語モデル（LLM）のテキスト生成において、同じ単語が何度も繰り返し出現することを抑制するためのパラメータです。生成中のテキスト内ですでに多く使われている単語の選択確率を下げることで、文章の単調化を防ぎ、より多様で自然な表現のテキストを出力させることができます。
リペティションペナルティ
リペティションペナルティとは、大規模言語モデルが文章を生成する際に、すでに登場した単語やフレーズが過剰に繰り返されるのを防ぐためのハイパーパラメータです。生成時に過去に出現したトークンの出力確率を低下させることで、より多様で自然なテキスト生成を実現します。高すぎると意味の破綻を招くため適切な調整が必要です。
コードインタープリター
コードインタープリターは、大規模言語モデルがテキスト生成だけでなく、安全な実行環境上でプログラムコードを自ら作成し実行できる機能です。データ分析やファイル処理など幅広いタスクを効率的に自動化できます。
Top-kサンプリング
Top-kサンプリングとは、言語モデルが文章を生成する際に、次に出現する確率が高い上位k個の単語候補のみを抽出してその中から確率的に選択する手法です。不自然な単語が選ばれるのを防ぎつつ、生成テキストの多様性を維持できます。
温度パラメーター
温度パラメーターとは、生成AIや大規模言語モデルにおいて文章生成時のランダム性や多様性を調整するための設定値です。数値を高くすると多様で創造的な回答が得られやすくなり、低く設定すると決定論的で一貫性のある正確な回答が得られやすくなります。タスクの目的に応じて出力を最適化する重要なサンプリング設定です。
マルチ・クエリ・アテンション
マルチ・クエリ・アテンションは、大規模言語モデルの効率化を図るためのメカニズムです。通常のマルチヘッド・アテンションにおいてキーとバリューを複数ヘッドで共有することで、メモリ帯域幅のボトルネックを軽減し、推論の高速化とメモリ削減を実現します。
生成パラメータ
生成パラメータとは、大規模言語モデルなどの生成AIがテキストや画像を生成する際のアウトプットの多様性やランダム性を調整するための設定値群です。温度（Temperature）やTop-p（Nucleus Sampling）などの値を変更することで、AIの回答を論理的で正確な内容にするか、創造的で多様な内容にするかを制御できます。
テンソル並列化
テンソル並列化は、巨大なAIモデルの単一の重みテンソルを複数のGPUに分割して計算を高速化する分散処理技術です。パラメータ数が数十億を超える超大規模言語モデルの学習や推論において、メモリ不足を解消し効率的な処理を行うために不可欠な手法となっています。
自律エージェント
自律エージェントとは、人間からの詳細な指示がなくても、自ら目標を設定し、計画を立てて実行するAIシステムです。大規模言語モデルの進化により、タスクの分解やツールの使用を自ら判断しながら複雑な作業を遂行できるようになりました。
Mixture of Experts
Mixture of Expertsは、巨大なニューラルネットワークを複数の専門家モデルに分割し、入力データに応じて最適な専門家を選択して処理を行う仕組みです。計算量を抑えつつモデルの性能を大幅に向上させることができるため、大規模言語モデルなどで広く活用されています。
RAG（検索拡張生成）
RAGとは、大規模言語モデルが回答を生成する際、外部のデータベースや文書から関連情報を検索して参照し、その情報を基に正確な回答を組み立てる技術です。これにより、モデル自体の学習データに含まれない最新情報や社内文書に基づいた精度の高い回答が可能になります。
少ショット・プロンプティング
大規模言語モデル（LLM）に対して、指示文の中にいくつかの具体的な「実行例（デモ）」を提示することで、出力の精度やフォーマットの整合性を高めるプロンプトエンジニアリングの手法。事前学習データの追加更新を行うことなく、出力の傾向やタスクのルールを文脈内学習によって理解させることが可能です。
投機的デコーディング
投機的デコーディングとは、大規模言語モデルのテキスト生成速度を向上させる推論高速化技術です。小型の補助モデルで仮の予測を高速に生成し、大型のメインモデルでそれを一括検証することで、出力品質を落とさずに生成時間を短縮します。
パラメタ数
パラメタ数とは、AIモデルが学習を通じて調整する内部変数の総数です。一般にこの数が多いほどモデルの表現力や複雑なタスクへの適応力が高まりますが、膨大な計算資源とデータが必要になります。
コンテキストキャッシュ
コンテキストキャッシュとは、大規模言語モデルにおいてプロンプトなどの長文入力を事前計算して保存し再利用する技術です。同じ参照文章や指示を繰り返し送信する際のトークン処理コストを削減し、APIの応答時間を大幅に短縮できます。長大な資料を参照するRAGやマルチターン対話での運用効率化に貢献します。
インバウンド学習
インバウンド学習（In-Context Learning）とは、大規模言語モデルに対してモデル自体の重みを更新せず、入力プロンプト内に具体例や指示を与えるだけで新たなタスクを正確に実行させる手法です。ファインチューニングを行わずに応用的な処理ができる点が特徴です。
ルーティング
AIや大規模言語モデルにおいて、入力されたデータやプロンプトの内容に応じて、最適なモデルや専門エージェントを動的に選択して処理を振り分ける技術です。コスト削減と処理効率の向上を同時に実現する手法として注目されています。
Chain-of-Thought
Chain-of-Thought（思考の連鎖）とは、大規模言語モデルに複雑な問題を解かせる際、最終的な答えに至る中間的な推論過程を順を追って出力させる手法です。段階的な思考プロセスを経ることで、論理パズルや数学の文章題など、複雑なタスクにおけるモデルの回答精度や推論能力が大幅に向上します。
Zero-Shotプロンプト
Zero-Shotプロンプトとは、事前に具体例（ショット）を与えずに、AIモデルに直接タスクの指示を出して実行させる手法です。追加の学習や例示なしで汎用的な指示理解力のみを用いて回答を得るため、手軽に様々なタスクを試すことができます。
トークン数
自然言語処理や大規模言語モデルにおいて、テキストを分割した最小単位である「トークン」の総数のことです。AIが処理できるデータの量や、APIの利用料金を決定する重要な指標です。文字数や単語数とは完全に一致せず、言語やトークナイザーの仕様によって数え方が異なるのが特徴です。
自動プロンプトエンジニアリング
自動プロンプトエンジニアリングとは、AIモデルに入力する最適なプロンプトを人間ではなくプログラムやAI自身によって自動的に生成・最適化する技術です。試行錯誤の手間を削減し、大規模言語モデルの性能を効率的に引き出す手法として注目されています。
PagedAttention
PagedAttentionは、大規模言語モデルの推論時にKVキャッシュを効率的に管理し、メモリの無駄をなくすことで処理速度を大幅に向上させる技術です。
フューショット・プロンプティング
フューショット・プロンプティングとは、大規模言語モデルに対して事前に数件の入力と出力の具体例を提示し、モデルの精度や出力の質を向上させるプロンプトエンジニアリングの手法です。