機械論的解釈可能性
機械論的解釈可能性とは、ディープラーニングなどの複雑なAIモデル内部で動作するアルゴリズムや表現を、プログラムのリバースエンジニアリングのように解読する研究分野です。AIのブラックボックス問題を根本から解明し、内部の回路や計算プロセスを人間が理解可能な形で可視化・分析することで、AIの信頼性や安全性を高める技術として注目されています。
新着AI用語
3,525件新着AI用語を3,525件掲載しています。気になるAI用語の意味や使い方を確認できます。
プロンプト・インジェクション
プロンプト・インジェクションとは、AIに対する入力指示（プロンプト）を悪用し、不正な命令を遂行させるセキュリティ上の脆弱性です。本来のシステム制御を回避して意図しない動作を引き起こすため、AIシステム開発における重要な防御対象となっています。
QLoRA
QLoRAは、大規模言語モデルのファインチューニングを少ないVRAMで効率的に行うための技術です。モデルを4量子化してメモリ消費を大幅に削減しつつ、低ランク適応によって高い精度を維持できるのが特徴です。
LLM-as-a-Judge
LLM-as-a-Judgeとは、高性能な大規模言語モデル（LLM）を評価者として活用し、他のモデルやシステムの出力品質を自動評価する手法です。人間の評価コストを削減しつつ、迅速かつスケーラブルにAIの性能を測る方法として広く普及しています。
クロスアテンション
クロスアテンションとは、異なる二つのデータ間における関係性を計算し、互いに情報をやり取りするためのニューラルネットワークの仕組みです。Transformer構造の中核をなし、AIによる翻訳や画像生成などの高度なマルチモーダル処理において重要な役割を果たしています。
パープレキシティ
パープレキシティとは、大規模言語モデルなどの確率モデルがテキストの次に続く単語をどれだけ正確に予測できるかを示す評価指標です。値が低いほどモデルの予測性能が高く、自然言語処理モデルの精度比較や性能評価において重要な役割を果たします。
シーケンス生成
シーケンス生成とは、時系列データやテキストなどの連続したデータ列（シーケンス）を予測・生成するAI技術です。入力されたデータに基づいて次の要素を順次予測することで、自然言語処理による文章生成、音声合成、機械翻訳など幅広い領域で利用されています。深層学習モデルの進化により、高精度で自然な連続データの出力が可能になりました。
ビーム探索
ビーム探索（Beam Search）は、自然言語処理のテキスト生成などで用いられる探索アルゴリズムです。各ステップで最も確率の高い上位候補（ビーム幅）のみを保持しながら探索を進めることで、計算量を抑えつつ、貪欲法よりも高品質な文を生成できます。完全な最適解を保証するわけではありませんが、実用性と効率性のバランスに優れています。
結果報酬モデル
結果報酬モデルとは、AIが生成した回答や出力の最終結果に対して評価を与える報酬モデルです。強化学習において出力全体の正誤や品質に基づいて評価を行い、大型言語モデルの回答精度や安全性の向上に寄与します。途中の推論プロセスではなく最終出力のみを判定対象とする点が特徴です。
プロセス報酬モデル
プロセス報酬モデル（PRM）は、大規模言語モデル（LLM）などのAIが推論や計算を行う際、最終的な出力結果だけでなく、思考の「中間ステップ（プロセス）」ごとに評価・報酬を与える仕組みです。複雑な数学の問題や論理的推論において、途中の思考プロセスの誤りを早期に検出・修正し、最終的な出力の信頼性を大幅に向上させます。
顔認識技術
顔認識技術とは、カメラ等で撮影された画像や動画から人間の顔を検出し、その特徴を分析して個人を特定または識別するコンピュータビジョン技術です。スマートフォンなどのデバイスロック解除からセキュリティ管理まで幅広く活用されています。
個人情報保護
個人情報保護とは、生存する個人に関する情報が適切に取り扱われるよう保護する仕組みです。AIの急速な発展に伴い、大規模言語モデルや顔認識技術における学習データの収集やプライバシー侵害への懸念から、法規制の遵守と倫理的な活用が強く求められています。
自己符号化
自己符号化は、入力データをより低次元の潜在空間へ圧縮し、再び元のデータへと復元する学習を行うニューラルネットワークの手法です。教師なし学習の代表例であり、次元削減やノイズ除去、異常検知などに幅広く活用されています。
リアルデータ
リアルデータとは、現実世界で発生した人間の活動や自然現象、社会システム、センサー機器などから直接計測・収集された実際データの総称です。AIや機械学習モデルの開発において、高精度な予測や判断を行うための極めて価値の高い情報源として位置づけられます。一方で、個人情報保護の観点や、表記の揺れ、データの偏りなどの課題への対策も必要となります。
自己再帰的学習
「自己再帰的学習（自己回帰学習）」とは、時系列データやテキストなどのシーケンスデータにおいて、過去のデータ（前に出力された要素）を基に次の要素を予測するようにモデルを訓練する学習手法です。ChatGPTなどの大規模言語モデル（LLM）の基盤技術であり、1トークンずつ順番に次の言葉を予測することで、自然な文章生成を可能にします。
モデル崩壊
モデル崩壊（Model Collapse）とは、AIが生成したデータを次の世代のAIの学習に繰り返し使用することで、出力の多様性が失われ、最終的に実用的な出力を生成できなくなる現象です。合成データへの過度な依存によって発生し、元々のデータ分布の端にある稀な情報が失われ、ありふれた表現ばかりが生成されるようになります。
vLLM
vLLMは、大規模言語モデルの推論を高速化し、メモリ効率を大幅に向上させるために開発されたオープンソースの推論ライブラリです。オペレーティングシステムの仮想メモリ概念に着想を得たPagedAttentionと呼ばれる独自技術を用いることで、キー・バリュー値を保持するKVキャッシュのメモリ領域を最適化し、高いスループットでのテキスト生成を可能にします。
PagedAttention
PagedAttentionは、大規模言語モデルの推論時にKVキャッシュを効率的に管理し、メモリの無駄をなくすことで処理速度を大幅に向上させる技術です。
人間からのフィードバック
人間からのフィードバックは、AIモデルの出力に対して人間が評価や修正などの意見を提供し、モデルの挙動を調整する手法です。特に大規模言語モデルの分野では、AIの出力が人間の意図や倫理基準に沿うように調整する「アライメント」において重要な役割を果たしており、高品質で安全なAIの開発に不可欠なプロセスとなっています。
報酬信号
報酬信号とは、強化学習においてAI（エージェント）の行動の良し悪しを評価するために環境から与えられる数値データです。エージェントは得られる報酬信号の総和を最大化するように学習を進めます。適切な設計がAIの行動選択や学習の成果を大きく左右するため、強化学習の根幹をなす非常に重要な要素となっています。
フィードフォワード制御
フィードフォワード制御とは、外部からの乱れや入力の変化をあらかじめ予測し、影響が出る前に先回りして適切な修正動作を行う制御方式です。結果が発生してから修正するフィードバック制御とは異なり、遅れのない迅速な対応が可能です。AIや予測モデルと組み合わせることで、自動運転やロボット制御などの精度向上に貢献しています。
フィードバック制御
フィードバック制御とは、システムの出力を監視し、目標値とのズレを修正するように次の入力を自動調整する仕組みです。エアコンの温度調節から自動運転、強化学習に至るまで幅広く活用されています。実測値に基づくため未知の乱れに対応できる一方、時間遅れによるシステムの不安定化や、誤った情報の混入による暴走リスクに注意が必要です。
制御工学
制御工学は、対象とするシステムを望ましい状態に維持・変化させるための技術や理論を扱う学問分野です。センサで状態を計測しアクチュエータへフィードバック制御を行う仕組みは、ロボティクスや自動運転などの最新AI技術においても、AIによる意思決定を物理世界で安全かつ正確に実行するための基盤として欠かせない役割を果たしています。
ソフトロボティクス
ソフトロボティクスは、従来の硬い素材ではなく、シリコンゴムや布などの柔らかい材料を用いて柔軟性や安全性を持たせたロボットを研究・開発する分野です。AIを活用した制御技術と組み合わせることで、複雑な形状の物体を優しく把持するなどの柔軟な対応が可能になり、幅広い応用が期待されています。