ワードエンベディング
ワードエンベディングとは、人間の言葉である単語をコンピュータが理解できる数値の並びであるベクトルへ変換する技術です。単語の意味的な近さを空間上の距離として表現できるため、自然言語処理の性能を大きく向上させました。
自然言語処理に関するAI用語を334件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は9ページ目です。
ワードエンベディングとは、人間の言葉である単語をコンピュータが理解できる数値の並びであるベクトルへ変換する技術です。単語の意味的な近さを空間上の距離として表現できるため、自然言語処理の性能を大きく向上させました。
逆インデックスとは、文書から単語を引くのではなく、単語からそれが含まれる文書を高速に検索するためのデータ構造です。RAGシステムや大規模言語モデルにおける情報検索の基盤技術として広く活用されています。
指示チューニングとは、事前学習済みの大規模言語モデルに対し、自然言語の指示と応答のペアを用いた教師あり学習を行い、ユーザーからの様々な指示に適切に従う能力を高める調整手法のことです。これにより、モデルは汎用的な対話やタスク実行が可能になります。
単語埋め込みとは、自然言語処理において単語の意味や文脈上の類似性を高次元のベクトル(数値列)として表現する技術です。単語同士の意味的な関係を数学的に計算可能にし、検索エンジン、機械翻訳、感情分析など多様なAIアプリケーションの基礎として活用されています。
マルチクエリ・アテンションは、大規模言語モデルの推論高速化とメモリ削減を実現する注意機構の改良手法です。複数のクエリヘッド間でキーとバリューを共有することで、メモリ帯域幅のボトルネックを緩和します。
グループト・クエリ・アテンションは、大規模言語モデルの推論を高速化しメモリ消費を抑えるためのアテンション機構です。マルチヘッド・アテンションの効率性とマルチクエリ・アテンションのメモリ削減の長所を組み合わせた技術として注目されています。
コンテンツフィルタリングとは、AIシステムが出力または入力するテキストや画像などのデータを監視し、不適切な情報を検出してブロックする技術です。ヘイトスピーチや著作権侵害などのリスクを防ぐために広く活用されています。
リピート問題とは、大規模言語モデルなどの生成AIが、文章を生成する際に同じ単語やフレーズを無限に繰り返してしまう現象のことです。文章の品質を著しく低下させる不具合として知られており、デコーディング時のパラメータ調整などによって対策が行われています。
シンボルグラウンディング問題とは、AIが扱う言葉などの記号と、それが現実世界の何を指すのかを結びつけることが困難であるという哲学およびAIの根源的な課題です。形而上の記号操作だけでは意味を真に理解できないことを示します。
音声ユーザーインタフェース(VUI)とは、音声を通じてコンピュータやデバイスと対話するための仕組みです。キーボードや画面を使わずに操作できるため、近年AI技術の進化に伴ってスマートスピーカーやスマートフォンなどで広く普及しています。
AES(Automated Essay Scoring)とは、自然言語処理や機械学習を活用して、人間が書いた文章や小論文を自動的に評価・採点する技術です。採点作業の効率化や評価基準の均一化に貢献する一方、文脈理解や創造性の精緻な評価には限界があり、人間の採点者と補完し合う運用が重視されています。
露呈バイアスとは、機械学習モデルの訓練時と生成時におけるデータの扱いの違いから生じる誤差のことです。主に自然言語処理のテキスト生成などで問題となり、訓練時は正解データを見るのに対し生成時は自身の予測結果を次の入力とするため、エラーが蓄積しやすくなります。
教師ありファインチューニング(SFT)とは、大量のデータで事前学習された基盤モデルに対し、入力と正しい出力のペア(教師データ)を用いて特定タスクに最適化する調整手法です。対話型AIや特定分野向けモデルの開発において、人間の意図に沿った応答を生成させるために不可欠なプロセスとして広く活用されています。
自動回帰とは、過去のデータや直前に生成した情報をもとに、次のデータを予測・生成する手法です。時系列データ解析だけでなく、大規模言語モデルなどの生成AIにおいて、文章を1単語ずつ順番に予測して書き進める基本的な仕組みとして不可欠な役割を果たしています。
情報抽出とは、自然言語で書かれた非構造化テキストから、人名や企業名、日付、特定の関係性などのあらかじめ定義された意味のある情報を取り出し、構造化データに変換する自然言語処理技術です。業務自動化やナレッジベース構築などに活用されます。
自動回帰モデル(自己回帰モデル)とは、過去の自身の出力やデータパターンを基に、未来の値を順番に予測・生成する機械学習のモデルです。時系列データの予測だけでなく、ChatGPTをはじめとする大規模言語モデルのテキスト生成の基盤技術としても広く使われており、現代の生成AIにおいて不可欠なアプローチとなっています。
フューショットプロンプティングとは、AIモデルに入力するプロンプトの中にいくつかの具体例(手本)を提示することで、期待する出力の精度や形式を向上させる技術です。追加の学習を行わずに性能を引き出せる手法として広く活用されています。
契約書レビューとは、AIを活用して契約書の文面を自動で解析し、法的なリスクや不利な条件、記載漏れなどを効率的に検出する技術です。自然言語処理技術の向上により、人間の法務担当者の業務負担を大幅に軽減するツールとして導入が進んでいます。
巨大言語モデル(LLM)とは、膨大なテキストデータとディープラーニングを活用して人間の言葉を理解・生成するAIモデルです。文章の要約や翻訳、対話など幅広いタスクを高精度で実行できることから、現在の生成AIブームの中心的な技術となっています。
Automated Essay Scoring(AES)は、自然言語処理や機械学習を用いて、人間の書いた作文や小論文を自動的に評価・採点する技術です。客観的かつ高速な採点を可能にし、教育現場での教師の負担軽減や学習者への即時フィードバックに貢献しています。
MATHは、人工知能や大規模言語モデル(LLM)の高度な数学的推論能力を測定・評価するためのベンチマークデータセットです。高校の数学オリンピックレベルを含む難解な数学問題が収録されており、従来の単純な計算問題にとどまらず、複雑な論理的思考や多段階のステップを伴う解法が必要とされるため、AIの知能レベルを測る重要な指標となっています。
RAGとは、大規模言語モデルが回答を生成する際、外部のデータベースや文書から関連情報を検索して参照し、その情報を基に正確な回答を組み立てる技術です。これにより、モデル自体の学習データに含まれない最新情報や社内文書に基づいた精度の高い回答が可能になります。
ソーシャルボットとは、SNS上で人間のユーザーのように投稿や返信、拡散などの行動を自動的に行うプログラムです。自然言語処理や機械学習の発展により、本物の人間と見分けがつかない対話が可能になっています。世論操作やスパム送信といった悪用が懸念される一方で、災害時の情報発信など有益な用途にも活用されています。
音声認識システムとは、人間の発話した音声をコンピュータが解析し、テキストデータに変換する技術およびシステムです。近年では深層学習の発展により、騒音下や多様なアクセントでも高い精度で認識できるようになり、音声アシスタントや議事録作成ツールなどで広く活用されています。