モデレーション
モデレーションとは、生成AIやオンラインプラットフォームにおいて、不適切または有害なコンテンツを検出し、排除・制限する仕組みやプロセスのことです。AIの悪用を防ぎ、安全な利用環境を維持するために不可欠な技術として広く導入されています。
自然言語処理に関するAI用語を334件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は2ページ目です。
モデレーションとは、生成AIやオンラインプラットフォームにおいて、不適切または有害なコンテンツを検出し、排除・制限する仕組みやプロセスのことです。AIの悪用を防ぎ、安全な利用環境を維持するために不可欠な技術として広く導入されています。
フィルターとは、入力データから特定のパターンや不要な情報を取り除く仕組みです。AI分野では、畳み込みニューラルネットワークにおける特徴抽出や、生成AIでの有害表現の排除など、幅広い用途で重要な役割を果たしています。
デコーダーとは、AIや機械学習の分野において、エンコーダーなどが処理した潜在表現や数値データをもとに、人間にとって理解しやすい言語や画像、音声などの具体的な出力へ変換する役割を持つ中核的なコンポーネントです。
非対称検索とは、検索クエリと文書の長さや性質が異なる状況で行われる検索手法です。短い質問文に対し、長文の文書から関連情報を探す場合に用いられ、現代のAI検索やベクトル検索において非常に重要な役割を果たしています。
知識ベースとは、コンピュータが処理しやすいように構造化された情報やデータの集合体です。AIの検索拡張生成やエキスパートシステムにおいて外部情報源として利用され、正確な回答の生成や推論を支援する重要な役割を担います。
ナイーブベイズは、ベイズの定理を基礎としたシンプルで高速な分類アルゴリズムです。特徴量同士が互いに独立であるという強い仮定を置くことから「ナイーブ(素朴)」と呼ばれますが、スパムメールフィルタや文書分類などで非常に高い実用性を発揮します。
コサイン類似度とは、二つのベクトルが向いている方向の近さを測る指標です。AIや自然言語処理の分野において、単語の意味や文章同士の意味的な近さを数値化し、比較するために広く利用されています。
パディングとは、機械学習やディープラーニングの入力データや特徴量マップの周囲に、0などの特定の値を補う処理です。画像処理では画像の端の情報ロスを防ぎ、自然言語処理では文章の長さを揃えるために必須の技術です。
音声AIとは、人間の音声を機械が認識・理解し、合成や応答を行う人工知能技術の総称です。スマートスピーカーや音声アシスタント、自動文字起こしなど、私たちの身近な様々なサービスや機器に広く活用されており、直感的なヒューマンマシンインターフェースを実現します。
スケジュール付きサンプリングは、AIの系列生成モデルにおいて、訓練時と推論時のデータの食い違いを解消するための学習手法です。正解データとモデル自身の予測を切り替える確率を訓練の進行度に応じて徐々に変化させます。
GSM8Kは、大規模言語モデルの数学的推論能力を評価するために広く使用されているベンチマークです。小学校レベルの文章題を通じて、AIが段階的な思考プロセスを経て正確な計算結果にたどり着くかを測定します。
コード生成とは、AIが自然言語の指示や仕様書をもとに、プログラミング言語のソースコードを自動的に作成する技術です。開発の効率化やプログラミングの学習支援として広く活用されていますが、セキュリティの確認や品質の検証など人間によるチェックが不可欠です。
コンテキスト長とは、大規模言語モデルが一度に処理できる入力と出力の最大トークン数を指します。この長さが長いほど、長文の読み込みや複雑な文脈の維持が可能になり、AIの活用範囲が広がりますが、メモリ消費量や計算コストが増加するトレードオフが存在します。
ベクトル検索とは、テキストや画像などのデータを数値の配列であるベクトルに変換し、その意味的な近さを計算して類似データを高速に探し出す検索技術です。従来のキーワード一致型検索とは異なり、言葉のニュアンスや文脈を捉えた柔軟な検索を可能にします。
人工知能や大規模言語モデルにおけるヘイトスピーチとは、人種、宗教、性別、国籍などに基づいて特定の集団や個人を攻撃・差別する表現を指します。AIが差別的な出力をしないよう、有害性検出モデルを用いたフィルタリングやアライメント技術による対策が不可欠です。
アテンション機構とは、ニューラルネットワークが入力データ全体の中から特に重要な部分に焦点を当てて処理を行う仕組みです。機械翻訳や文章生成の精度を飛躍的に向上させたTransformerの根幹技術であり、現在の生成AIの基礎となっています。
エンコーダーとは、入力されたデータをAIが処理しやすい別の表現や数値の形式に変換する仕組みのことです。画像やテキストなどの生データを特徴量として抽出し、特徴ベクトルへと圧縮する役割を持ちます。
識別器とは、入力されたデータがどのカテゴリに属するかを判定する機械学習アルゴリズムやモデルのことです。画像認識やスパムメール判定など、AIのさまざまな分類タスクにおいて中心的な役割を果たしています。
BERTはGoogleが開発した自然言語処理モデルです。Transformerを双方向に学習する仕組みにより、文脈を深く理解でき、AIの言語理解能力を飛躍的に向上させました。
Transformerは、2017年に提案されたディープラーニングのアーキテクチャです。入力データ内の関連性を効率的に計算するアテンションメカニズムを活用し、従来の再帰型ニューラルネットワークに比べ並列処理性能を飛躍的に向上させました。現代の大規模言語モデルや画像認識モデルの基盤技術として広く利用されています。
大規模言語モデル(LLM)とは、膨大なテキストデータを学習し、人間のような自然な文章を生成・理解できるAIモデルです。Transformerと呼ばれる深層学習アーキテクチャをベースにしており、対話型AIや文章要約、翻訳、プログラミング支援など幅広い分野で活用されています。現代の生成AIにおける中核技術です。
プロプライエタリLLMとは、開発企業がソースコードやモデルの重み(ウェイト)を公開せず、非公開の独自技術として提供・管理する大規模言語モデルです。APIなどを通じて利用されますが、モデルの内部構造や学習データは保護されています。高い性能や安定した運用サポートが特徴である一方、ベンダーロックインや透明性の欠如が懸念されることもあります。
ワンホットエンコーディングとは、カテゴリカルデータを機械学習モデルが処理できる数値データに変換するための手法です。該当する要素を1、それ以外を0とするベクトルで表現し、機械学習におけるカテゴリ変数の数値化に広く利用されます。
自己回帰モデルは、時系列データや文章などのシーケンスデータにおいて、過去の自身の出力を未来の予測に利用する統計・機械学習モデルです。自然言語処理の分野で広く使われる大規模言語モデル(LLM)の基盤技術であり、直前に生成された単語を次の単語予測の入力として逐次的に処理することで、自然な文章生成を可能にします。