推論パイプライン
推論パイプラインとは、AIモデルに入力データの前処理から実際の予測処理、結果の後処理までのステップを自動的かつ連続的に実行する一連の流れを指します。効率的で安定したAIシステムの運用に不可欠な仕組みです。
MLOpsに関するAI用語を35件掲載しています。意味や使い方、関連用語を一覧から確認できます。
推論パイプラインとは、AIモデルに入力データの前処理から実際の予測処理、結果の後処理までのステップを自動的かつ連続的に実行する一連の流れを指します。効率的で安定したAIシステムの運用に不可欠な仕組みです。
AIにおけるメンテナンスとは、デプロイ済みの機械学習モデルやインフラのパフォーマンスを維持する運用のことです。現実世界のデータ変化(データドリフトやコンセプトドリフト)に伴う精度低下を防ぐため、定期的な再学習や監視が不可欠です。この継続的な運用管理はMLOpsとも深く結びついており、システムの信頼性を保つ上で極めて重要な役割を果たします。
クラウド事業者がインフラの構築、保守、パッチ適用、スケーリングなどの運用管理をすべて担い、利用者が自前での管理作業なしに機能を利用できるサービス形態です。AIや機械学習の領域では、環境構築の手間を省き、機械学習モデルの開発やデータ分析に集中できる基盤として広く活用されています。
モニタリングとは、本番環境で稼働するAIや機械学習モデルの予測精度、推論速度、入力データの質などを継続的に観測・記録する取り組みです。実環境の変化に伴う性能低下を早期に検知し、モデルの再学習や障害対応を迅速に行うために不可欠な運用プロセスです。
バージョン管理とは、ソースコードやデータの変更履歴を記録し、任意の時点の状態へ復元したり変更内容を比較したりできる管理手法です。AI開発においては、コードだけでなく学習データやハイパーパラメータ、機械学習モデルの履歴を包括的に管理することで実験の再現性を確保し、効率的なMLOpsの構築に貢献します。
継続的インテグレーション(CI:時に継続的イングレーションとも表記されます)とは、ソフトウェア開発やMLOpsにおいて、コードの変更を頻繁に共有リポジトリへ統合し、ビルドやテストを自動実行する開発手法です。コードやデータの変更に伴う不具合を早期に検知し、機械学習モデルの安定した運用を支えます。
CI/CD(継続的インテグレーション/継続的デリバリー・デプロイ)とは、コードの変更、テスト、本番環境への配置を自動化する開発手法です。開発プロセスを効率化し、エラーを早期発見することで、質の高いソフトウェアやAIシステムを迅速に提供できます。AI開発ではモデル再学習や検証の自動化を担う MLOps の基盤としても機能します。
APIゲートウェイとは、クライアントからのリクエストを一括で受け取り、適切なバックエンドサービスへとルーティングや認証、流量制御を行う中継サーバーです。AIシステムにおいては、機械学習モデルを提供する推論APIのセキュリティ確保やアクセス管理、スケーラビリティ向上を担う重要なインフラ要素となります。
モデルバージョンとは、機械学習モデルの更新や改善の履歴を識別・管理するための識別子です。データやアルゴリズムの変更に伴い作成される新しいモデルを「v1.0」「v2.0」のように区別することで、予測精度の推移を追跡したり、不具合発生時に過去の安定したモデルへ迅速に切り替えたりするMLOps(機械学習オペレーション)において不可欠な概念です。
本番環境とは、開発・検証を終えたAIモデルやシステムがエンドユーザー向けに実際に稼働し、実データを処理して価値を提供する最終的な運用環境です。高い信頼性、堅牢なセキュリティ、継続的な監視体制が求められます。
GitHub Actionsは、GitHub上でコードのビルドやテスト、デプロイなどのワークフローを自動化するCI/CDサービスです。ソフトウェア開発だけでなく、AIや機械学習の分野でも重要視されており、データ前処理や機械学習モデルの自動学習、評価などを自動化するMLOpsの基盤として幅広く活用されています。
ロールバックとは、新しく本番環境にデプロイした機械学習モデルやシステムに不具合・性能低下が生じた際、即座に安定稼働していた以前の正常なバージョンへと状態を巻き戻す運用手法です。AI運用におけるリスク軽減と信頼性維持に不可欠です。
DVC(Data Version Control)は、機械学習プロジェクトにおいてデータセットや学習済みモデルのバージョンを管理するためのオープンソースツールです。Gitと連携して動作し、大容量データを外部ストレージに保存しながら、Git上ではメタデータ(軽量なポインタファイル)のみを管理することで、コードとデータの一貫したバージョン管理を実現します。
コンセプトドリフトとは、時間の経過や環境の変化に伴い、入力データと予測対象である正解ラベルの関係性が変化し、機械学習モデルの予測性能が低下する現象です。実運用中のモデルを監視し、適切なタイミングで再学習などの対処を行うことが重要視されています。
Kubeflowは、Kubernetes上で機械学習ワークフローを構築・デプロイ・管理するためのオープンソースプラットフォームです。データの前処理からモデルの訓練、サービングまでの一連のパイプラインを統合的にオーケストレーションし、スケーラブルなAIシステムの運用を効率化します。
ブルーグリーンデプロイメントとは、稼働中の現行環境(ブルー)とは別に、同じ構成の新規環境(グリーン)を用意し、接続先を切り替えることで瞬時に新バージョンへ移行するデプロイ手法です。機械学習の運用(MLOps)においても、推論モデルの更新に伴うサービス停止を防ぎ、不具合時の迅速な切り戻しを可能にする安全なリリースアプローチとして重宝されています。
カナリアリリースは、新しいシステムや機械学習モデルを全ユーザーに一括適用せず、一部のユーザーにのみ先行して公開し、問題がないかを確認しながら段階的に展開範囲を広げていくデプロイ手法です。予期せぬ不具合やモデルの性能低下が発生した場合でも、影響範囲を最小限に抑えて迅速にロールバックできるメリットがあります。
学習済みモデルを運用環境にデプロイし、外部システムからのリクエストに対してリアルタイムやバッチ処理で予測結果を返すシステムの総称です。AIモデルの運用効率化や可用性の向上、スケーラビリティの確保を実現し、WebサービスやアプリへのAI機能組み込みを容易にします。
AWSが提供する、機械学習モデルの構築、トレーニング、デプロイをワンストップで行えるフルマネージドサービス。データ準備からモデル監視までのワークフローを効率化し、開発者やデータサイエンティストがインフラ管理の手間なく、高品質なAIモデルを迅速に本番環境へ導入できるように支援します。
Gitは、プログラムや設定ファイルの変更履歴を追跡・管理する分散型バージョン管理システムです。AI・機械学習開発において、ソースコードの管理や実験の再現性確保、チームでの共同開発を支える必須のツールとなっています。ブランチを活用した並列開発や、MLOpsにおける連携など、開発プロセス全体の効率化に貢献します。
機械学習モデルの精度を維持・向上させるため、新しいデータを用いてモデルを再び訓練するプロセスのこと。時間の経過とともにデータの傾向が変化する「概念ドリフト」や「データドリフト」によって、運用中のモデルの予測精度が低下する現象を防ぐために不可欠であり、MLOps(機械学習オペレーション)における重要なライフサイクル管理の一環として位置づけられています。
学習パイプラインとは、機械学習モデルの構築に必要なデータ収集、前処理、特徴量エンジニアリング、モデルの学習や評価までの各工程を自動化し、一連の流れとして連続して実行できるように整理したシステム構造のことです。
ヘルスチェックとは、AIモデルを組み込んだシステムや各種APIが正常に動作し、期待される応答を返せる健全な状態にあるかを自動的かつ定期的に確認する仕組みです。異常を早期に検知して自動復旧やトラフィック遮断を行うことで、AIサービスの可用性と信頼性を高めるために不可欠な運用技術です。
SLO(サービスレベル目標)とは、システムやサービスの信頼性やパフォーマンスに関して、サービス提供者が達成すべき具体的な数値目標のことです。AIや機械学習の分野(MLOps)では、モデルの推論速度や応答の正確性、APIの可用性などを測定可能な指標として設定し、ユーザー体験の維持や運用の最適化に活用されます。