フルマネージドサービス
クラウド事業者がインフラの構築、保守、パッチ適用、スケーリングなどの運用管理をすべて担い、利用者が自前での管理作業なしに機能を利用できるサービス形態です。AIや機械学習の領域では、環境構築の手間を省き、機械学習モデルの開発やデータ分析に集中できる基盤として広く活用されています。
インフラのAI用語一覧
37件インフラに関するAI用語を37件掲載しています。意味や使い方、関連用語を一覧から確認できます。
計算コスト
計算コストとは、AIモデルの学習や推論を実行する際に必要となる、コンピュータの処理能力や時間、エネルギーなどのリソースの総量のことです。ディープラーニングの進歩に伴い、モデルのパラメータ数が巨大化する中で、効率的なモデル開発や運用を実現するための重要な指標として注目されています。
デボプス
DevOpsとは、開発部門と運用部門が連携してソフトウェアの迅速なリリースと安定運用を目指す開発手法です。AI分野においても、機械学習モデルの開発から運用までのプロセスを効率化する基盤として重要性が高まっています。
推論サーバー
推論サーバーとは、実システムでAIモデルを動かし、ユーザーからのリクエストに対して高速に予測結果を返却するための専用サーバーです。学習済みモデルの管理や動的バッチングなどの機能を備え、低レイテンシと高スループットを実現します。AIサービスの社会実装や運用において、安定したシステム稼働を支える基盤として不可欠な存在です。
GPUクラスタ
GPUクラスタとは、多数のGPUを高速なネットワークで連結し、巨大な計算資源として運用するシステムです。大規模言語モデルやディープラーニングの学習に必要な膨大な並列計算を効率的に実行できます。生成AI開発の基盤インフラとして不可欠であり、計算時間を大幅に短縮する役割を果たします。
分散学習
分散学習とは、複数のコンピュータやGPUを用いて大規模なAIモデルを効率的に訓練する手法です。単一のハードウェアでは処理しきれない膨大なデータや巨大なパラメータを持つモデルを、計算資源を並列化することで高速かつ大容量に処理することが可能になります。
ゼロトラスト
ゼロトラストとは、「何も信頼せず、すべてを常に検証する」というセキュリティ概念です。社内外を問わずすべてのアクセスを監視・認証し、AIを用いた異常検知や動的アクセス制御などを通じて安全性を確保します。クラウド時代やAIシステムの安全運用に不可欠なアプローチです。
フェイルオーバー
フェイルオーバーとは、システムやサーバーに障害が発生した際、自動的に予備の待機系システムへ処理を引き継ぐ仕組みです。AIシステムやクラウドインフラにおいて、サービスの停止時間を最小限に抑え、継続的な運用（高可用性）を実現するために不可欠な機能となっています。
可用性
可用性とは、情報システムやAIサービスが継続して正常に稼働し、利用者が必要なときにいつでも利用できる度合いのことです。システム障害やデータ破損などに備え、安定した運用を維持するための重要な指標となります。
ファイアウォール
ファイアウォールは、信頼できる内部ネットワークとインターネットなどの信頼できない外部ネットワークの間で通信を監視し、不正なアクセスやサイバー攻撃を防ぐセキュリティシステムのことです。AIシステムやサーバーを保護する基盤としても不可欠な役割を担います。
データ基盤
データ基盤とは、企業や組織が収集・蓄積した膨大なデータを、AIの機械学習や分析に効率的に活用できるように収集・統合・管理するシステムや環境のことです。AIの精度を高めるために不可欠な土台となります。
バックアップ
AI開発や運用において、モデルの重みデータや学習用コーパス、システム設定などの重要なデータを消失から守るために複製し、安全な場所に保存することです。ハードウェアの故障や誤操作、サイバー攻撃に備えるために不可欠なプロセスです。
ベアメタル
ベアメタルとは、ハイパーバイザなどの仮想化レイヤーを介さず、物理サーバーのハードウェアを直接利用するシステム環境です。AI開発やディープラーニングにおいては、GPUやメモリの性能を限界まで引き出し、処理遅延を最小限に抑えられるため、大規模な機械学習モデルの計算基盤として高く評価されています。
スロットリング
スロットリングとは、AIモデルやAPIの利用において、一定時間あたりのリクエスト数や処理速度を制限する仕組みです。過剰な負荷からシステムを保護し、安定稼働や公平なリソース配分を実現するために広く導入されています。
ダウンタイム
ダウンタイムとは、AIシステムやサーバーなどのITインフラが故障やメンテナンスなどにより利用不能になる時間のことです。ビジネスへの影響を最小限に抑えるためには、ダウンタイムを短くし可用性を高める設計が重要となります。
オートスケーリング
オートスケーリングとは、システムへの負荷やリソースの使用状況に応じて、クラウド上のコンピューティングリソースを自動的に増減させる機能です。AIモデルの推論や学習において、コストを最適化しつつ安定した稼働を維持するために重要な技術となっています。
クラウドネイティブ
クラウドネイティブとは、クラウド環境の特性を最大限に活かす前提で設計・構築されたシステムやアプリケーションの運用形態です。コンテナ技術やマイクロサービスアーキテクチャ、DevOpsなどを活用することで、AIモデルの迅速なデプロイや柔軟な拡張性を実現します。
学習サーバー
学習サーバーとは、AIや機械学習モデルの訓練処理を専門に行う高性能なコンピューターシステムです。膨大なデータを高速に処理するため、GPUやTPUなどの強力な演算装置を複数搭載し、ディープラーニングなどの重い負荷がかかる計算を効率的に実行します。
TLS/SSL
TLS/SSLは、インターネットなどのネットワーク上でデータを暗号化して安全に送受信するための通信プロトコルです。AIサービスのAPIエンドポイントとの通信やクラウド上の推論APIの利用時に、入力プロンプトや機密データが盗聴・改ざんされるのを防ぐ基盤技術として不可欠です。
仮想マシン
仮想マシンとは、物理的なコンピュータ内部でソフトウェアによって動作する仮想的なコンピュータのことです。1台のハードウェア上で複数の異なるOSや環境を同時に稼働させることができるため、AIの学習や開発における効率的なリソース管理に広く利用されています。
NVSwitch
NVSwitchとは、NVIDIAが開発した高速なGPU間通信を実現するためのスイッチチップです。複数のGPU間を超高速かつ低遅延で接続することで、大規模なAIモデルの学習やHPC処理においてボトルネックを解消し、システム全体を一つの巨大な仮想GPUとして効率的に動作させることが可能になります。
帯域幅
帯域幅とは、ネットワークや通信路において一定時間あたりに転送できるデータ量の最大値を指します。AIや機械学習の分野では、大規模言語モデルの学習や分散処理において、GPU間やノード間のデータ転送速度を左右する重要な指標となります。
クラウドストレージ
クラウドストレージとは、インターネット経由でデータを保存・管理できるサービスです。AI分野では、膨大な学習データやモデルチェックポイントの保管、共同開発時のデータ共有基盤として不可欠なインフラとなっています。
ベンダーロックイン
ベンダーロックインとは、特定のクラウド事業者やAIプラットフォームの独自技術やサービスに強く依存してしまい、他社サービスへの乗り換えが困難になる現象を指します。