メモリバスとは、AIの学習や推論を実行するプロセッサとメインメモリの間でデータを転送するための伝送路です。データ転送の帯域幅を決定づける主要な要素であり、近年の巨大なAIモデルにおいて処理速度を左右する重要なボトルネックとなります。
メモリバスとは
メモリバスとは、CPUやGPUなどのプロセッサと、データを一時保存するメモリとの間でデータや命令をやり取りするための通信経路です。
詳しく解説
コンピュータ内部でデータが移動する通路であり、道路の車線数に例えられるバス幅と動作周波数によって一度に転送できるデータ量が決まります。生成AIのモデルが巨大化するにつれて、膨大なパラメータを高速にメモリから読み書きする必要性が高まっており、メモリバスを介したデータ転送の性能がAIプロセッサ全体の処理能力を大きく左右する要因となっています。
具体例・使われ方
NVIDIAのAI向けGPUにおいて、HBMという高帯域幅メモリとプロセッサを接続する超広帯域のメモリバスが採用されており、大規模言語モデルの高速な学習や推論を支えています。
似た用語との違い
演算ユニット自体の処理性能を示すFLOPSや、個々の計算コアの能力とは異なり、メモリバスは「データがいかにスムーズにプロセッサへ供給されるか」というデータ移動の効率性を表します。
注意点
どれほどプロセッサ自体の計算能力が高くても、メモリバスの帯域幅が不足していると、データ待ちが発生して全体の処理効率が低下するいわゆる「メモリボトルネック」を引き起こす点に注意が必要です。
この解説は役に立ちましたか？誤りが含まれる場合はご報告いただけますと幸いです。
更新日時: 2026年9月20日 10:45