AIアクセラレータハードウェア半導体

HBM(高帯域幅メモリ)

えいちびーえむ · High Bandwidth Memory
20 views

HBM(高帯域幅メモリ)とは、AIの学習や推論に欠かせないGPUの性能を最大限に引き出すために開発された、超高速かつ大容量な次世代の積層型DRAMメモリ技術です。

HBM(高帯域幅メモリ)とは

一言でいうと、AI計算のボトルネックになりやすいデータの転送速度を劇的に向上させる、縦に積み重ねられた高性能なメモリチップのことです。

詳しく解説

HBMは、複数のDRAMダイを垂直方向に積み重ね、TSV(シリコン貫通電極)という微細な配線技術で接続することで、従来のメモリに比べて圧倒的に広い帯域幅(データ通路の広さ)を実現しています。AIモデルの巨大化に伴い、GPUへ膨大なデータを高速に送り込む必要性が高まったことから、現在の生成AI開発において不可欠な基盤技術となっています。

具体例・使われ方

NVIDIAのH100やB200といった最先端のAIアクセラレータやGPUに搭載され、大規模言語モデル(LLM)の学習や高速な推論処理を支えるメインメモリとして利用されています。

似た用語との違い

一般的なパソコン等で広く使われるDDRメモリや、グラフィックス用のGDDRメモリと比較して、HBMはGPUと極めて近い位置に配置され、配線幅が劇的に広いため、消費電力あたりのデータ転送速度が圧倒的に優れています。

注意点

製造工程が非常に複雑で高度な技術を要するため歩留まりが低くなりやすく、通常のメモリに比べてコストが非常に高い点や、供給量が限られやすい点が課題として挙げられます。

更新日時: 2026年9月15日 06:01