高バンド幅メモリ（HBM）とは、DRAMチップを垂直に積層し、広帯域なデータ転送を実現した超高速メモリ技術です。従来のDDRメモリと比べて圧倒的なデータ転送速度を誇り、大規模な言語モデル（LLM）の学習や推論を行う最新のAIアクセラレータ（GPU）に不可欠なコンポーネントとして広く採用されています。
高バンド幅メモリ (HBM)とは
高バンド幅メモリ（HBM）は、複数のDRAMチップをシリコン貫通電極（TSV）と呼ばれる技術を用いて垂直に積み重ね、インターポーザを介してGPUなどのプロセッサと超高速・広帯域で接続する超高性能なメモリ規格です。
詳しく解説
AIやディープラーニングの急激な発展に伴い、計算を行うGPUの処理能力は飛躍的に向上しましたが、メモリからデータを読み書きする速度が追いつかないメモリウォールと呼ばれるボトルネックが深刻化しました。HBMはこの問題を解決するために開発されました。従来のメモリ（GDDRなど）がマザーボード上で横に配置され、細い配線で繋がれているのに対し、HBMは3D積層技術を用いて、メモリ素子を縦に重ねます。これにより、配線距離を極限まで短縮し、接続口（バス幅）を1024ビット以上に広げることで、1秒間にテラバイト級の膨大なデータを転送することが可能になりました。AIモデルのパラメータが数千億に達する現代において、計算ユニットへの迅速なデータ供給を支える不可欠な技術となっています。
具体例・使われ方
具体的な利用例としては、NVIDIAのH100やBlackwell、AMDのInstinctシリーズといった、最先端のAIアクセラレータやGPUに直接搭載されています。これにより、ChatGPTに代表される大規模言語モデルの学習・推論処理において、メモリ帯域幅がボトルネックにならずに最大効率でプロセッサを稼働させることができます。また、自動運転システムや気象予測などのスーパーコンピュータ分野でも、巨大な並列演算データを処理するために活用されています。
似た用語との違い
HBMと、一般的なPCやサーバーで使われるDDRやグラフィックス用のGDDRとの最大の違いは、接続インターフェースの幅（バス幅）と物理的な配置です。DDRなどは通常32ビットや64ビットといった比較的狭いバス幅で高速にクロックを動作させるのに対し、HBMは1024ビット以上の非常に広いバス幅を持ち、低い動作クロックでも圧倒的なデータ転送量を実現します。また、DDRなどは独立したソケットや基板上に配置されますが、HBMはGPUやプロセッサと同じパッケージ内に超微細なインターポーザを介してワンチップのように配置されるため、実装面積を大幅に削減できます。
注意点
HBMの主な課題は、製造コストの高さと複雑な製造プロセスです。シリコン貫通電極（TSV）を用いた3D積層や、インターポーザによるパッケージング技術は極めて高度な精度が求められるため、歩留まりの改善が難しく、従来のDDRメモリに比べて価格が非常に高価になります。そのため、一般的なPCや安価なデバイスに搭載されることは稀で、主にデータセンター向けの高性能AIアクセラレータやスーパーコンピュータに用途が限定されています。また、高密度にチップが積層されているため、熱がこもりやすく、強力な冷却システムが必要になるという運用上の注意点もあります。