HBM (High Bandwidth Memory)（エイチビーエム）

2025年10月26日

HBM (High Bandwidth Memory)（エイチビーエム）

英語表記: HBM (High Bandwidth Memory)

概要

HBM (High Bandwidth Memory)は、複数のDRAMチップを垂直に積み重ねる「3Dスタッキング」技術を利用し、従来のDRAMと比較して圧倒的なデータ転送速度（帯域幅）を実現する革新的なメモリ技術です。これは、メモリ階層において、特にプロセッサとメインメモリ間のデータ転送速度のボトルネックを解消するために開発されました。高性能なGPUやAIアクセラレータの性能を最大限に引き出す、高帯域メモリの代表格と言える存在です。

詳細解説

HBMがメモリ拡張と帯域技術の分野で注目される最大の理由は、従来のメモリ設計の限界を打破した点にあります。従来のDDR SDRAMは、動作周波数を高めることで転送速度を上げてきましたが、電力消費が増大し、信号のノイズ耐性も限界に近づいていました。HBMは、この問題を根本的に解決するために、速度（クロック）ではなく幅（バス）を拡張するというアプローチをとっています。

目的：帯域幅の最大化と電力効率の両立

HBMの主要な目的は、AIや高性能計算（HPC）といった、大量のデータを並列かつ高速に処理する必要があるワークロードに対して、十分なデータ供給能力を提供することです。プロセッサの演算能力が進化する一方で、メモリの転送速度が追いつかない「メモリウォール」現象を回避するために、HBMは必須の技術となっています。

また、HBMは非常に広いバス幅（数千ビット幅に達します）を持つため、従来のDRAMほど高いクロック周波数で動作させる必要がありません。クロック周波数を抑えることは、結果的に低消費電力化につながるため、高性能でありながら省電力性も高いという、非常に優れた特性を持っています。これは、データセンターや大規模AIシステムにとって、非常に魅力的なポイントですね。

動作原理と主要コンポーネント

HBMは、以下の三つの主要な技術要素によって構成されています。

3Dスタッキング（垂直積層）: 複数のDRAMダイ（チップ）を垂直に積み重ね、一つのパッケージに収めます。これにより、メモリの物理的な占有面積を大幅に削減し、プロセッサのすぐ近くに配置することが可能になります。
TSV (Through-Silicon Via：貫通シリコンビア): 垂直に積層されたDRAMダイ同士を電気的に接続するために、シリコン基板を貫通する微細な配線（ビア）を使用します。このTSVによって、信号経路が極めて短くなり、高速かつ低電力でのデータ転送が可能となります。TSVは、HBMの性能を支える最も重要な基盤技術と言っても過言ではありません。
シリコンインターポーザ（中継基板）: HBMスタックとプロセッサ（主にGPU）は、このインターポーザと呼ばれるシリコン基板上で隣接して配置されます（これは「2.5Dパッケージング」と呼ばれることが多いです）。インターポーザは、HBMスタックの広大なデータバスとプロセッサを接続するための高密度な配線層を提供します。これにより、従来の長い配線では不可能だった超広帯域通信が実現するのです。

メモリ階層におけるHBMの位置づけ

メモリ階層（キャッシュ, DRAM, NVRAM）の中で見ると、HBMは従来のDRAMと同じメインメモリの役割を果たしますが、その特性からプロセッサに非常に近い位置に配置されます。一般的なDRAMがシステム全体の広範なデータを格納するのに対し、HBMは特に高速なアクセスが必要なデータや、GPUの並列処理に必要な作業データを一時的に保持する役割を担います。

つまり、HBMは、L3キャッシュ（最も高速なSRAM）と、一般的なメインメモリ（DDR SDRAM）の中間的な存在として、メモリ拡張と帯域技術の最前線で活躍し、現代のコンピューティング性能を劇的に引き上げているのです。

具体例・活用シーン

HBMは、その特性上、データ転送能力がボトルネックになりやすい、高度な計算処理を行う分野で不可欠な存在となっています。

AIトレーニングと推論システム: 大規模言語モデル（LLM）のトレーニングや、複雑なAIモデルの推論処理では、数百万から数十億のパラメータを瞬時にアクセスし、処理する必要があります。HBMは、この膨大なデータアクセス速度を提供し、学習時間を大幅に短縮します。
高性能GPU: NVIDIAやAMDの最新世代の高性能グラフィックスプロセッサ（特にデータセンター向け）では、HBMの採用が標準となっています。これにより、リアルタイムレンダリングや膨大なテクスチャ処理が遅延なく行えるようになりました。
スーパーコンピューティング: 国家レベルの大規模計算機システムでは、ノード間の通信速度だけでなく、ノード内のプロセッサとメモリ間の帯域幅が重要です。HBMは、ペタフロップス級の計算能力を支える高速なデータパイプラインを提供しています。