SKハイニックスとサンディスクは、High Bandwidth Memory（HBM）と従来のSSDの中間に位置する新たなメモリ階層「High Bandwidth Flash（HBF）」のオープン技術仕様を公開した。GoogleとTenstorrentもすでにコンソーシアムに参加しており、AI推論におけるメモリ容量の課題解決に向けた標準化が進み始めた。最初のメモリサンプルは2026年後半、HBFを組み込んだAI推論デバイスは2027年初頭の登場が見込まれているが、いずれも現時点では目標または予測であり、ベンチマーク可能なHBFチップはまだ存在しない。■HBFのオープン仕様が公開SK HynixとSandiskは8月4日、カリフォルニア州サンタクララで開催された「Future of Memory and Storage（FMS）」カンファレンスにおいて、High Bandwidth Flash（HBF）初のオープン技術仕様を公開した。この標準規格は、High Bandwidth Memory（HBM）と従来のSSDの中間に位置する新たなメモリ階層を定義するものであり、NANDフラッシュで特に問題となる2つの弱点が、想定するワークロードには実質的に当てはまらないとの考えに基づいている。この仕様はOpen Compute Project（OCP）を通じて公開された。8層および16層のNANDダイ積層を用いて最大512GBの容量をサポートし、約0.4TB/sから3.0TB/sまでの3段階の帯域幅グレードを定めている。また、ホストインターフェースにはUniversal Chiplet Interconnect Express（UCIe）規格を採用した。この選択は、HBFが広範なチップレットエコシステムの標準となるか、2社だけの独自ソリューションにとどまるかを左右する可能性がある。GoogleとTenstorrentもすでにHBFコンソーシアムに参加している。8月6日にはFMSにおいて、SK Hynix、Sandisk、Googleの3社が「High Bandwidth Flashによるメモリの壁の打破」と題するパネルディスカッションに登壇する予定だ。■「メモリの壁」の実態とフラッシュが候補になった理由大規模言語モデル（LLM）の推論リクエストでは、モデルの重みをメモリから継続的に読み出す必要がある。100万トークンのコンテキストウィンドウを持つ700億パラメータのモデルでは、1人のユーザーに対して約320GBのアテンションメモリ、いわゆるキーバリューキャッシュが生成される。これは、最上位クラスのAIアクセラレータに搭載されるHBMサブシステム全体の容量の数倍に相当する。この容量超過分をどこかに置かなければならないが、これまでの主な選択肢は、高速だがスタックあたり約48～64GBに制限されるHBM、容量は多いものの帯域幅がHBMの数分の一にとどまる従来型DRAM、容量は十分でも帯域幅が数十GB/s程度でAIパイプラインの要求を大きく下回るNVMe SSDだった。HBFは、この隙間を埋めるように設計されている。HBMと同様の高密度積層アーキテクチャを用いてNANDフラッシュダイを垂直に積み重ね、PCIeバスではなくUCIeチップレットリンクを介してホストプロセッサに接続する。その結果、HBMと比べてスタックあたり約10倍の容量というNANDの高密度性と、従来型SSDを桁違いに上回る帯域幅の両立を目指せる。■NANDの弱点がこのワークロードでは問題になりにくい理由NANDフラッシュには、よく知られた2つの技術的制約がある。1つ目は書き込み耐久性だ。フラッシュセルは有限回の消去・書き込みサイクルで劣化するため、頻繁に書き込むワークロードには適していない。2つ目は読み取りレイテンシで、HBMが数十ナノ秒であるのに対し、NANDの読み取りには約10マイクロ秒かかるとされ、原文では約100倍の差があるとしている。また、読み取りはページ単位で行われ、実際に要求されるデータが小さくても、最小4～16KBのまとまりで読み出す必要がある。このため、小規模なランダム読み取りでは実効帯域幅が低下する。技術的な分析でも、これらは単なるマーケティング上の印象ではなく、実際の制約だと確認されている。ほとんどのストレージワークロードでは、これらの制約は重大な問題になる。しかしAI推論については、エンジニアらは、想定するワークロードでは影響が小さいと主張している。重要なのは、HBFが保持すると想定される推論時のモデルの重みが、基本的に読み取り専用であることだ。重みは学習後に固定される。固定された重みを推論用に保存するデバイスには、動作中ほとんど書き込みが発生しないため、書き込み耐久性を左右する消去・書き込みサイクルは実質的に蓄積しない。HBMとの大きなレイテンシ差には、アーキテクチャで対処する。推論時にはモデルの重みが予測可能な順序で読み出されるため、GPUが要求する前に、次のデータをHBFからプリフェッチできる。これにより、レイテンシによる不利の大部分を隠蔽できるという。また、AIの重みテンソルは小さなランダム断片ではなく、大きな連続ブロックとして読み込まれるため、ページ単位の読み取りとも相性がよい。推論用途におけるNANDの研究も、このアーキテクチャ上の考え方を支持している。arXivで公開された論文「Challenges and Research Directions for Large Language Model Inference Hardware」は、このトレードオフについて、HBFの弱点を「書き込み回数の制限と長い読み取りレイテンシ」とする一方、「HBFは、推論時の重みや変化の遅いコンテキストなど、更新頻度の低いデータを保持しなければならない」と説明している。これは、HBFが想定する用途そのものだ。同論文は、FMSのコンソーシアムパネルに登壇予定のGoogle DeepMindのエンジニア、Xiaoyu Ma氏も共同執筆している。■H³ハイブリッドアーキテクチャのシミュレーションが示したことSK Hynixは2026年初め、H³アーキテクチャについて説明するIEEE論文を発表した。これは、HBMとHBFのスタックをGPUとともに同じシリコンインターポーザ上に配置し、プロセッサが単一のアドレス空間を通じて両方のメモリに統合的にアクセスできるようにするハイブリッド設計だ。SK Hynix Researchの概要では、そのルーティング機構も詳しく説明されている。H³では、HBMのベースダイにメモリ要求を振り分けるアドレスデコーダを設ける。アクティベーションや中間計算状態などの動的データはHBMへ、固定されたモデルの重みや事前計算済みの共有キーバリューキャッシュなどの読み取り専用データはHBFへ送られる。GPUからは、両方が単一の連続したメモリプールとして見える。NVIDIA Blackwell B200 GPUに8つのHBM3Eスタックと8つのHBFスタックを組み合わせたシミュレーションでは、HBMのみの構成と比べて、ワットあたりのスループットが2.69倍に向上した。1,000万トークンのキーバリューキャッシュを使うワークロードでは、H³構成はHBMのみのシステムに対して6.14倍のスループットを示し、18.8倍のバッチサイズを実現した。これは、HBMのみの構成では32基のGPUを必要とするワークロードを、シミュレーション上ではH³システムの2基のGPUで処理できたことを意味する。ただし、これらの数値は慎重に受け止める必要がある。SK Hynix自身のエンジニアリングモデルによるシミュレーション結果であり、出荷済みハードウェアを使った独立機関のベンチマークではない。現時点では、ベンチマーク可能なHBFシリコンも存在しない。同じシミュレーションでは、HBFの帯域幅を公称値から50％引き下げても、H³構成がHBMのみのシステムを上回った。これは、現実の環境で一定の性能変動が生じても、このアーキテクチャが有効である可能性を示唆している。■UCIeが重要なアーキテクチャ上の選択である理由HBFとホストプロセッサを結ぶインターコネクトは、単なる実装上の細部ではない。HBFが広く採用される標準規格になるか、それとも創設した2社のロードマップに限定されるかを左右する要素だ。HBFはホストインターフェースとしてUCIeを採用している。UCIeはUniversal Chiplet Interconnect Expressの略で、半導体ダイ同士がパッケージレベルで通信する方法を定めるオープンなチップレットインターコネクト規格だ。2Dと2.5Dのパッケージ構成を対象としている。UCIeコンソーシアムは2025年8月にバージョン3.0を公開し、ピークデータレートを64GT/sに倍増させたほか、サイドバンドの到達距離を100ミリメートル、約3.9インチまで延長した。これは、単一パッケージ内の複雑なマルチダイ構成を支えられる物理的距離である。UCIe 3.0の公開によって、HBFが基盤とする技術的な土台が整った。すでにUCIeに対応するGPU、CPU、カスタムAIアクセラレータであれば、専用コントローラや独自のリンクネゴシエーションを新たに設けることなく、HBFを統合できる可能性がある。ハードウェアインターフェースがすでにオープンな規格として定義されているためだ。StorageReviewはFMS 2026の報道で、両社の戦略について次のように指摘した。「SandiskとSK Hynixの戦略は明確だ。競合他社が代替規格を定義する前に、OCPを通じて早期かつオープンに公開し、HBFをAIストレージ市場の事実上の標準として位置づけることである」仮にSandiskとSK HynixがHBFを独自インターフェースで構築していれば、GPU設計企業はそれぞれ個別の統合作業を迫られ、この技術の成否は両社の直接顧客による購買判断に依存していただろう。UCIeを基盤とすることで、HBFの普及は、AMD、Intel、Qualcomm、TSMCなどが主要貢献企業として参加する、より広範なチップレットエコシステムと結び付く。■Googleの参加が示唆するもの創設メンバーであるSK HynixとSandiskに加えて、GoogleとTenstorrentがHBFコンソーシアムに参加したことは、Converge DigestによるFMSの報道でも伝えられている。このうち、Googleの参加は特に大きな意味を持つ。Google DeepMindは世界有数のAI研究組織であり、メモリアーキテクチャの選択がエネルギー消費やインフラ設備投資に直結する規模でAI推論を運用するハイパースケーラーでもある。商用デバイスが存在しない段階でハイパースケーラーが標準化コンソーシアムに加わることは、一般に、社内チームがその技術を評価し、長期的なインフラ計画で検討する価値があると判断した可能性を示す。購入を決定したことを意味するわけではないが、標準化という観点では、技術の不確実性を大きく引き下げる材料になる。半導体アーキテクトのJim Keller氏が率いるAIチップスタートアップのTenstorrentは、メモリ階層の効率性とオープンなインターコネクト規格に重点を置いたAI推論アクセラレータを開発している。この方針は、UCIeを基盤とするHBFのアプローチと直接合致する。Keller氏も公の場で、AI推論は主としてメモリとネットワークの問題だと繰り返し位置づけてきた。これはHBFが対処しようとしている問題そのものだ。8月6日には、SK HynixのバイスプレジデントであるLim Eui-cheol氏、SandiskのバイスプレジデントであるRajeev Nagabhirava氏、Google DeepMindのシニアス