Sandiskは、High Bandwidth Flash（HBF）を提唱している。NANDベースのメモリでありながらHBMと同等の帯域幅を実現し、同等のコストで8〜16倍の容量を提供するという製品だ。推論ワークロードが現在のメモリ階層を圧迫するなか、フラッシュをプロセッサの物理的な近傍に配置することで対応する。戦略的な標的は明確だ。大規模モデルの経済性を左右するボトルネックは、もはや演算性能ではなくメモリウォールへと移りつつある。

全体の論理は紙の上では説得力がある。推論ボリュームが爆発的に増大し、コンテキストウィンドウが拡大の一途をたどるなか、HBMは希少で高価であり、容量面でも制約を抱えている。HBFがフラッシュの高密度特性を活かしてモデルウェイトの大半をアクセラレーター近傍に置けるなら、推論を大規模運用する事業者にとってインフラ構築のコスト計算は根本から変わる。重要な変数は帯域幅だけでなく容量にもなる。その意味でHBFは、HBMをそのまま置き換えるものではなく、HBMと従来型ストレージの間に位置する新たな階層として、推論が生み出す大量の読み取り中心のウェイトトラフィックを吸収する存在といえる。

懐疑的な見方も当然ある。NANDの弱点はレイテンシと書き込み耐久性であり、スペックシート上の帯域幅の同等性が実際のワークロード、熱特性、コントローラーのオーバーヘッドに耐えられるとは限らない。エコシステムの慣性も無視できない。アクセラレーターのロードマップ、パッケージング、ソフトウェアはいずれもHBMに最適化されている。信頼できる標準の策定、シリコンパートナーの確保、製品の量産出荷には数年単位の取り組みが必要だ。また、Broadcomが今サイクルでAI関連のガイダンスを下方修正したことは、インフラ需要が線形に拡大するわけではないことを改めて示している。

日本にとって、この動向が持つ意味はとりわけ直接的だ。NANDは日本の製造拠点が最前線にある数少ない半導体セグメントの一つであり、既存のファブ投資を活用できるフラッシュ規格の台頭は、先端ロジック分野のような弱点の露呈ではなく、国内の強みを生かす機会となる。HBFが普及すれば、日本のメモリ産業はコモディティなストレージサイクルではなくAIと結びついた、より高付加価値の新たな需要の柱を得ることになる。

日本のSIerやエンタープライズITチームにとって、近期的なシグナルはアーキテクチャの問題として受け止めるべきだ。規制産業を中心とする多くの日本企業が選好するオンプレミスおよびソブリン推論の展開において、メモリの階層化は設計上の最重要判断事項になりつつある。コストあたりの容量とメモリトポロジーを今すぐ調達基準に組み込み、HBFとHBMのロードマップがいまだ流動的なうちは、複数年にわたるAIインフラ計画を単一のメモリ前提に縛り付けることは避けるべきだろう。