在人工智能（AI）时代，日益严重的内存瓶颈问题正在通过高带宽闪存（HBF）这一新一代内存技术得到解决。尤其是谷歌DeepMind将HBF称为“AI推理时代的最佳内存解决方案”，引发了业界的广泛关注。

在6日（当地时间）于美国加利福尼亚举行的全球最大内存会议FMS 2026上，SK海力士、谷歌DeepMind和闪迪共同进行了以“HBF突破内存瓶颈”为主题的专题讨论。

此次会议是在4日SK海力士与闪迪发布HBF首个标准规格后，AI服务企业与内存企业共同探讨商业化方向的场合。

HBF是一种新的内存层，位于超高速DRAM HBM与大容量SSD之间。它的特点是能够实现与HBM相当的数据传输速度，同时基于闪存大幅提升容量。HBF并不是取代HBM，而是与HBM并存，以补充不足的内存容量。

此次讨论的意义在于，谷歌DeepMind作为直接开发和运营AI模型的企业，公开提及HBF的必要性，增强了市场扩展的可能性。

谷歌DeepMind的研究员肖宇马指出，AI产业正在迅速从以学习（Training）为中心转向以推理（Inference）为中心。他预测，从2024年到2034年，AI推理芯片市场规模将增长超过10倍，并表示仅凭现有内存结构难以满足这一需求。

他解释说，随着AI模型参数的快速增加，以及处理图像、视频、音频的多模态AI的普及，随着对话的延长，KV缓存的处理量也急剧增加，因此必须同时确保内存容量和带宽。

肖宇马表示：“过去，增加内存容量会降低带宽，而提高带宽则会增加成本和电力消耗，这是一种矛盾关系。HBF是一个新的替代方案，能够同时实现高带宽和能效。”

闪迪强调了HBF在AI推理系统中的经济性。副总裁拉吉夫·纳加比拉巴表示，应用HBF可以有效管理KV缓存，从而将系统的KV识别率提高两倍以上，最终缩短令牌生成时间，降低GPU使用率和运营成本。

此外，由于HBF基于闪存，具有断电后数据仍能保持的非易失性特性，能够长期存储数据，并且在读取比例较高的AI推理环境中，闪存的耐用性问题也能得到有效解决。

SK海力士强调，为了实现HBF的商业化，不仅需要内存本身的创新，还需要整个系统的创新。

SK海力士副总裁任义哲表示：“闪存在结构上存在延迟时间长和写入性能低的局限性，因此需要采用预取（Prefetching）、移动窗口内存（Moving Window Memory）、混合内存架构等硬件与软件共同设计的协同设计（Co-design）方法。”

他进一步指出：“为了在实际AI系统中充分利用HBF，xPU设计公司、LLM开发者和软件工程师等多方生态参与者需要共同制定高质量的标准。”

早前，SK海力士与闪迪于今年2月成立了HBF标准化联盟，并在6个月内发布了首个标准规格。该规格基于8层和16层闪存堆叠，支持最大512GB的容量，带宽分为三个等级，规定可实现每秒0.4TB至3.0TB的传输速度。目前，参与该联盟的有SK海力士、闪迪、谷歌、天数科技等。