在人工智能(AI)市场上,NVIDIA的独占地位持续存在,大科技公司在大规模购买NVIDIA的图形处理单元(GPU)的同时,也在加速自研AI芯片的开发。此举被解读为在持续采购NVIDIA芯片的同时,直接获取符合运算特性的芯片,以提高成本和电力效率。
据业内消息,开放AI于25日(当地时间)公开了其自研的AI推理芯片“哈拉佩尼奥”的首次性能测评结果。开放AI表示,哈拉佩尼奥在与NVIDIA的GB200和GB300进行比较时,在每瓦特处理能力和响应延迟时间上均表现优于对手。根据公开的测试结果,哈拉佩尼奥的每瓦特处理能力比对比系统高出1.5至1.9倍,而响应延迟时间则低于1.7至3.6倍。然而,由于这是自我评估的结果,实际竞争力仍需在未来的商业环境中验证。
大科技公司的自研芯片开发并非开放AI的独特举动。谷歌正在开发自有AI加速器TPU并在数据中心中使用。亚马逊在开发Tranium和Inferentia的同时,也在云服务中提供NVIDIA GPU。Meta正在扩大自有AI芯片MTIA的使用,同时也采购NVIDIA和AMD等外部芯片。微软同样采取了自有AI加速器Maya与外部GPU并行的策略。
这些公司开发自研芯片的主要原因之一是AI推理成本。随着AI服务用户的增加,学习和推理所需的运算量急剧增加。通用GPU可以处理多种运算,但并不能在所有任务中提供相同水平的性能和电力效率。设计符合自有服务的芯片可以在更少的电力下处理重复运算的空间。
尤其是推理被认为是自研芯片效率突出的领域。学习需要处理多种模型和运算的通用性,而推理则是重复执行已学习模型的任务,因此可以针对特定模型和服务进行优化。开放AI将哈拉佩尼奥开发为推理芯片也是基于这一背景。
自研芯片的增加并不直接导致NVIDIA GPU需求的减少。相反,AI运算需求本身正在快速增长,大科技公司正在形成同时获取外部GPU和自研芯片的结构。NVIDIA也在与开发自研芯片的开放AI保持合作。NVIDIA在26日的业绩发布会上表示,数据中心的收入同比增长117%,达到了890亿美元。
然而,自研芯片的增加可能会改变AI半导体市场的竞争方式。到目前为止,NVIDIA和AMD等加速器公司主导了芯片设计的结构,而大科技公司则主要购买这些芯片。未来,大科技公司可能会直接设计芯片的结构和性能,并与半导体公司合作进行生产的案例将会增多。
在这一过程中,半导体行业的客户结构也可能发生变化。自研AI芯片需要高带宽内存(HBM)和先进封装等高性能半导体。实际上,开放AI的哈拉佩尼奥已知使用了HBM4。随着开发自研AI芯片的企业增多,NVIDIA和AMD等加速器公司之外,大科技自研芯片也可能成为高性能内存的新需求来源。
※ 本报道经人工智能(AI)系统翻译与编辑。


