搜索
写经验 领红包
 > 运动

人工智能服务器:算力爆发打开空间,龙头强者恒强

人工智能服务器:算力爆发打开空间,龙头强者恒强,人工智能服务器上市公司

当前机器学习和人工智能应用对算力的要求变得越来越严苛,这也使得搭载GPU、FPGA等面向人工智能场景的服务器市场增长迅速,成为拉动整体服务器市场的重要增长点。

人工智能服务器:算力爆发打开空间,龙头强者恒强

现阶段的 ChatGPT 是在拥有 3000 亿个单词的语料基础上预训练拥有 1750 亿参数的模型,而 GPT4 官方资料没有讲模型参数和数据规模,没有 讲任何技术原理,但 GPT4 模型输入更长,可以处理文字输入长度增加到 3.2 万个 token,约 25000 字文本,同时智能程度大幅跃迁,可以接受图片输 入。

可以看到 GPT 模型在持续迭代过程中,能力持续增强,所需要的算力 需求也或将持续增长。

AI计算在整体计算市场占比正逐年提高,全球增长的AI计算支出50%来自中国。

当前我国AI服务器出货市场整体呈现上扬趋势,AI 服务器作为算力基础设备,其需求有望受益于 AI 时代下对于算力不断提升的需求而快速增长。

人工智能服务器:算力爆发打开空间,龙头强者恒强

AI 服务器行业概览

目前,全球AI服务器占AI基础设施市场的84.2%以上,是AI基础设施的主体。

AI服务器分类方式有两种:

按应用场景:AI服务器按照应用场景可以分为深度学习训练型和智能应用推理型。

训练任务对服务器算力要求较高,需要训练型服务器提供高密度算力支持,典型产品有中科曙光X785-G30和华为昇腾Atlas 800(型号9000、型号9010)。

推理任务则是利用训练后的模型提供服务,对算力无较高要求,典型产品有中科曙光X785-G40和华为昇腾Atlas 800(型号3000、型号3010)。

按芯片类型:AI服务器为异构服务器,可以根据应用范围调整计算模块结构,可采用CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多种加速卡等组合形式。

目前,产品中最常见的是CPU+多块GPU的方式。

CPU+GPU/FPGA/ASIC类的异构AI加速服务器能够为机器学习、深度学习、计算机视觉、NLP、知识图谱、智能语音等AI技术加速,支持更大规模的深度神经网络模型的同时,还能提高训练精度,因而成为AI算力突破的新业务增长点。

人工智能服务器:算力爆发打开空间,龙头强者恒强

资料来源:中科曙光、华泰研究

根据微软宣布,为OpenAI开发的超级计算机超过了28.5万个CPU核心、1万个GPU,每台GPU服务器网络连接能力为400Gbps,位列全球超级计算机前五。

目前,英伟达的AI计算集群整体解决方案(如DGX A100系列)是AI集群投资的主流选择,除此之外部分云和互联网大厂选择了CPU+FPGA+GPU+AI DSA异构算力自己搭建AI计算中心。

根据YOLE预测,全球AI加速服务器渗透率将在2027年达到17.9%,AI/GPU加速服务器出货量复合增速高达39.8%/20.3%。

人工智能服务器:算力爆发打开空间,龙头强者恒强

AI服务器综合能力维度

据艾瑞和行行查数据显示,AI服务器的综合能力维度分成三部分:板卡芯片组配置、硬盘-网络带宽-操作系统、机箱结构设计。

板卡芯片组是AI服务器运行效率的核心,主频高、核心数多的CPU搭配小面积、高频率、算力强的加速芯片,并结合互联互通的总线与充足的内存,才能保证更高的吞吐量、更多的并发数与更低的延迟。

硬盘-网络带宽-操作系统是AI服务器的运作基础,硬盘存储空间与网络带宽的大小影响着AI应用与用户数据存储的上限与线上接入数据的快慢,操作系统则影响着数据与访问的安全性、执行的效率与稳定性。

通用服务器一般是单路或多路CPU架构,而AI服务器需要承担大量的AI运算,一般配置多个GPU或其他的系统级芯片。而AI服务器由于对加速卡的独特需求,需要针对性的对于系统结构、散热等做专门的设计,才能满足AI服务器需求。在助跑AI模型时会散发较多的热量,因此AI服务器物理环境的安全稳定、机箱的通风散热设计亦是需要考虑的因素。

人工智能服务器:算力爆发打开空间,龙头强者恒强

资料来源:艾瑞咨询

AI服务器全栈技术架构图

在全国产AI服务器解决方案的系统架构,自底向上分为四层:

系统层:基于搭载飞腾FT-2000+/64芯片和异构加速卡、安装麒麟操作系统的基于飞腾的自主AI服务器,前期已进行了深度的驱动适配工作。

SDK层:异构加速的核心库,包含了一套神经网络算子库、Linux驱动、运行时程序库和神经网络图引擎框架等。

深度学习框架和模型应用:这一层包含了业界常用的深度学习框架和深度学习模型,按照应用场景划分,目前业界应用基本聚焦于CV、NLP和语音等领域。

行业解决方案:在这一层主要面向垂直行业,解决客户的实际问题,通常需要整合多个深度学习应用场景,提供的是一整套完整的软硬件解决方案。

人工智能服务器:算力爆发打开空间,龙头强者恒强

资料来源:《从端到云基于飞腾平台的全栈解决方案》

AI服务器市场格局

根据IDC数据,2022年全球AI服务器市场规模202亿美元,同比增长29.8%,占服务器市场规模的比例为16.4%,同比提升1.2pct。

2022年上半年全球AI服务器市场中,浪潮、戴尔、惠普、联想、新华三分别以15.1%、14.1%、7.7%、5.6%、4.7%的市场份额位居前五位。

IDC预计预计2026年全球AI服务器市场规模将达到355亿美元,对应22-26年CAGR为15.1%。

人工智能服务器:算力爆发打开空间,龙头强者恒强

2022年末,ChatGPT的火爆引发了科技巨头对于AI算力的密集投入,这将极大促进短期和中长期AI服务器的市场规模扩容,全球头部厂商将充分受益于云厂商AI算力投资的快速增长。

关注乐晴智库,洞悉产业格局!