GPU服务器是什么？
从字面上来看GPU服务器是服务器当中的一种，简单的介绍，GPU服务器就是基于CGP的应用在视频编解码，深度学习，科学计算等多场景稳定快速，稳定，弹性的计算服务。那么GPU服务器的作用具体是什么呢？如何选择GPU服务器？
GPU服务器有什么作用？
GPU加快计算能够提供不凡的应用软件性能，能将应用软件计算聚集一部分的工作中负荷迁移到GPU，另外仍由CPU运作其他编程代码。从客户的视角看来，应用软件的运作速率显著加速.
了解GPU和CPU中间差别的一个简易方法是较为他们如何处理任务。CPU由致力于次序串行通信处理而提升的好多个关键构成，而GPU则有着一个由不计其数的更小、更高效率的关键（专为另外处理多种任务而设计方案）构成的规模性并行处理计算构架。
GPU服务器的主要应用领域
海量计算处理
GPU服务器强力的计算作用可运用于海量信息处理层面的计算，如检索、互联网大数据强烈推荐、智能输入法等： 本来必须数日进行的信息量，选用GPU服务器在数钟头内就可以进行计算。 本来必须数十台CPU服务器一同计算群集，选用每台GPU服务器可进行。
深度学习模型
GPU服务器可做为深度学习训练的服务平台：
GPU服务器可立即加快计算服务，也可以立即与外部联接通讯。
如何正确挑选GPU服务器?
挑选GPU服务器时最先要考虑到业务要求来挑选合适的GPU型号规格。在HPC性能卓越计算中还必须依据精密度来挑选，例如有的性能卓越计算必须双精度，这时候假如应用RTX4090或是RTX A6000就不适合，只有应用H100或是A100；另外也会对显存容量有要求，例如石油或石化勘查类的计算运用对显卡内存要求较为高；还有一些对系统总线规范有要求，因而挑选GPU型号规格要首先看业务要求。
当GPU型号规格选中后，再考虑到用哪些GPU的服务器。这时候大家必须考虑到下列几类状况：
1.考虑到服务器的应用情景，例如遥感图像、生物信息、机器视觉、大数据等不同场景、科研方向和环境，必须考虑其应用情景等。
2.必须考虑到顾客自身应用群体和IT运维能力，针对BAT这类大企业而言，他们自己的经营能力较为强，这时候会挑选通用性的PCI-e服务器；而针对有些IT运维能力不那麼强的顾客，她们更关心数据及其数据标注等，大家称这类人为大数据工程师，挑选GPU服务器的规范也会各有不同。
3.必须考虑到配套设施应用软件和服务的使用价值。
4.要考虑到总体GPU群集系统软件的完善水平及其工程项目高效率，例如像DGX这类GPU一体化的非常计算机，它有十分完善的从底端电脑操作系统驱动器Docker到别的一部分全是固定不动且提升过的，这时候高效率就较为高。
GPU服务器的种类有哪些？
对GPU服务器的分类，首先需要确定一个角度(维度)来对GPU服务器做分类。
1、按GPU服务器外形分类。 分为塔式GPU服务器、机架式GPU服务器
1）塔式GPU服务器
塔式GPU服务器机箱比较大，服务器的配置也可以很高，冗余扩展更可以很齐备，所以它的应用范围非常广，应该说使用率最高的一种服务器就是塔式服务器。我们平时常说的通用服务器一般都是塔式服务器，它可以集多种常见的服务应用于一身，不管是速度应用还是存储应用都可以使用塔式服务器来解决。成本低于机架、刀片服务器。由于机箱较大，具备良好的扩展能力和散热性能，可以配置多路处理器、多根内存、多块硬盘、多个冗余电源和散热风扇。
2）机架式服务器
外形看不像计算机，而像交换机，有1U（1U=1.75英寸=4.445cm）、2U、4U等规格。机架式服务器安装在标准的19英寸机柜里面。该结构多为功能型服务器。
对于信息服务企业（如ISP/ICP/ISV/IDC）而言，选择服务器时首先要考虑服务器的体积、功耗、发热量等物理参数，因为信息服务企业通常使用大型专用机房统一部署和管理大量的服务器资源，机房通常设有严密的保安措施、良好的冷却系统、多重备份的供电系统，其机房的造价相当昂贵。
如何在有限的空间内部署更多的服务器直接关系到企业的服务成本，通常选用机械尺寸符合19英寸工业标准的机架式服务器。
机架式服务器也有多种规格，例如1U（4.445cm高）、2U、4U、6U、8U等。通常1U的机架式服务器最节省空间，但性能和可扩展性较差，适合一些业务相对固定的使用领域。4U以上的产品性能较高，可扩展性好，一般支持4个以上的高性能处理器和大量的标准热插拔部件。管理也十分方便，厂商通常提供相应的管理和监控工具，适合大访问量的关键应用，但体积较大，空间利用率不高。
2、按GPU服务器接口进行分类
目前市面上可以进行交付的主要是传统PCI-e总线和NV-Link接口。
1）NV-Link总线技术标准GPU服务器
NV-Link接口GPU的典型代表是NVIDIA V100，采用SXM2接口。DGX 2上有一个SXM3的接口。具有NV-Link总线标准的GPU服务器可以分为两类：一类是英伟达设计的DGX超级计算机，另一类是英伟达合作伙伴设计的具有NV-Link接口的服务器。DGX超级计算机不仅提供硬件，还提供相关的软件和服务。
2）传统PCI-e数据总线GPU服务器
传统PCI-e总线GPU服务器分为两类，一类是OEM服务器，如曙光、浪潮、华为、风虎等国产知名品牌；另一类是非OEM服务器，也包括很多种。
3、按服务器环境分类
加固GPU服务器 也叫抗恶劣环境GPU服务器。一般是指在特殊的环境下工作的GPU服务器，如：车载GPU服务器、弹载GPU服务器、机载GPU服务器、船舶GPU服务器等特殊行业应用。不同应用行业、不同应用环境下的GPU服务器应用指标也不相同。一般来说车载GPU服务器最重要的技术指标是高低温指标，机载GPU服务器最重要的技术指标是震动指标（冲击震动或均速震动），船舶GPU服务器最重要的技术指标是三防指标（盐、雾、霜），弹载GPU服务器要求的技术指标是就更全面啦！生产厂商几乎都是国家队如：706、716、909等。
4、按GPU散热分类
液冷GPU服务器和水冷GPU服务器最大的不同点是散热的方式不同。水冷服务器散热方式是水（水的热效比目前是优于液体的热效比），但水有导电的通用性，所以水冷服务器目前还没有在市上大量应用，液冷GPU服务器则不同，液冷GPU服务器是综合热效比、导热比、可靠性等各项指标技术的综合性技术的产物。最大的特点就是静音、节能35%。目前生产厂商有如：风虎云龙TL45、阿里、百度、字节跳动（正在研发中）等。
5、按CPU品牌分类
按照GPU品牌类型可分为Intel 处理器的GPU服务器、AMD 处理器的 GPU服务器或者ARM芯片的GPU服务器等。
6、按应用场景分类
按照应用场景可将GPU服务器分为图形加速GPU服务器(如视频编解码)、AI训练 GPU服务器、AI推理GPU服务器、科学计算GPU服务器。
