在人工智能浪潮下，越来越多的科研机构、企业

从事深度学习研究

随着大量的新进入者进入这个行业

“如何选择深度学习服务器”

经常被用户提及吗

那么这个问题究竟如何解决呢？

首先，我们知道深度学习服务器的重要组成部分是CPU、内存、硬盘、GPU和算法。此外，每个组件都有其需要关注的主要参数：

记忆我们要注意它的容量和频率

查看硬盘的带宽、IOPS、容量和协议

让我们注意它的CUDA核心，张量核心，显存，浮点计算能力和GPU -GPU带宽

我们应该注意它是CNN, RNN，还是其他类似算法的网络

接下来，我们来看一下深度学习的计算过程，具体步骤如下：

1. 数据传输

2. 数据预处理

3.数据从存储器复制到显存并计算

4. 数据结果返回到内存

5. 数据保存

了解了深度学习计算过程和深度学习服务器的主要组成部分，那么这些服务器组件在深度学习计算中扮演着怎样的角色呢？

GPU进行深度学习的效率很高，需要频繁地检索数据进行计算。因此，磁盘的读写操作频繁，对磁盘的IOPS要求也更高。

所以我们在选择NVMe SSDSATA SSD机械硬盘的时候

数据调入时

CPU频率越高，图像生成速度越快。多核只能增加数据流处理能力，在数据量较小的情况下影响不大。

因此，我们更喜欢高CPU频率。

数据预处理时

主要涉及从内存到GPU的数据传输和计算能力。此时，瓶颈一般是GPU的计算能力。我们可以通过增加gpu的数量来提高整体的并行计算能力。

算法

该算法定义了深度学习神经网络的执行层(输入层、卷积层、激活层、池化层、全连接层)。

模型根据算法结构定义各层之间的连接，不同的模型对应不同的连接层

框架是模型的执行主体，不同的框架有不同的执行深度学习模型的方式

目前，算法网络主要采用CNN和RNN:

CNN网络的特点：计算量大，但可以有效地并行分割问题

CNN硬件配置：计算能力显存(显存不够卡采集)

RNN网络特点：计算量大，需要大量内存(视频内存)，防止执行过程中数据溢出

RNN硬件配置：显存(单卡不够共享采集)计算能力

最后老板

在选择深度学习服务器时，预算是我们无法回避的问题。那么我们如何在有限的预算下做出配置选择呢？记住以下原则：

GPU SSD内存CPU

CPU主频CPU核心