不是CPU不能做深度学习，而是不够快。但是CPU的好处是不需要买很贵的显卡。深度学习需要强大的浮点计算能力。NVIDIA近年来的计算卡中有TensorCore。它执行特殊的矩阵数学运算，适用于深度学习和HPC任务负载。在深度学习、人工智能、高性能计算领域，有NVIDIATensorCoreGPU(A100、A30等。)，包括以前的特斯拉格普。
为什么深度学习要自己买显卡，直接用超算不香吗？
这个问题就涉及到cpu与gpu的问题了，他们运算有什么区别呢？CPU需要很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂，而GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。GPU采用了数量众多的计算单元和超长的流水线，但只有非常简单的控制逻辑并省去了Cache，
而CPU不仅被Cache占据了大量空间，而且还有有复杂的控制逻辑和诸多优化电路，相比之下计算能力只是CPU很小的一部分。所以与CPU擅长逻辑控制和通用类型数据运算不同，GPU擅长的是大规模并发计算，这也正是深度学习等所需要的，所以GPU除了图像处理和深度学习，也越来越多的参与到计算当中来。简单来说就是cpu什么都是做，但是慢，
为什么有企业会选择用cpu做深度学习？
CPU不是不能做深度学习，而是速度不够快，但是CPU的好处是不需要购买价格昂贵的显卡。CPU不适合做深度学习一个重要原因是因为并行单元数量太少，因此在并行计算领域CPU几乎是处于完全的劣势，但是借助Intel新的CPU架构以及MKL加速库，还是可以做到在一些轻量化模型上面的提速，而且使用CPU做深度学习的公司，是很模糊的一个概念，做深度学习分为两个部分，训练和推理，如果是做训练的话，因为数据吞吐量巨大，那么GPU肯定拥有巨大的优势，但是只是做推理的话，虽然GPU会有一部分速度上的优势，但是并不会有那么明显，一般推理只是会处理单一请求单一输入情况下的AI运算，所以CPU做深度学习推理完全是可能的。
挖矿，深度学习，游戏，3D建模都需要显卡的什么性能，如何选？
NVIDIAGPU一般可以按照应用场景领域来进行分类：专业设计视觉可视化领域，有NVIDIARTX以及NVIDIAQuadro系列显卡，涉及到三维软件建模渲染以及仿真模拟等，需要强大的图形能力，专业显卡对于主流的3D软件有针对性的驱动优化，所以一般建议专业设计人员选择NVIDIARTX及Quadro专业显卡。
在深度学习、人工智能、高性能计算领域，有NVIDIATensorCoreGPU(A100、A30等。)，包括以前的特斯拉格普。深度学习需要强大的浮点计算能力。近年来，英伟达的计算卡有TensorCore核心，执行特殊的矩阵数学运算，适用于深度学习和HPC任务负载。一般消费娱乐指的是NVIDIAGeForce系列GPU。
文章TAG：为什么深度学习用显卡 显卡 超算 不香 深度 学习
