YASKAWA JANCD-MMM01  

YASKAWA JANCD-MMM01

FPGA，即现场可编程门阵列，它是在 PAL、GAL、CPLD 等可编程器件的基础上进一步发展的产物。FPGA 芯片主要由 6 部分完成，分别为：可编程输入输出单元、基本可编程逻辑单元、完整的时钟管理、嵌入块式 RAM、丰富的布线资源、内嵌的底层功能单元和内嵌专用硬件模块。

FPGA 还具有静态可重复编程和动态在系统重构的特性，使得硬件的功能可以像软件一样通过编程来修改。FPGA能完成任何数字器件的功能，甚至是高性能 CPU 都可以用 FPGA 来实现。

FPGA 拥有大量的可编程逻辑单元，可以根据客户定制来做针对性的算法设计。除此以外，在处理海量数据的时候，FPGA 相比于 CPU 和 GPU，独到的优势在于：FPGA 更接近 IO。换句话说，FPGA是硬件底层的架构。

比如，数据采用 GPU 计算，它先要进入内存，并在 CPU 指令下拷入 GPU 内存，在那边执行结束后再拷到内存被 CPU 继续处理，这过程并没有时间优势；

虽然 FPGA 的频率一般比 CPU 低，但 CPU 是通用处理器，做某个特定运算（如信号处理，图像处理）可能需要很多个时钟周期，而 FPGA 可以通过编程重组电路，直接生成专用电路，加上电路并行性，可能做这个特定运算只需要一个时钟周期。

比如一般 CPU 每次只能处理 4 到 8 个指令，在 FPGA 上使用数据并行的方法可以每次处理 256 个或者更多的指令，让FPGA可以处理比CPU多很多的数据量。

举个例子，CPU 主频 3GHz，FPGA主频 200MHz，若做某个特定运算 CPU 需要 30 个时钟周期，FPGA 只需一个，则耗时情况：CPU：30/3GHz ＝10ns；FPGA：1/200MHz ＝5ns。可以看到，FPGA 做这个特定运算速度比 CPU 块，能帮助加速。

北京大学与加州大学的一个关于 FPGA 加速深度学习算法的合作研究。展示了 FPGA 与 CPU 在执行深度学习算法时的耗时对比。在运行一次迭代时，使用 CPU 耗时 375 毫秒，而使用 FPGA 只耗时 21 毫秒，取得了18倍左右的加速比。

FPGA 相对于 CPU 与 GPU 有明显的能耗优势，主要有两个原因。首先，在 FPGA 中没有取指令与指令译码操作， 在 Inb 的 CPU 里面，由于使用的是 CISC 架构，仅仅译码就占整个芯片能耗的 50%；

在 GPU 里面，取指令与译码也消耗了 10%～20%的能耗。其次，FPGA 的主频比 CPU 与 GPU 低很多，通常 CPU 与 GPU 都在 1GHz 到 3GHz 之间，而 FPGA 的主频一般在 500MHz 以下。如此大的频率差使得 FPGA 消耗的能耗远低于 CPU 与 GPU。

FPGA与CPU在执行深度学习算法时的耗能对比。在执行一次深度学习运算，使用 CPU 耗能 36 焦，而使用 FPGA 只耗能 10 焦，取得了 3.5 倍左右的节能比。通过用 FPGA 加速与节能，让深度学习实时计算更容易在移动端运行。

相比CPU和GPU，FPGA 凭借比特级细粒度定制的结构、流水线并行计算的能力和高效的能耗，在深度学习应用中展现出独特的优势，在大规模服务器部署或资源受限的嵌入式应用方面有巨大潜力。此外，FPGA 架构灵活，使得研究者能够在诸如 GPU 的固定架构之外进行模型优化探究。

5、ASIC简介

ASIC（专用集成电路），是指应特定用户要求或特定电子系统的需要而设计、制造的集成电路。严格意义上来讲，ASIC 是一种专用芯片，与传统的通用芯片有一定的差异。是为了某种特定的需求而专门定制的芯片。

ASIC 作为集成电路技术与特定用户的整机或系统技术紧密结合的产物，与通用集成电路相比，具有以下几个方面的优越性：体积更小、功耗更低、可靠性提高、性能提高、保密性增强、成本降低。回到深度学习最重要的指标：算力和功耗。我们对比 NVIDIA 的 GK210 和某 ASIC 芯片规划的指标，如下所示：

从算力上来说，ASIC 产品的计算能力是 GK210 的 2.5 倍。第二个指标是功耗， 功耗做到了 GK210 的 1/15。第三个指标是内部存储容量的大小及带宽。这个内部 MEMORY 相当于 CPU 上的 CACHE。

深度雪地的模型比较大，通常能够到几百 MB 到 1GB 左右，会被频繁的读出来，如果模型放在片外的 DDR 里边，对 DDR 造成的带宽压力通常会到 TB/S 级别。

全定制设计的ASIC，因为其自身的特性，相较于非定制芯片，拥有以下几个优势：

同样工艺，同样功能，第一次采用全定制设计性能提高 7.6 倍

普通设计，全定制和非全定制的差别可能有 1～2 个数量级的差异

采用全定制方法可以超越非全定制 4 个工艺节点（采用 28nm 做的全定制设计，可能比 5nm 做的非全定制设计还要好）我们认为，ASIC 的优势，在人工智能深度学习领域，具有很大的潜力。

ASIC 在人工智能深度学习方面的应用还不多，但是我们可以拿矿机芯片的发展做类似的推理。挖矿和人工智能深度学习有类似之处，都是依赖于底层的芯片进行大规模的并行计算。而 ASIC 在挖矿领域，展现出了得天独厚的优势。

矿机的芯片经历了四个阶段：CPU、GPU、FPGA 和 ASIC。ASIC 芯片是专为挖矿量身定制的芯片，它将 FPGA 芯片中在挖矿时不会使用的功能去掉，与同等工艺的 FPGA 芯片相比执行速度块，大规模生产后的成本也要低于 FPGA 芯片。

从 ASIC 在挖矿机时代的发展历史，可以看出 ASIC 在专用并行计算领域所具有的得天独厚的优势：算力高，功耗低，价格低，专用性强。谷歌最近曝光的专用于人工智能深度学习计算的TPU、其实也是一款 ASIC。

YASKAWA JANCD-MMM01