在卷積神經網絡（CNN）中，卷積層一般主要使用同一組權重，從而形成 a x w 和 b x w 類型的并行MACC 運算。因此除輸入共享外，還可以使用權重共享（見圖 7）。

圖 7 ：權重共享和輸入共享比較

創建 INT8 鏈接 MACC 的其他方法
INT8 MACC 還能用 FPGA 架構內與 DSP Slice 頻率近似的 LUT 來構建。根據 FPGA 的使用情況，這可以顯著提升深度學習性能，在某些情況下性能可提升三倍之多。許多情況下相對于其他非 FPGA 架構而言，在計算可用深度學習運算時這些可用的計算資源并未考慮在內。

賽靈思 FPGA 中的編程架構是獨有的，因為它能并行且高效地處理多樣化工作負載。例如賽靈思 FPGA能并行執行 CNN 圖像分類、網絡加密和數據壓縮。我們的深度學習性能競爭分析并未將 MACC LUT 考慮在內，因為一般 LUT 用于執行 MACC 功能比用于執行其他并行功能時更有價值。

競爭分析

在本競爭分析中，將英特爾（前 Altera）的 Arria 10 和即將推出的 Stratix 10 器件與賽靈思的 Kintex UltraScale 和 Virtex UltraScale+ 進行了對比。對這種高計算強度的比較，選擇的器件均為每個產品系列中 DSP 密度最高的器件：Arria 10 (AT115)、Stratix 10 (SX280)、Kintex UltraScale (KU115)、Virtex UltraScale+ (VU9P) 和 Virtex UltraScale+ (VU13P) 器件。比較的重點是能用于包括深度學習在內的眾多應用的通用 MACC 性能。

英特爾的 MACC 性能基于運用預加法器的算子。但是這種實現方案產生的是乘積項和非唯一單獨乘積項之和，因此英特爾的預加法器不適用于深度學習運算。

英特爾器件的功耗使用英特爾的 EPE 功耗估算工具估算，并假設在以下最壞情況下：
1. 在最大頻率 (FMAX) 下 DSP 利用率為 90%
2. 時鐘速率為 DSP FMAX 時邏輯利用率為 50%
3. 時鐘速率為 DSP FMAX 的一半時,block RAM 利用率為 90%
4. 4 個 DDR4 和 1 個 PCIe Gen3 x 8
5. DSP 觸發率為 12.5%
6. 80°TJ

圖 8 所示為深度學習運算的能效比較。憑借 INT8 優化，賽靈思 UltraScale 和 UltraScale+ 器件在 INT8精度上相比 INT16 運算（KU115 INT16/KU115 INT8）能效提升 1.75 倍。與英特爾的 Arria 10 和 Stratix 10器件相比，賽靈思器件在深度學習推斷運算上能效高出 2-6 倍。

圖 8 ：INT8 深度學習能效對比：賽靈思對比英特爾

結論
本白皮書探討了如何在賽靈思 DSP48E2 Slice 上優化 INT8 深度學習運算，從而實現 1.75 倍的性能提升。賽靈思 DSP48E2 Slice 可用于在共享相同內核權重的同時實現并行 INT8 MACC。為高效地實現 INT, 需要采用 24 位輸入寬度，這項優勢只有賽靈思 UltraScale 和 UltraScale+ FPGA DSP Slice 能夠提供支持。賽靈思非常適合用于深度學習應用中的 INT8 工作負載（例如圖像分類）。賽靈思不斷創新新的基于軟/硬件的方法，以加快深度學習應用的發展。

如需了解有關數據中心深度學習的更多信息，敬請訪問： https://china.xilinx.com/accelerationstack

參考資料
1. 1.Dettmers, 8-Bit Approximations for Parallelism in Deep Learning, ICLR 2016
https://arxiv.org/pdf/1511.04561.pdf
2. Gysel et al, Hardware-oriented Approximation of Convolutional Neural Networks, ICLR 2016
https://arxiv.org/pdf/1604.03168v3.pdf
3. Han et al, Deep Compression:Compressing Deep Neural Networks With Pruning, Trained Quantization And Huffman Coding, ICLR 2016
https://arxiv.org/pdf/1510.00149v5.pdf
4. Rosenblatt, F., The Perceptron:A Probabilistic Model for Information Storage and Organization in the Brain, Psychological Review, Vol. 65, No. 6, 1958