2 可不可以不要流水線——流水線和狀態機的關系

言及處理器微架構，幾乎必談流水線。那么，我們能否挑戰一下權威提出一個有意思的問題：處理器難道就一定需要流水線嗎？可否不要流水線呢？

在回答這個問題之前，我們先探討下流水線的本質：

流水線并不限于處理器設計，在所有的ASIC電路實現中都廣泛采用流水線的思想。流水線本質上可以理解為是一種以面積換性能（Trade Area for Performance）、以空間換時間（Trade Space for Timing）的手段。

譬如，以5級流水線為例，其增加了5組寄存器，每一個流水線級數內部都有各自的組合邏輯數據通路，彼此之間沒有復用資源，因此，其面積開銷是比較大的，但是由于可以讓不同的流水線級數同時做不同的事情，而達到流水的效果，提高了性能，優化了時序，增加了吞吐率。

與流水線相對應的另外一種策略是狀態機，狀態機是流水線的“取反”，同樣在所有的ASIC電路實現中都廣泛采用。狀態機本質上可以理解為是一種以性能換面積（Trade Performance for Area）、以時間換空間（Trade Timing for Space）的手段。

“流水線”和“狀態機”的關系，還有一種說法稱之為“展開”和“折疊”的關系。本質上都是一種電路設計時，選擇側重時間（性能）還是空間（面積）的一種取舍。

通過上述分析，假設處理器不采用流水線，而是使用一個狀態機來完成，則需要多個時鐘周期才能完成一條指令的所有操作，每個時鐘周期完成狀態機的一個狀態（譬如分別為取指、譯碼、執行、訪存和寫回）。通過使用狀態機，可以省掉上述流水線中的寄存器開銷，還可以復用組合邏輯數據通路，因此面積開銷比較小，但是每條指令都需要5個周期才能完成，吞吐率和性能很差。

談及此處，就不得不提及8位單片機時代的傳奇老炮兒8051內核，早期原始的8051內核微架構就是采用了類似狀態機的實現方式而不是流水線。因此，回到最開始我們提出的問題，處理器可否不要流水線，答案是：當然可以，傳奇老炮兒8051內核就沒有流水線。

所以說從功能能上來講，處理器完全可以不使用流水線，而使用狀態機的方式來實現，只不過由于這種方式性能比較差，在現代處理器設計中比較罕見而已。

3 深處種菱淺種稻，不深不淺種荷花——流水線的深度

流水線的級數（又稱深度）多少最好呢？要回答這個問題，就需要了解流水線的深淺各自的優劣。此處有一個常見面試題，題目便是：處理器的流水線是否越深越好？在此我們給出答案：

早期的經典流水線是5級流水線，分別為取指、譯碼、執行、訪存和寫回。現代的處理器往往具有極深的流水線級數，譬如高達十幾級，或者二十幾級的深度。流水線就像一根黃瓜，切五刀下去得到的每一截長度和切二十到下去得到的每一截長度肯定是不一樣的。當流水線的級數越多，那么意味著流水線被切的很細，每一級流水線內容納的硬件邏輯便越少，熟悉數字同步電路設計的讀者應該比較熟悉，在兩級寄存器（每一級流水線由寄存器組成）之間的硬件邏輯越少，則意味能夠運行到更高的主頻。因此現代的處理器流水線極深主要是由于處理器追求高頻的指標所驅使，高端的ARM Cortex-A系列由于有十幾級的流水線，所以能夠運行到高達2GHz的主頻，而Intel的x86處理器甚至采用幾十級的流水線深度將主頻推到3-4GHz的高度。主頻越高也意味著流水線的吞吐率越高從而性能越高，這是流水線加深的正面意義。

由于每一級流水線都由寄存器組成，那么意味著更多的流水線級數要消耗更多的寄存器，也意味著更多的面積開銷。這是流水線加深的負面意義。

同時流水線越深，由于每一級流水線需要進行握手，流水線最后一級的反壓信號可能會一直串擾到最前一級造成嚴重的時序問題，需要使用一些比較高級的技巧來解決此類反壓時序問題。這是流水線加深的負面意義。

較深的處理器流水線還有一個問題，由于在流水線的取指令階段無法得知條件跳轉的結果是跳還是不跳，因此只能進行預測，而到了流水線的末端才能夠通過實際的運算得知該分支是真的該跳還是不該跳，如果發現真實的結果（譬如該跳）與之前預測的結果（譬如預測為不跳）不相符，則意味著預測失敗，需要將所有預取的錯誤指令流全部丟棄掉，而重新取正確的指令流，這個過程叫做流水線沖刷（Pipeline Flush），雖然可以使用分支預測器來保證前期的分支預測盡可能的準確，但是也無法做到萬無一失。那么，流水線的深度越深，則意味著已經預取了很多的錯誤指令流，需要將其全部拋棄然后重啟，不僅白白的浪費了功耗，還造成了性能的損失。流水線越深則意味著浪費和損失越嚴重，流水線越淺則浪費和損失越少。這是流水線加深的另一個主要的負面意義。

綜上，所謂深處種菱淺種稻，不深不淺種荷花，流水線的不同深度皆有其優缺點，需要根據不同的應用背景合理地進行選擇。

由于處理器流水線深淺的不同優劣，根據不同的應用場景，當今處理器的流水線深度在向著兩個不同的極端發展，一方面級數越來越深，另一方面又越來越淺，下面我們結合不同的商用處理器例子予以探討。