1 引言
在RISC CPU的設計當中,轉移指令的處理對處理器的性能的影響非常關鍵。轉移指令決定著程序的執行順序,在程序中的使用頻率很高。RISC CPU中程序是以流水線的方式執行的,當程序順序執行時,下一條指令的地址與前一條指令的內容無關 ;而在執行轉移指令時要根據轉移指令的執行結果來確定下一條指令的地址,也就是說下一條指令的地址在轉移指令執行之前是未知的,造成流水線的不連貫,影響了CPU的效率。
轉移指令處理的方法很多,可分為預測法和非預測法,預測法又包含靜態預測和動態預測,靜態預測如總預測跳轉、正向不跳轉反向跳轉,動態預測如2比特計數器(2BC) 、BTC;非預測法如延時跳轉等[1]。這些基本方法合理組合之后可以得到很好的效果。
本文介紹的RISC CPU對轉移指令的處理方法,為5級流水線作業,分別是取指、譯碼、執行、訪存、回寫,對轉移指令的處理在取指級和譯碼級完成;譯碼級給出轉移指令所包含的詳細信息,取指級包含有地址計算單元,轉移目標Cache (BTC),跳轉判斷單元等。對轉移指令的處理使用了延時跳轉、2BC以及BTC方法。
2 轉移指令的原理
該RISC CPU的指令集中包含有條件轉移指令和非條件轉移指令。所有的轉移指令均使用延時轉移,每條轉移指令后面跟隨一條延時槽指令;采用2BC預測條件轉移是否跳轉,而BTC則保存轉移目標為固定地址的轉移指令執行后的信息。以下分別介紹在該RISC CPU設計中轉移指令的設計以及延時轉移、BTC、2BC的具體實現方法。
2.1 轉移指令類型及格式
該RISC CPU的指令集中包含條件轉移指令(BCC)和非條件轉移指令(CALL和RET),其編碼格式為圖1所示。CALL指令包含2位的操作碼和30位的絕對地址。BCC指令包含8位操作碼, 4位條件碼(Condition Code),19位偏移量以及1位用來區分指令是否帶A參數(即ANNUL操作)。所有的BCC指令使用相同的操作碼,不同的BCC指令用條件碼來區分,共有16類BCC指令;偏移量為帶符號數,在低位用00擴展后可以對±220的相對地址尋址。RET指令包含8位的操作碼和兩個5位的寄存器地址。
2.2 延時轉移
在該RISC CPU中,由于轉移指令只有在譯碼級才被識別,跳轉與否在譯碼級才能決定,因此在取下一條指令之前必須等待一個時鐘周期。為了減少流水線中的氣泡,緊跟轉移指令后面插一條與跳轉不相關的指令,即延時槽指令,不管跳轉是否發生,該指令都執行。延時槽指令的插入由編譯器完成,當編譯器找不出這樣的指令時,就插一條NOP指令。考慮到減輕編譯器的難度,我們也采用了帶 A參數的轉移:當指令帶有A參數時,延時槽指令從轉移目標程序中取出,因此轉移發生時,延時槽指令執行,而轉移不發生時,則禁止延時槽指令進入譯碼級。因一般而言非條件轉移指令出現的頻率遠低于條件轉移指令出現的頻率,非條件轉移指令的延時槽指令相對來說容易找到,所以非條件轉移指令不采用A參數選項,而條件轉移指令采用A參數選項。
2.3 2BC與BTC的設計
2BC與BTC對提高轉移指令的執行效率起重要的作用。在RISC CPU中,轉移指令執行一次后,有很大的概率會執行更多次。對于轉移目標為固定地址的轉移指令(BCC和CALL),在其第一次執行時使用BTC存儲相關的信息,當再次執行時,直接讀出這些信息,控制程序的執行順序,而不需要轉移指令本身進流水線。這可大大提高效率,但對于轉移目標不確定的間接轉移指令(如RET),BTC是無效的。另外,條件轉移指令(BCC)是否跳轉也是不確定的,本設計中采用2BC進行預測。
BTC為全相聯Cache,總共有16個單元,每個單元包含的信息有:TAG存儲執行過的轉移指令的地址、DI存儲延時槽指令、CC存儲條件碼、TP 存儲轉移指令類型、AN存儲A參數攜帶標志,HI存儲轉移執行情況的歷史記錄,即2BC,VI指示行數據是否有效。BTC包含BTC存儲、BTC命中以及BTC檢查三種工作任務。以下分別介紹2BC以及每種任務下BTC的工作情況。
2.3.1 2BC的作用及工作原理
因為轉移指令執行一次之后,轉移目標地址、延時槽指令都保存在BTC中了,當該指令再次執行時,這些信息就直接從Cache讀出,因此在取指級就可以得到跳轉目標地址和延時槽指令。對于非條件轉移指令,跳轉總是執行,因此BTC命中時就可以直接決定下一條指令的地址為轉移目標地址,而當前周期DI被送到指令總線上;但對于條件轉移指令,跳轉與否是根據條件碼和ALU的標志位來決定的。如果轉移指令前面一條指令的執行結果改變標志位,而當BTC命中時該指令還在譯碼級,則跳轉與否需要等待一個時鐘周期才能決定。為了避免因為等待而造成流水線的停頓,采用2BC當前的狀態預測跳轉是否執行,在接下來的時鐘周期,標志位有效之后,再檢查預測是否正確,如果不正確,就進行更正。當預測準確時,采用2BC 與BTC可以使轉移指令的執行時間縮短一個周期。即使預測不準確,與不采用預測相比也不會有損失。2BC的工作原理如圖2所示,初始值為Nx(第一次不跳轉執行)或Tx(第一次跳轉執行),t表示跳轉執行,n表示跳轉不執行。當HI為N或Nx時,預測跳轉不發生;當HI為T或Tx時,預測跳轉發生。
2.3.2 BTC存儲
當轉移指令第一次執行時,BTC在當前時鐘啟動存儲任務,把該指令執行的信息寫入對應的單元中,對于BCC指令,確定2BC的初始狀態。同時也把該行的VI置為有效。BTC采用隨機替換策略確定數據入口:在復位或Cache清零之后,按順序填充Cache,如果BTC寫滿,則隨機選通一行進行替換。
2.3.3 BTC命中
在取指周期開始時如果發現當前取指地址包含在BTC的TAG中,并且對應行的VI也有效,則認為BTC命中,從而啟動命中任務:讀出命中行的數據,把DI送到指令總線,如果是CALL指令,轉移目標地址作為下一條指令的地址;如果是BCC 指令則需要判斷跳轉是否發生:當標志位有效時,根據條件碼與標志位判斷,否則根據HI進行預測,然后確定下一條指令的地址:跳轉時為轉移目標地址,不跳轉為PC+2。對于帶A參數的BCC指令,在跳轉不執行時,要禁止DI在下一時鐘進入譯碼級。BTC命中的流程如圖3。
2.3.4 BTC檢查
如果前一周期BTC命中,則在當前周期開始時啟動BTC檢查任務;如果前一周期BTC是根據HI預測BCC的跳轉,那么在當前時鐘標志位有效后,要重新判斷跳轉決定是否正確,如果不正確就要進行更正,給出正確的取指地址,請求在下一時鐘禁止譯碼級或執行級。同時還要根據最終的跳轉情況和HI的更新算法更新HI。BTC檢查的流程圖如圖4。
3 結論
整個RISC CPU用Verilog HDL語言進行了描述,并針對標準程序進行了仿真,仿真結果表明,采用上述方法處理轉移指令可以明顯提高流水線的吞吐率。由于在轉移指令后面插入了延時槽指令,轉移指令的執行與程序順序執行時完全相同; BTC的使用雖然在硬件上增加了一些開銷,但使轉移指令再次執行時基本不占用流水線資源,大大提高了CPU的效率
在RISC CPU的設計當中,轉移指令的處理對處理器的性能的影響非常關鍵。轉移指令決定著程序的執行順序,在程序中的使用頻率很高。RISC CPU中程序是以流水線的方式執行的,當程序順序執行時,下一條指令的地址與前一條指令的內容無關 ;而在執行轉移指令時要根據轉移指令的執行結果來確定下一條指令的地址,也就是說下一條指令的地址在轉移指令執行之前是未知的,造成流水線的不連貫,影響了CPU的效率。
轉移指令處理的方法很多,可分為預測法和非預測法,預測法又包含靜態預測和動態預測,靜態預測如總預測跳轉、正向不跳轉反向跳轉,動態預測如2比特計數器(2BC) 、BTC;非預測法如延時跳轉等[1]。這些基本方法合理組合之后可以得到很好的效果。
本文介紹的RISC CPU對轉移指令的處理方法,為5級流水線作業,分別是取指、譯碼、執行、訪存、回寫,對轉移指令的處理在取指級和譯碼級完成;譯碼級給出轉移指令所包含的詳細信息,取指級包含有地址計算單元,轉移目標Cache (BTC),跳轉判斷單元等。對轉移指令的處理使用了延時跳轉、2BC以及BTC方法。
2 轉移指令的原理
該RISC CPU的指令集中包含有條件轉移指令和非條件轉移指令。所有的轉移指令均使用延時轉移,每條轉移指令后面跟隨一條延時槽指令;采用2BC預測條件轉移是否跳轉,而BTC則保存轉移目標為固定地址的轉移指令執行后的信息。以下分別介紹在該RISC CPU設計中轉移指令的設計以及延時轉移、BTC、2BC的具體實現方法。
2.1 轉移指令類型及格式
該RISC CPU的指令集中包含條件轉移指令(BCC)和非條件轉移指令(CALL和RET),其編碼格式為圖1所示。CALL指令包含2位的操作碼和30位的絕對地址。BCC指令包含8位操作碼, 4位條件碼(Condition Code),19位偏移量以及1位用來區分指令是否帶A參數(即ANNUL操作)。所有的BCC指令使用相同的操作碼,不同的BCC指令用條件碼來區分,共有16類BCC指令;偏移量為帶符號數,在低位用00擴展后可以對±220的相對地址尋址。RET指令包含8位的操作碼和兩個5位的寄存器地址。
2.2 延時轉移
在該RISC CPU中,由于轉移指令只有在譯碼級才被識別,跳轉與否在譯碼級才能決定,因此在取下一條指令之前必須等待一個時鐘周期。為了減少流水線中的氣泡,緊跟轉移指令后面插一條與跳轉不相關的指令,即延時槽指令,不管跳轉是否發生,該指令都執行。延時槽指令的插入由編譯器完成,當編譯器找不出這樣的指令時,就插一條NOP指令。考慮到減輕編譯器的難度,我們也采用了帶 A參數的轉移:當指令帶有A參數時,延時槽指令從轉移目標程序中取出,因此轉移發生時,延時槽指令執行,而轉移不發生時,則禁止延時槽指令進入譯碼級。因一般而言非條件轉移指令出現的頻率遠低于條件轉移指令出現的頻率,非條件轉移指令的延時槽指令相對來說容易找到,所以非條件轉移指令不采用A參數選項,而條件轉移指令采用A參數選項。
2.3 2BC與BTC的設計
2BC與BTC對提高轉移指令的執行效率起重要的作用。在RISC CPU中,轉移指令執行一次后,有很大的概率會執行更多次。對于轉移目標為固定地址的轉移指令(BCC和CALL),在其第一次執行時使用BTC存儲相關的信息,當再次執行時,直接讀出這些信息,控制程序的執行順序,而不需要轉移指令本身進流水線。這可大大提高效率,但對于轉移目標不確定的間接轉移指令(如RET),BTC是無效的。另外,條件轉移指令(BCC)是否跳轉也是不確定的,本設計中采用2BC進行預測。
BTC為全相聯Cache,總共有16個單元,每個單元包含的信息有:TAG存儲執行過的轉移指令的地址、DI存儲延時槽指令、CC存儲條件碼、TP 存儲轉移指令類型、AN存儲A參數攜帶標志,HI存儲轉移執行情況的歷史記錄,即2BC,VI指示行數據是否有效。BTC包含BTC存儲、BTC命中以及BTC檢查三種工作任務。以下分別介紹2BC以及每種任務下BTC的工作情況。
2.3.1 2BC的作用及工作原理
因為轉移指令執行一次之后,轉移目標地址、延時槽指令都保存在BTC中了,當該指令再次執行時,這些信息就直接從Cache讀出,因此在取指級就可以得到跳轉目標地址和延時槽指令。對于非條件轉移指令,跳轉總是執行,因此BTC命中時就可以直接決定下一條指令的地址為轉移目標地址,而當前周期DI被送到指令總線上;但對于條件轉移指令,跳轉與否是根據條件碼和ALU的標志位來決定的。如果轉移指令前面一條指令的執行結果改變標志位,而當BTC命中時該指令還在譯碼級,則跳轉與否需要等待一個時鐘周期才能決定。為了避免因為等待而造成流水線的停頓,采用2BC當前的狀態預測跳轉是否執行,在接下來的時鐘周期,標志位有效之后,再檢查預測是否正確,如果不正確,就進行更正。當預測準確時,采用2BC 與BTC可以使轉移指令的執行時間縮短一個周期。即使預測不準確,與不采用預測相比也不會有損失。2BC的工作原理如圖2所示,初始值為Nx(第一次不跳轉執行)或Tx(第一次跳轉執行),t表示跳轉執行,n表示跳轉不執行。當HI為N或Nx時,預測跳轉不發生;當HI為T或Tx時,預測跳轉發生。
2.3.2 BTC存儲
當轉移指令第一次執行時,BTC在當前時鐘啟動存儲任務,把該指令執行的信息寫入對應的單元中,對于BCC指令,確定2BC的初始狀態。同時也把該行的VI置為有效。BTC采用隨機替換策略確定數據入口:在復位或Cache清零之后,按順序填充Cache,如果BTC寫滿,則隨機選通一行進行替換。
2.3.3 BTC命中
在取指周期開始時如果發現當前取指地址包含在BTC的TAG中,并且對應行的VI也有效,則認為BTC命中,從而啟動命中任務:讀出命中行的數據,把DI送到指令總線,如果是CALL指令,轉移目標地址作為下一條指令的地址;如果是BCC 指令則需要判斷跳轉是否發生:當標志位有效時,根據條件碼與標志位判斷,否則根據HI進行預測,然后確定下一條指令的地址:跳轉時為轉移目標地址,不跳轉為PC+2。對于帶A參數的BCC指令,在跳轉不執行時,要禁止DI在下一時鐘進入譯碼級。BTC命中的流程如圖3。
2.3.4 BTC檢查
如果前一周期BTC命中,則在當前周期開始時啟動BTC檢查任務;如果前一周期BTC是根據HI預測BCC的跳轉,那么在當前時鐘標志位有效后,要重新判斷跳轉決定是否正確,如果不正確就要進行更正,給出正確的取指地址,請求在下一時鐘禁止譯碼級或執行級。同時還要根據最終的跳轉情況和HI的更新算法更新HI。BTC檢查的流程圖如圖4。
3 結論
整個RISC CPU用Verilog HDL語言進行了描述,并針對標準程序進行了仿真,仿真結果表明,采用上述方法處理轉移指令可以明顯提高流水線的吞吐率。由于在轉移指令后面插入了延時槽指令,轉移指令的執行與程序順序執行時完全相同; BTC的使用雖然在硬件上增加了一些開銷,但使轉移指令再次執行時基本不占用流水線資源,大大提高了CPU的效率
評論
查看更多