2021年10月至今,中科院計算所面向全行業先后發布了《專用數據處理器(DPU)技術白皮書》和《專用數據處理器(DPU)性能基準評測方法與實現》,兩份白皮書較為全面地解釋了,DPU為何被定義為數據中心發展的顛覆性技術。
?
在DPU性能基準評測白皮書里,闡述了DPU在網絡、存儲、計算和信息安全四個領域的評測和實現方法,這也是DPU釋放潛能的四大領域,同時它們恰恰又是數據中心的關鍵環節。因此,DPU、CPU、GPU被稱為算力經濟時代的三駕馬車,DPU成為數據中心領域“第三顆主力芯片”。此外,智能駕駛、數據通信、網絡安全等也是DPU的目標應用領域。根據賽迪網的估算,從2023年開始全球DPU市場規模將突破百億美元,后續年增長率超50%。
?
圖源:賽迪網
?
這就是為什么英偉達CEO黃仁勛在發布該公司首款DPU產品時要著重強調,“這只是一個開始。”目前,不僅英偉達等產業巨頭在緊盯DPU賽道,井芯微電子等初創公司也脫穎而出,展現出非凡的技術實力,產品獲得行業認可。
?
DPU是什么?
要想知道DPU為什么熱,那么首先就要搞清楚,DPU到底是什么?
?
DPU的英文全稱為Data Processing Unit,直譯過來就是數據處理單元,也被一些從業者稱為數據中心處理器。 DPU以數據為中心,核心作用是做數據加速處理,幫助系統解決CPU處理效率低,GPU又無法處理的負載。
?
根據DPU技術白皮書,DPU處理的數據和傳統DSP、基帶處理器等處理器處理的“信號”,以及GPU處理的圖形圖像類數據不同,DPU處理的數據是更加靠近底層架構、數字化的各種信息,特別是各種時序化、結構化的數據,比如大型的結構化表格,網絡流中的數據包,海量的文本等等。
?
DPU架構參考設計
圖源:DPU技術白皮書
?
DPU潛力巨大
不難發現,DPU是以解決數據中心發展瓶頸為第一出發點而提出的,是數據中心用服務器走向異構計算的最大受益者。隨著數據中心市場的蓬勃發展,DPU在該領域的潛力巨大。
?
以中國市場為例,數據中心第一波浪潮于2014年-2015年拉開帷幕,主要服務于當時快速發展的互聯網,當時國內出現了很多數據交易所。從具體特征來看,數據中心第一波浪潮是以計算為核心,然而很快以CPU為主要算力平臺的方式便出現了瓶頸,且CPU在資源管理方面普遍存在20%-30%的算力資源浪費,這就帶來了算力提升的無力感。
?
數據中心第二波浪潮開始于2020年,也就是人們所說的“DPU元年”,其中最明顯的變化是數據中心不再強調計算中心和算力中心的概念,而是回歸以數據為中心的本質。在這個過程中,云和應用算法的種類都愈發豐富多樣,提升數據處理效率當然還是主要目標,不過給CPU減負以增強系統調度能力也是一個大方向。
?
從“以計算為中心”到“以數據為中心”是巨大的觀念轉變,DPU得以從眾多協處理器中脫穎而出。作為數據處理的專用引擎,未來不斷豐富的DPU產品類型將使得CPU回歸自己擅長的領域——統籌全局和任務調度,釋放CPU的算力到上層應用,DPU將化身為新的系統網關、存儲入口、算法加速沙盒以及安全引擎。
?
從下圖能夠看出,在以數據為中心的數據中心框架下,DPU可謂是無處不在。
? ?
當然,DPU想要在數據中心領域兌現潛能也需要克服一些挑戰。首先,在硬件層面DPU的產品種類需要足夠豐富,如上所述,需要在網絡、存儲、計算和信息安全四大維度對CPU進行全面卸載,同時不同廠商的DPU產品需要遵循通用的標準,并在整體方案上體現總擁有成本優勢;在軟件層面,當前CPU和GPU在數據中心的應用均具有標準的軟件框架,實現了軟硬件解耦,DPU加入后,這也是一個長期且具有挑戰的工作。
?
上述內容已經提到,DPU的終端應用場景絕不僅僅是在數據中心,在智能駕駛、數據通信、網絡安全等領域,DPU也有廣闊的應用前景。
?
比如在通信領域,基于DPU實現的?絡功能虛擬化可應用于5G 邊緣計算UPF,提升5G通信在垂直行業的高速和大帶寬能力;在網絡安全領域,DPU可助力打造硬件信任根,并能夠以完全卸載的方式實現隔離?絡虛擬化,與主機操作系統相隔離,使用戶免受黑客攻擊;在自動駕駛領域,DPU提供的各種虛擬化功能,可以更好地幫助開發者實現“軟件定義汽車”。
?
國產DPU助力中國“新基建”
DPU已經打開了一個大的產業化趨勢,我國“新基建”戰略中的各領域將率先受益,加速數字化轉型。同時,“新基建”和“東數西算”也將在數據和算力層面帶來強勁需求,再加上國家在5G和自動駕駛等產業的宏大布局,國產DPU未來發展前景明朗。
?
緊抓DPU產業的中國芯機遇,井芯微電子技術(天津)有限公司(以下簡稱:井芯微)雖然還是一家年輕的初創企業,但是在DPU技術研發和產品商用進度方面,已經達到了國內領先水平。
?
?
井芯微于2020年在天津經開區成立,專注在新計算、新網絡、新安全等創新賽道,為黨政軍、金融、能源、交通、電力、電信等重點行業的目標客戶帶來領先的DPU產品和技術服務。
?
?
根據DPU技術白皮書,DPU架構有三大核心組成部分,分別是控制平面、IO子系統和數據平面。在IO子系統方面,井芯微提供RapidIO嵌入式系統互連以及軟件定義互連交換等原創性技術,已成功研發出RapidIO交換芯片NRS1800、軟件定義互連交換芯片SDI3210、內生安全交換芯片ESW5610、橋接芯片PRB0400等系統IO產品。
?
在數據平面,井芯微已經發布一款集成AI引擎的網絡處理智能芯片——井芯2820,主要面向云計算和數據中心網絡應用及相關的任務卸載,并提供智能化的網絡監控和管理能力。網絡數據包的處理是DPU第一個發力場景,以“網絡+算力”的模式為CPU 卸載,因此DPU也常常被視為?SmartNIC (智能網卡)的升級版,但我們都知道DPU的潛力絕不止于此。
?
井芯2820實現了2-7層的報文解析和應對云計算、工業互聯網等關鍵應用的加速能力。同時,該芯片具備可升級擴展能力,能夠應對變化迅速的大數據處理、時延敏感應用要求,并具備快速部署能力。
?
井芯2820支持三大應用場景:
?
標準網卡模式該模式下,芯片工作在標準的網卡方式,可以配置成2*100GE標準網卡、4*10GE網卡、2*25GE或者2*10GE網卡,支持最大16*PCIE4.0,支持多虛擬機的SR-IOV數據傳輸。軟件通過標準的linux網卡驅動訪問網絡接口卡。
?
智能網卡模式該模式下,CPU和AI引擎參與數據處理,芯片工作在智能卸載模式。數據報文經過兩個路徑發送,一個是控制路徑,相關的協議報文,控制報文轉發至CPU核,用于各種協議控制面例如RDMA,OVS等的處理;一個是數據路徑,用于處理報文的封裝/解封裝,數據處理加速等。AI引擎實時提取和分析輸入數據,檢測和識別數據流量是否有惡意攻擊行為,進行上報和告警。
?
獨立主控模式該模式下,井芯微網絡處理智能芯片可以獨立工作,成為一顆具備AI引擎的網絡主控CPU芯片。PCIE工作在RC模式下,可外接各種外設,例如24口/48口千兆交換芯片、SRIO交換芯片等。CPU運行獨立的linux操作系統和網絡協議棧,實現交換機的主控功能。
?
這顆雙100G網絡處理智能芯片的推出,代表了本土企業在DPU領域的開拓邁出了關鍵一步。后續,井芯微將持續關注軟件定義互連、內生安全和類腦計算三大戰略方向,推動DPU等產品的快速迭代,為國家“新基建”戰略推進貢獻創新力量。
?
?
在DPU性能基準評測白皮書里,闡述了DPU在網絡、存儲、計算和信息安全四個領域的評測和實現方法,這也是DPU釋放潛能的四大領域,同時它們恰恰又是數據中心的關鍵環節。因此,DPU、CPU、GPU被稱為算力經濟時代的三駕馬車,DPU成為數據中心領域“第三顆主力芯片”。此外,智能駕駛、數據通信、網絡安全等也是DPU的目標應用領域。根據賽迪網的估算,從2023年開始全球DPU市場規模將突破百億美元,后續年增長率超50%。
?
圖源:賽迪網
這就是為什么英偉達CEO黃仁勛在發布該公司首款DPU產品時要著重強調,“這只是一個開始。”目前,不僅英偉達等產業巨頭在緊盯DPU賽道,井芯微電子等初創公司也脫穎而出,展現出非凡的技術實力,產品獲得行業認可。
?
DPU是什么?
要想知道DPU為什么熱,那么首先就要搞清楚,DPU到底是什么?
?
DPU的英文全稱為Data Processing Unit,直譯過來就是數據處理單元,也被一些從業者稱為數據中心處理器。 DPU以數據為中心,核心作用是做數據加速處理,幫助系統解決CPU處理效率低,GPU又無法處理的負載。
?
根據DPU技術白皮書,DPU處理的數據和傳統DSP、基帶處理器等處理器處理的“信號”,以及GPU處理的圖形圖像類數據不同,DPU處理的數據是更加靠近底層架構、數字化的各種信息,特別是各種時序化、結構化的數據,比如大型的結構化表格,網絡流中的數據包,海量的文本等等。
?
DPU架構參考設計
圖源:DPU技術白皮書
DPU潛力巨大
不難發現,DPU是以解決數據中心發展瓶頸為第一出發點而提出的,是數據中心用服務器走向異構計算的最大受益者。隨著數據中心市場的蓬勃發展,DPU在該領域的潛力巨大。
?
以中國市場為例,數據中心第一波浪潮于2014年-2015年拉開帷幕,主要服務于當時快速發展的互聯網,當時國內出現了很多數據交易所。從具體特征來看,數據中心第一波浪潮是以計算為核心,然而很快以CPU為主要算力平臺的方式便出現了瓶頸,且CPU在資源管理方面普遍存在20%-30%的算力資源浪費,這就帶來了算力提升的無力感。
?
數據中心第二波浪潮開始于2020年,也就是人們所說的“DPU元年”,其中最明顯的變化是數據中心不再強調計算中心和算力中心的概念,而是回歸以數據為中心的本質。在這個過程中,云和應用算法的種類都愈發豐富多樣,提升數據處理效率當然還是主要目標,不過給CPU減負以增強系統調度能力也是一個大方向。
?
從“以計算為中心”到“以數據為中心”是巨大的觀念轉變,DPU得以從眾多協處理器中脫穎而出。作為數據處理的專用引擎,未來不斷豐富的DPU產品類型將使得CPU回歸自己擅長的領域——統籌全局和任務調度,釋放CPU的算力到上層應用,DPU將化身為新的系統網關、存儲入口、算法加速沙盒以及安全引擎。
?
從下圖能夠看出,在以數據為中心的數據中心框架下,DPU可謂是無處不在。
? ?
當然,DPU想要在數據中心領域兌現潛能也需要克服一些挑戰。首先,在硬件層面DPU的產品種類需要足夠豐富,如上所述,需要在網絡、存儲、計算和信息安全四大維度對CPU進行全面卸載,同時不同廠商的DPU產品需要遵循通用的標準,并在整體方案上體現總擁有成本優勢;在軟件層面,當前CPU和GPU在數據中心的應用均具有標準的軟件框架,實現了軟硬件解耦,DPU加入后,這也是一個長期且具有挑戰的工作。
?
上述內容已經提到,DPU的終端應用場景絕不僅僅是在數據中心,在智能駕駛、數據通信、網絡安全等領域,DPU也有廣闊的應用前景。
?
比如在通信領域,基于DPU實現的?絡功能虛擬化可應用于5G 邊緣計算UPF,提升5G通信在垂直行業的高速和大帶寬能力;在網絡安全領域,DPU可助力打造硬件信任根,并能夠以完全卸載的方式實現隔離?絡虛擬化,與主機操作系統相隔離,使用戶免受黑客攻擊;在自動駕駛領域,DPU提供的各種虛擬化功能,可以更好地幫助開發者實現“軟件定義汽車”。
?
國產DPU助力中國“新基建”
DPU已經打開了一個大的產業化趨勢,我國“新基建”戰略中的各領域將率先受益,加速數字化轉型。同時,“新基建”和“東數西算”也將在數據和算力層面帶來強勁需求,再加上國家在5G和自動駕駛等產業的宏大布局,國產DPU未來發展前景明朗。
?
緊抓DPU產業的中國芯機遇,井芯微電子技術(天津)有限公司(以下簡稱:井芯微)雖然還是一家年輕的初創企業,但是在DPU技術研發和產品商用進度方面,已經達到了國內領先水平。
?
?
井芯微于2020年在天津經開區成立,專注在新計算、新網絡、新安全等創新賽道,為黨政軍、金融、能源、交通、電力、電信等重點行業的目標客戶帶來領先的DPU產品和技術服務。
?
?
根據DPU技術白皮書,DPU架構有三大核心組成部分,分別是控制平面、IO子系統和數據平面。在IO子系統方面,井芯微提供RapidIO嵌入式系統互連以及軟件定義互連交換等原創性技術,已成功研發出RapidIO交換芯片NRS1800、軟件定義互連交換芯片SDI3210、內生安全交換芯片ESW5610、橋接芯片PRB0400等系統IO產品。
?
在數據平面,井芯微已經發布一款集成AI引擎的網絡處理智能芯片——井芯2820,主要面向云計算和數據中心網絡應用及相關的任務卸載,并提供智能化的網絡監控和管理能力。網絡數據包的處理是DPU第一個發力場景,以“網絡+算力”的模式為CPU 卸載,因此DPU也常常被視為?SmartNIC (智能網卡)的升級版,但我們都知道DPU的潛力絕不止于此。
?
井芯2820實現了2-7層的報文解析和應對云計算、工業互聯網等關鍵應用的加速能力。同時,該芯片具備可升級擴展能力,能夠應對變化迅速的大數據處理、時延敏感應用要求,并具備快速部署能力。
?
井芯2820支持三大應用場景:
?
標準網卡模式該模式下,芯片工作在標準的網卡方式,可以配置成2*100GE標準網卡、4*10GE網卡、2*25GE或者2*10GE網卡,支持最大16*PCIE4.0,支持多虛擬機的SR-IOV數據傳輸。軟件通過標準的linux網卡驅動訪問網絡接口卡。
?
智能網卡模式該模式下,CPU和AI引擎參與數據處理,芯片工作在智能卸載模式。數據報文經過兩個路徑發送,一個是控制路徑,相關的協議報文,控制報文轉發至CPU核,用于各種協議控制面例如RDMA,OVS等的處理;一個是數據路徑,用于處理報文的封裝/解封裝,數據處理加速等。AI引擎實時提取和分析輸入數據,檢測和識別數據流量是否有惡意攻擊行為,進行上報和告警。
?
獨立主控模式該模式下,井芯微網絡處理智能芯片可以獨立工作,成為一顆具備AI引擎的網絡主控CPU芯片。PCIE工作在RC模式下,可外接各種外設,例如24口/48口千兆交換芯片、SRIO交換芯片等。CPU運行獨立的linux操作系統和網絡協議棧,實現交換機的主控功能。
?
這顆雙100G網絡處理智能芯片的推出,代表了本土企業在DPU領域的開拓邁出了關鍵一步。后續,井芯微將持續關注軟件定義互連、內生安全和類腦計算三大戰略方向,推動DPU等產品的快速迭代,為國家“新基建”戰略推進貢獻創新力量。
?
評論
查看更多