電子發燒友網報道(文/李寧遠)OpenAI旗下的智能聊天機器人程序ChatGPT自去年年末發布后,在全球范圍內掀起了人工智能熱潮,熱度持續至今。ChatGPT超出人們預期的智能化表現也帶火了相關人工智能產業鏈。
ChatGPT的GPT,本質是生成型預訓練變換模型,這種AI模型經過海量的數據訓練,才有了高質量的內容輸出。ChatGPT的出現,離不開背后龐大的基礎算力做支持。高度依賴AI計算能力的ChatGPT也推高了算力需求。
爆火的ChatGPT,高算力需求推動DPU發展
隨著眾多國內外廠商入局智能聊天機器人行業的競爭,可以預見市場上類似于ChatGPT的機器人程序會如雨后春筍一般冒出來,而全球對于算力的需求也將隨著此類技術應用的鋪開出現快速的增長。
數據處理芯片DPU,被認為是繼 CPU 和 GPU 之后的 “第三顆主力芯片”。DPU是最近幾年發展起來的專用處理器大類,是繼CPU、GPU之后數據中心場景中重要的算力芯片,能夠為高帶寬、低延遲、數據密集的計算場景提供計算引擎,是未來處理超算流量和安全網絡存儲的核心硬件。
DPU市場現在處于百家爭鳴的早期發展階段,各廠商給出的定義有略有不同,這里選擇市場上比較主流的英偉達給出的定義,“DPU是集數據中心基礎架構于芯片的通用處理器,結合了標準的、高性能及軟件可編程的多核CPU,與其它的SoC組件密切配合。同時結合了高性能網絡接口,能以線速或網絡中的可用速度解析、處理數據,并高效地將數據傳輸到GPU和CPU”。
相比于CPU和GPU典型的馮諾依曼架構,基于數據流驅動技術的DPU采用的是非馮諾依曼架構,不需要結束一階段的計算任務后將數據輸送到外部的DDR計數器存儲,而是可以利用軟件可動態重構處理器CGRA技術,合理分配和使用算力的同時,節約數據存儲和傳輸帶寬。當CPU算力達到瓶頸,DPU能夠幫助CPU卸載低效應用的算力,當GPU專注數據加速計算,DPU可以幫助進行數據解析和處理提高數據接發效率。
在ChatGPT高算力需求的推動下,DPU開始進入發展快車道。
DPU市場將迎來爆發式增長,國產DPU蓄勢待發
根據據賽迪顧問《中國DPU行業發展白皮書》對全球以及中國DPU市場的統計,預計到2025年全球DPU產業市場規模將超過245.3億美元,復合增速達51.73%。而中國市場預計到2025年DPU產業規模將超過565.9億元,復合增速達170.6%。
白皮書中特別提到,中國DPU市場在2022-2023年將會有爆發式的增長,而全球市場的爆發式增長階段將會出現在2023-2024年。
DPU在行業內其實早已有了雛形,早在2013年,Amazon就研發過一款名為Nitro的輕量化Hypervisor配合定制化硬件,能將虛擬機的計算和 I/O子系統分離開來。直到2020年英偉達將基于Mellanox的Smart NIC命名為DPU并將其定位為繼CPU和GPU之后數據中心的“第三顆主力芯片”,才算真正走到大家眼前被重視起來并掀起行業熱潮。
根據賽迪顧問《中國DPU行業發展白皮書》中的數據,2020年國內的DPU市場僅有3.9億元。而到了2021年,國內市場規模迅速發展到75.3億元,可見這一賽道的火熱。
從目前入局的廠商來看,英偉達、Intel、AMD、Marvell、Broadcom、Amazon、Microsoft等國際廠商在近年來都有DPU或相似架構產品發布,入局早具備一定的先發優勢,在底層能力上無疑要領先國內廠商。
國內華為,阿里等老牌廠商也在近幾年針對服務器需求自研DPU,主要功能偏向于數據,存儲與安全方面。同時國內還有一批初創企業加入了DPU賽道,如云豹智能、星云智聯、芯啟源、云脈芯聯、中科馭數、大禹智芯等。
主要DPU廠商動態
英偉達:先進BlueField系列占據行業高點
在全球DPU市場,英偉達占據了超半數市場份額。目前英偉達的BlueField系列DPU已經發展至第三代,BlueField-3 是首款以線速處理軟件定義網絡、存儲和網絡安全的 DPU,速度可達400 Gb/s。BlueField-3可以搭載最多16個Armv8.2+ A78 Hercules核心,包含220億個晶體管,擁有16GB板載DDR5顯存,能夠在I/O路徑中提供強大的計算能力和多種可編程加速引擎。相比BlueField-2系列8 顆ARM A72 CPU 內核,處理性能提升了近10倍。
而BlueField-4根據英偉達官方消息,有望在2024年推出。除此之外,英偉達還將DPU與 Ampere架構的強大功能結合成融合加速器,進一步為AI驅動的工作負載帶來出色的性能和強大的安全性。
英特爾:預計2024年推出400G IPU,2025年推出800G IPU
英特爾的IPU被業界視為英特爾版本的DPU,同樣可以加速網絡基礎設施,釋放CPU內核,實現應用程序性能的提升。E2000是目前英特爾處理性能最高的IPU,是英特爾利用從多代FPGA SmartNIC 中積累的經驗和谷歌共同設計的,擁有多達16個Arm Neoverse N1核心,具備高度可編程性的數據包處理引擎。
從去年Intel Vision 2022大會上公布的最新的IPU路線圖來看,2024年400 Gbps IPU有望面世,800G IPU則定在2025年。
芯啟源:布局下一代7nm以下DPU產品
芯啟源是目前國內唯一一家能夠提供基于SoC架構的國產化25G智能網卡的供應商,已經推出了量產的DPU芯片4000及3800系列產品,并且已實現商業化落地。芯啟源的下一個布局是7000系列DPU,根據相關信息,下一代DPU芯片將采用7nm以下工藝,能達到400G的吞吐量,具有600Mpps,RDMA/RoCEv2,國密SM3/SM4等的功能及性能。
星云智聯:實力強勁的國內初創DPU芯片公司
星云智聯是一家專注于數據中心通信互聯架構、DPU芯片和解決方案研發的國內初創公司,其自主研發的NebulaX D1055AS是一款50G DPU芯片。NebulaX D1055AS在高速數據轉發上,以純硬件方式實現對數據流處理,以獲得高吞吐量和低延時性能,在國內DPU賽道上有著強勁的實力。
云豹智能:DPU SoC有望今年量產
云豹智能主張軟件定義芯片,此前發布過基于FPGA版本的DPU云霄,在可編程性上非常靈活。目前云豹智能的第一款DPU SoC正在設計研發階段,根據相關消息,該DPU SoC有望在今年量產。
中科馭數:基于自研KPU架構布局DPU
中科馭數的KPU架構是基于中科馭數首創的軟件定義加速器技術路線而研發的領域專用技術芯片架構,并基于該架構打造了首個擁有網絡數據庫一體化加速功能的DPU芯片,能提供高效能的算力支撐。在目前的產品進度上,根據相關報道,第三代12nm 400G DPU芯片的研發迭代已近尾聲。
寫在最后
DPU的誕生就是為了應對數據量以及計算復雜性的指數級增長,在ChatGPT將算力需求再推上一個新臺階后,DPU有力支撐起了算力效率的提升,在原本火熱的市場里又一次加快了發展速度。
-
DPU
+關注
關注
0文章
357瀏覽量
24169 -
算力
+關注
關注
1文章
964瀏覽量
14794 -
ChatGPT
+關注
關注
29文章
1558瀏覽量
7596
發布評論請先 登錄
相關推薦
評論