2019年全球AI服務器市場規模達到99億美元已經初具規模,并且還在保持高速增長。根據IDC日前公布的《2019年中國AI基礎架構市場調查報告》,2019年中國AI服務器市場規模在全球市場占比由2018年的19.2%,提升至2019年的23.5%,市場規模達23.3億美元,同比增長57.9%,2倍于全球AI服務器市場增速。那么,哪些細分市場將迎來增長機會?哪些計算平臺有較大增長潛力?筆者與IDC分析師、浪潮AI&HPC相關業務負責人進行了深入交流。
經<電子發燒友>向IDC中國分析師杜昀龍求證,根據IDC的調研,發現AI與行業的融合速度在逐漸加快,AI技術的廣泛應用促使對基礎架構的需求在不斷增加,因此對預測進行了普遍上調。
2019年人工智能基礎架構市場規模達到20.9億美元,同比增長58.7%。杜昀龍表示,主要動力源自互聯網,服務和政府三個行業。互聯網行業的采購不僅僅局限在大型互聯網公司,越來越多的中小型互聯網公司也加大了AI基礎架構的投資;服務行業重點指IT服務業,隨著傳統行業與AI技術的不斷融合,IT服務企業需要提供更多的解決方案來滿足客戶的需求,這就需要強大的算力作為支撐,因此在基礎架構方面的投資有所增長;政府行業的增長主要體現在安防和智慧園區的建設上。
浪潮AI&HPC相關業務負責人告訴<電子發燒友>,從行業維度看增長動力,互聯網依然為主要采購行業,占有近50%的市場份額,并且最終用戶也不僅僅局限于BAT這類大型互聯網公司,短視頻和在線教育的快速增長,抖音、快手等互聯網新貴帶動了互聯網行業的AI算力需求;在其他行業,IT服務、教育、金融和通信行業大幅度上漲同比增長超過或接近100%。
浪潮AI&HPC相關業務負責人表示,目前GPU服務器依然是市場上的絕對主力,占據超過80%的市場空間。隨著數據中心用戶對AI計算力需求的不斷攀升,全球已有上百家公司投入新型AI芯片的研發與設計,AI計算芯片多元化趨勢愈發明顯。為了應對計算多元化的需求,越來越多的場景開始引入GPU、FPGA、ASIC等硬件進行加速。
據其介紹,不同處理器芯片在構建AI計算方面有著自己的鮮明特點。GPU領域存在大量的開源軟件和應用軟件,大部分新的AI技術會采用GPU實現算法加速,GPU編程的開發資源也更加容易獲得,開發部署的難度相對較低。
FPGA需要開發者對FPGA的芯片特性有較為深入的了解,但其高并行性的特性往往可以使業務性能得到量級的提升,同時FPGA是動態可編程的,當在數據中心部署之后,可以根據業務形態來配置不同的邏輯實現不同的硬件加速功能。
ASIC芯片在某些特定場景應用能獲得較好的性能加速比,但是ASIC開發風險大,需要有足夠大的市場來保證成本價格,而且從研發到市場的時間周期很長,在深度學習算法快速迭代的領域應用尚需實際業務場景考驗。
由于各芯片廠商在AI開發中采用了不同的技術路線,導致芯片的接口、互聯、協議上互不兼容,這是目前數據中心用戶在AI計算基礎設施建設中不得不面臨的硬件分裂化和生態割裂化的重大挑戰。
此外,根據IDC的報告,到2021年,用于推理的服務器將超過用于訓練的服務器,達到51.3%的市場占比。IDC方面認為,GPU服務器未來幾年會有呈現比較穩定的增長,搭載ASIC芯片的服務器和其他用于推理的服務器將有一定程度的提升。
浪潮方面表示,這將帶動推理服務器、推理平臺的發展,另外,這也是產業AI化加速發展的信號,AI的算法和應用將走向更多的實際應用場景,更多的AI推理平臺將得以落地應用。
在GPU服務器市場,8卡GPU服務器和英偉達的V100加速卡是采購熱點,占據了約30%以上的份額。那么,隨著技術的迭代,未來什么樣的產品會成為主流?
浪潮方面表示,從過往三年AI服務器的發展歷程來看,一個比較有意思的現象是,算力需求的線性增長倒逼AI服務器的升級換代,無論互聯網市場還是行業市場,這種指數級AI算力需求的增長,對于AI服務器的需求,就如英偉達黃教主所言:“The more you buy, the more you save”,在算力為王的AI時代,大家從來不會拒絕一款算力倍增的AI服務器。
浪潮預測,也許未來V100的AI服務器會升級為A100的八卡服務器,因為AI算力的需求一直保持著50%的行業增速,在一些頭部行業的增速甚至超過100%。
另外隨著AI加速行業應用,推理市場迎來了快速發展的窗口期,浪潮這方面的代表產品有NF5488M5 AI服務器。隨著最新的NF5488M5-D和NF5488M6的推出,可以在4U空間容納8顆強大的A100 GPU,為用戶提供更多選擇空間。
此外,跟隨5G技術的腳步,越來越多邊緣計算的應用逐漸興起,如VR、AR、無人駕駛、智能機器人等。邊緣計算成為業界共識,在未來的網絡架構中,邊緣服務器將會成為構筑分布式數據中心的主體,為終端提供計算、存儲、網絡能力,拉近用戶與互聯網之間的連接,增強服務能力。
浪潮方面將其在AI服務器領域的成功歸因于三大因素:一是前瞻的業務布局,是業界率先布局AI計算業務的廠商,并且最先抓住了AI產業化的機遇,打開了以互聯網為代表的AI產業化市場;二是在產品上持續創新,目前已經在性能、品類方面樹立了業界標桿;三是在生態上持續發力,發布元腦生態,加速推進產業AI化進程,目前在互聯網、政務、金融、能源等行業AI服務器市占率保持第一。
隨著數據的爆炸增長與深度神經網絡日趨復雜,單機或小型服務器已經無法滿足算力需求,未來將有大量的人工智能應用和服務被放在云端。AI算力需求逐步邁入高峰期,更高性能的AI服務器將在線下場景落地。浪潮AI&HPC相關業務負責人告訴<電子發燒友>,未來三年AI產業化將走向產業AI化,傳統行業市場智能化升級將迎來爆發期。
綜合來看,AI行業應用落地趨勢正在逐步加速。受新冠疫情的影響,一些傳統行業更加深刻地意識到AI、5G、大數據等技術的重要性,促使各企業加大對于IT基礎架構的投資。此外,在國家產業政策層面,新基建拉開序幕,智能計算中心的產業投資,將帶來更多產業機會。
本文由電子發燒友網原創,未經授權禁止轉載。如需轉載,請添加微信號elecfans999.
IDC上調對GPU服務器市場規模的預測
值得注意的是,在IDC去年5月關于GPU服務器的報告中,預測2023年中國GPU服務器市場規模將達到43.2億美金。而在今年的報告中,預測到2024年中國GPU服務器市場規模將達到64億美元。這意味著2024年會有較大的躍升?還是IDC上調了之前的預測?經<電子發燒友>向IDC中國分析師杜昀龍求證,根據IDC的調研,發現AI與行業的融合速度在逐漸加快,AI技術的廣泛應用促使對基礎架構的需求在不斷增加,因此對預測進行了普遍上調。
2019年人工智能基礎架構市場規模達到20.9億美元,同比增長58.7%。杜昀龍表示,主要動力源自互聯網,服務和政府三個行業。互聯網行業的采購不僅僅局限在大型互聯網公司,越來越多的中小型互聯網公司也加大了AI基礎架構的投資;服務行業重點指IT服務業,隨著傳統行業與AI技術的不斷融合,IT服務企業需要提供更多的解決方案來滿足客戶的需求,這就需要強大的算力作為支撐,因此在基礎架構方面的投資有所增長;政府行業的增長主要體現在安防和智慧園區的建設上。
浪潮AI&HPC相關業務負責人告訴<電子發燒友>,從行業維度看增長動力,互聯網依然為主要采購行業,占有近50%的市場份額,并且最終用戶也不僅僅局限于BAT這類大型互聯網公司,短視頻和在線教育的快速增長,抖音、快手等互聯網新貴帶動了互聯網行業的AI算力需求;在其他行業,IT服務、教育、金融和通信行業大幅度上漲同比增長超過或接近100%。
計算多元化需求,驅動GPU、FPGA、ASIC加速計算發展
對比IDC 2018、2019年兩份報告中服務器廠商市場份額,發現2018年的研究主體是GPU服務器,2019年的研究主體是加速服務器,調研范圍有所擴大。杜昀龍表示,IDC確實擴大了對AI基礎架構市場的調研,加入了不同加速技術的研究。由于AI服務器主要是訓練和推理兩個工作負載,其中,推理在逐年增長;ASIC芯片更多應用在邊緣或者端側的推理,2019年FPGA和ASIC加速技術的服務器將占整體AI服務器市場總額的4%。浪潮AI&HPC相關業務負責人表示,目前GPU服務器依然是市場上的絕對主力,占據超過80%的市場空間。隨著數據中心用戶對AI計算力需求的不斷攀升,全球已有上百家公司投入新型AI芯片的研發與設計,AI計算芯片多元化趨勢愈發明顯。為了應對計算多元化的需求,越來越多的場景開始引入GPU、FPGA、ASIC等硬件進行加速。
據其介紹,不同處理器芯片在構建AI計算方面有著自己的鮮明特點。GPU領域存在大量的開源軟件和應用軟件,大部分新的AI技術會采用GPU實現算法加速,GPU編程的開發資源也更加容易獲得,開發部署的難度相對較低。
FPGA需要開發者對FPGA的芯片特性有較為深入的了解,但其高并行性的特性往往可以使業務性能得到量級的提升,同時FPGA是動態可編程的,當在數據中心部署之后,可以根據業務形態來配置不同的邏輯實現不同的硬件加速功能。
ASIC芯片在某些特定場景應用能獲得較好的性能加速比,但是ASIC開發風險大,需要有足夠大的市場來保證成本價格,而且從研發到市場的時間周期很長,在深度學習算法快速迭代的領域應用尚需實際業務場景考驗。
由于各芯片廠商在AI開發中采用了不同的技術路線,導致芯片的接口、互聯、協議上互不兼容,這是目前數據中心用戶在AI計算基礎設施建設中不得不面臨的硬件分裂化和生態割裂化的重大挑戰。
此外,根據IDC的報告,到2021年,用于推理的服務器將超過用于訓練的服務器,達到51.3%的市場占比。IDC方面認為,GPU服務器未來幾年會有呈現比較穩定的增長,搭載ASIC芯片的服務器和其他用于推理的服務器將有一定程度的提升。
浪潮方面表示,這將帶動推理服務器、推理平臺的發展,另外,這也是產業AI化加速發展的信號,AI的算法和應用將走向更多的實際應用場景,更多的AI推理平臺將得以落地應用。
算力需求暴增,倒逼AI服務器升級換代
近期,英偉達發布了基于Ampere架構的A100 GPU,浪潮同步推出了5款支持A100 GPU的AI服務器。全新服務器可支持8到16顆NVIDIA A100 Tensor Core GPU,能夠提供高達每秒4億億次的AI計算性能,以及高達600GB/S的GPU間P2P帶寬。在GPU服務器市場,8卡GPU服務器和英偉達的V100加速卡是采購熱點,占據了約30%以上的份額。那么,隨著技術的迭代,未來什么樣的產品會成為主流?
浪潮方面表示,從過往三年AI服務器的發展歷程來看,一個比較有意思的現象是,算力需求的線性增長倒逼AI服務器的升級換代,無論互聯網市場還是行業市場,這種指數級AI算力需求的增長,對于AI服務器的需求,就如英偉達黃教主所言:“The more you buy, the more you save”,在算力為王的AI時代,大家從來不會拒絕一款算力倍增的AI服務器。
浪潮預測,也許未來V100的AI服務器會升級為A100的八卡服務器,因為AI算力的需求一直保持著50%的行業增速,在一些頭部行業的增速甚至超過100%。
另外隨著AI加速行業應用,推理市場迎來了快速發展的窗口期,浪潮這方面的代表產品有NF5488M5 AI服務器。隨著最新的NF5488M5-D和NF5488M6的推出,可以在4U空間容納8顆強大的A100 GPU,為用戶提供更多選擇空間。
此外,跟隨5G技術的腳步,越來越多邊緣計算的應用逐漸興起,如VR、AR、無人駕駛、智能機器人等。邊緣計算成為業界共識,在未來的網絡架構中,邊緣服務器將會成為構筑分布式數據中心的主體,為終端提供計算、存儲、網絡能力,拉近用戶與互聯網之間的連接,增強服務能力。
未來三年AI產業化將走向產業AI化
在國內AI服務器市場,浪潮的市場占有率最大,連續三年以過半市場份額穩居第一,華為位居第二,其他競爭者還包括曙光、新華三、戴爾、聯想等。而AI服務器的競爭,已經不只是簡單的產品升級迭代,而是上升到了整體的布局,是包括芯片、云、數據處理能力、框架、算法開發基礎、部署環境等在內的整體能力。浪潮方面將其在AI服務器領域的成功歸因于三大因素:一是前瞻的業務布局,是業界率先布局AI計算業務的廠商,并且最先抓住了AI產業化的機遇,打開了以互聯網為代表的AI產業化市場;二是在產品上持續創新,目前已經在性能、品類方面樹立了業界標桿;三是在生態上持續發力,發布元腦生態,加速推進產業AI化進程,目前在互聯網、政務、金融、能源等行業AI服務器市占率保持第一。
隨著數據的爆炸增長與深度神經網絡日趨復雜,單機或小型服務器已經無法滿足算力需求,未來將有大量的人工智能應用和服務被放在云端。AI算力需求逐步邁入高峰期,更高性能的AI服務器將在線下場景落地。浪潮AI&HPC相關業務負責人告訴<電子發燒友>,未來三年AI產業化將走向產業AI化,傳統行業市場智能化升級將迎來爆發期。
綜合來看,AI行業應用落地趨勢正在逐步加速。受新冠疫情的影響,一些傳統行業更加深刻地意識到AI、5G、大數據等技術的重要性,促使各企業加大對于IT基礎架構的投資。此外,在國家產業政策層面,新基建拉開序幕,智能計算中心的產業投資,將帶來更多產業機會。
本文由電子發燒友網原創,未經授權禁止轉載。如需轉載,請添加微信號elecfans999.
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
IDC
+關注
關注
4文章
391瀏覽量
37250 -
浪潮
+關注
關注
1文章
463瀏覽量
23892 -
AI服務器
+關注
關注
2文章
109瀏覽量
4929 -
AI2020
+關注
關注
1文章
22瀏覽量
5948
發布評論請先 登錄
相關推薦
算力再躍升!億萬克發布新一代AI服務器——G882N7+!
的特質,但算力告急。想要打破數智時代的算力瓶頸,異構智算成為有效方案。 近期,億萬克面向激增的AI
什么是AI服務器?AI服務器的優勢是什么?
AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片
智能算力存在缺口,AI服務器市場規模持續提升
商的資本支出將大幅增加。全球前四大云服務商資本支出調升,預計將從2023年的1400億美元提升至2024年的超過2000億美元。 ? AI 服務器市場規模持續增長 ? 近些年,人工智能
聯想首臺可搭載國產AI算力芯片的聯想問天WA5480 G3服務器成功交付
3月19日,在聯想(全球)最大的智能計算設備研發和制造基地——聯寶科技,中國領先的智能IT基礎設施提供商聯想續寫智算新篇章:聯想首臺可搭載國產AI
聯想首臺搭載國產AI算力芯片服務器成功交付
在聯想(全球)最大的智能計算設備研發和制造基地——聯寶科技,一場科技界的盛事吸引了業界的廣泛關注。這一天,中國領先的智能IT基礎設施提供商聯想成功交付了首臺可搭載國產AI
使用NVIDIA Triton推理服務器來加速AI預測
這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI
Suma AI服務器:全棧國產,入局!
供應者穩定可靠,產品生態兼容,可減少升級成本,同時更懂本土“體質”。 在這一背景下,中科可控Suma AI服務器脫穎而出,其搭載國產計算平臺,兼容主流軟件生態,算
評論