色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

算力呈指數(shù)級增長,服務器有哪些進展?

花茶晶晶 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2023-05-17 09:07 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/黃晶晶)人工智能的基座包括數(shù)據(jù)、算力和算法。其中算力更是數(shù)據(jù)和算法的支撐。各類模型基于數(shù)據(jù)量、算法的訓練和推理推動了算力需求。

根據(jù)OpenAI的測算數(shù)據(jù),AI訓練運行所使用的算力每3-4個月增長一倍。AI訓練運行所使用的算力已增長超30萬倍。IDC數(shù)據(jù)顯示,2022年我國智能算力規(guī)模達到268百億億次/秒(EFLOPS),超過通用算力規(guī)模;預計未來5年我國智能算力規(guī)模的年復合增長率將達52.3%。

構(gòu)筑算力必然離不開服務器的建設。作為全球頂級的人工智能/高性能計算服務器制造商和解決方案提供商,Supermicro公司日前向電子發(fā)燒友網(wǎng)表示,新業(yè)務合約有很大一部分來自人工智能/高性能計算領域,而且許多與ChatGPT有關。

Supermicro高管表示,人工智能界并不知道未來還會遇到多少計算密集型問題。以GPT-3為例,它需要323 Zetta FLOPS的算力和1750億個參數(shù)來訓練模型,更需要龐大的算力來執(zhí)行推理工作。更加智能的GPT-4將會有更多的參數(shù),有可能達到一萬億甚至更多。

為了運轉(zhuǎn)這樣的大模型和大規(guī)模參數(shù),如何有效運用服務器顯得十分重要,這關乎服務器的性價比選擇。Supermicro公司高管說到,當大量的GPU服務器集群起來時,人工智能/高性能計算應用的每一微秒都很重要。Supermicro設計開發(fā)了各種不同架構(gòu)的GPU服務器,提升了CPU和GPU之間或從GPU到GPU的數(shù)據(jù)傳輸速度。通過合理選擇系統(tǒng)SKU,解決方案的設計可以將每個CPU/GPU核心利用到極致。從邊緣到云,從訓練到推理,當前市面上所需的人工智能/高性能計算應用,Supermicro都可以提供全方位的GPU服務器,能讓客戶充分利用計算資源上花費的每一分錢。

更大的服務器存儲空間


隨著CPU、GPU和內(nèi)存技術的發(fā)展,現(xiàn)代計算集群處理數(shù)據(jù)的速度和數(shù)量不斷增加,因此有必要增強存儲性能,以便將數(shù)據(jù)饋送給應用時不會形成減緩整個系統(tǒng)的速度的瓶頸。

最近,Supermicro推出了超高性能、高密度PB級All-Flash NVMe服務器新機型。更新產(chǎn)品系列中初步推出的產(chǎn)品將在1U 16槽機架式安裝系統(tǒng)中支持高達1/2 PB的儲存空間,隨后的產(chǎn)品則將在2U 32槽機架式安裝系統(tǒng)中為IntelAMD PCIe Gen5平臺提供1 PB儲存空間。

Supermicro高管表示,Supermicro的Petascale All-Flash服務器提供業(yè)界領先的存儲性能和容量,可以減少滿足熱存儲和溫存儲要求所需的機架式系統(tǒng)數(shù)量,并通過諸多功能特點降低總體擁有成本。

具體來說,容量擴展,更廣泛的PCB有助于實現(xiàn)更靈活的NAND芯片布局;性能擴展,可擴展連接器設計,多鏈路寬度(x4、x8、x16),支持不同電源配置;熱效率,散熱和制冷管理改進;面向未來,通用連接器適用于各種尺寸規(guī)格,可以為未來幾代PCIe提供更加強大的信號完整性;解決方案范圍,各種功率配置(20W-70W),適用于更高容量/性能的固態(tài)硬盤。

“安裝了速度更快的固態(tài)硬盤之后,系統(tǒng)的平衡就變得更加重要。Supermicro擁有全新的NUMA平衡對稱架構(gòu),可以提供到驅(qū)動器的最短信號路徑、到存儲器的帶寬平衡和靈活的網(wǎng)絡選項,從而降低時延。最重要的是,對稱設計還有助于確保整個系統(tǒng)的氣流暢通無阻,因此可以使用更加強大的處理器。”Supermicro高管說道。

桌面型GPU兼顧AI與液冷散熱

CPU/GUP/xPU也構(gòu)成了系統(tǒng)設計的熱量挑戰(zhàn),各種處理器消耗的功率不斷攀升,另一方面,科研/醫(yī)療設施/金融/石油和天然氣企業(yè)需要人工智能/高性能計算來提高其專業(yè)競爭力。在這些企業(yè)中,有很多需要在員工工作的地點設置工作站或本地服務器。

基于這樣的需求,Supermicro推出功能強大、安靜且節(jié)能的NVIDIA加速人工智能(AI)開發(fā)平臺系列當中的首款裝置。全新的AI開發(fā)平臺SYS-751GE-TNRT-NV1是一款應用優(yōu)化的系統(tǒng),在開發(fā)及運行AI軟件時表現(xiàn)尤其出色。此外,這個性能強大的系統(tǒng)可以支持小團隊里的用戶同步運行訓練、推理和分析等工作負載。

獨立的液冷功能可滿足四個NVIDIA? A100 Tensor Core GPU和兩個第4代Intel Xeon可擴展處理器的散熱需求,在發(fā)揮完整性能的同時提高整體系統(tǒng)效率,并實現(xiàn)了在辦公環(huán)境下的安靜(約30dB)運行。

對于散熱的考量,Supermicro高管認為搭載NVIDIA A800等強大的協(xié)加速器、且聲壓級介于30~45分貝的工作站,必須采用液冷解決方案才能滿足這一需求。冷板式液冷在市場上經(jīng)過了十多年的考驗,目前其成熟度和可靠性已經(jīng)達到了數(shù)據(jù)中心大規(guī)模部署的水平。

創(chuàng)新技術驅(qū)動成長

早前,Supermicro就提出了觀察到的七大創(chuàng)新技術,他們包括高性能350W CPU和700W GPU、處理速度更快的DDR5內(nèi)存、第五代PCI-E 5.0技術、Compute Express Link(CXL,開放式互聯(lián)標準)、400G高速網(wǎng)絡、新型固態(tài)硬盤和液冷技術。

簡言之就是更高的功耗和更快的數(shù)據(jù)傳輸速度。這就需要優(yōu)化功率效率、解決熱量挑戰(zhàn)、加強第五代PCIe、DDR5、高速網(wǎng)絡、無阻塞系統(tǒng)架構(gòu)設計和部署等。

Supermicro高管指出,這些創(chuàng)新技術背后的一個共同點是熱量調(diào)度。更快的處理器頻率、更多的計算核心、更高速的網(wǎng)絡都會產(chǎn)生更多的熱量,這些熱量必須輸送到數(shù)據(jù)中心之外。他表示,正如我們預計的技術趨勢和產(chǎn)品路線圖所示,當前和新一代人工智能/高性能計算服務器采用的熱量解決方案必須比目前的空氣冷卻更加高效。

展望已經(jīng)到來的AI爆發(fā)的時代,ChatGPT的需求日益增長,不僅推高了服務器的銷量,而且還推動新技術通過大規(guī)模部署而被普遍接納的機會。GPT提供的服務包括語言翻譯、聊天機器人、內(nèi)容生成、語言分析、語音輔助等等。

要實現(xiàn)人工智能系統(tǒng)的所有關鍵技術,就需要足夠快速的服務器,并通過復雜的架構(gòu)、用于維護工作的液冷管布置等將其聯(lián)網(wǎng)。這些專業(yè)技術知識意味著解決方案將不再作為一個個的服務器提供。完整的解決方案部署更像是一個具有機架級就緒水平的即插即用解決方案。

Supermicro將ChatGPT視為服務器市場增長的關鍵驅(qū)動力,未來我們會看到GPT服務的更多創(chuàng)新型用例。Supermicro已準備好面對這個趨勢,始終保持在AI服務器技術前沿,并提供創(chuàng)新的解決方案,使得客戶能夠加速他們的AI應用規(guī)劃,同時優(yōu)化總體擁有成本并通過綠色計算最大限度地減少對環(huán)境的影響。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    12

    文章

    9129

    瀏覽量

    85338
  • AI
    AI
    +關注

    關注

    87

    文章

    30759

    瀏覽量

    268903
  • Supermicro
    +關注

    關注

    0

    文章

    29

    瀏覽量

    9298
收藏 人收藏

    評論

    相關推薦

    基礎篇:從零開始了解

    即計算能力(Computing Power),狹義上指對數(shù)字問題的運算能力,而廣義上指對輸入信息處理后實現(xiàn)結(jié)果輸出的一種能力。雖然處理的內(nèi)容不同,但處理過程的能力都可抽象為。比
    的頭像 發(fā)表于 11-15 14:22 ?551次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎篇:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    中科曙光入選2024服務產(chǎn)業(yè)圖譜及服務產(chǎn)品名錄

    近日,中國信通院公布首個《服務產(chǎn)業(yè)圖譜(2024年)》及《服務產(chǎn)品名錄(2024年)》。
    的頭像 發(fā)表于 08-06 14:23 ?680次閱讀

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設備,其性能優(yōu)化顯得尤為關鍵。而GPU
    的頭像 發(fā)表于 07-25 08:28 ?613次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>為什么選擇GPU

    商湯大裝置服務獲國家認證

    商湯大裝置服務獲國家認證! 近日,經(jīng)過中國電子技術標準化研究院專家審核,商湯科技通過
    的頭像 發(fā)表于 06-22 10:59 ?610次閱讀

    AI高服務器散熱,需要用到哪些導熱界面材料?

    在數(shù)字經(jīng)濟、AI大模型等發(fā)展的帶動下,全球服務器的市場需求急劇提升,利用其強大的計算能力,能夠處理復雜的算法和海量數(shù)據(jù)。與此同時,生成式人工智能的大需求也拉高了服務器領域的功耗水平
    的頭像 發(fā)表于 05-30 10:44 ?642次閱讀
    AI高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>散熱,需要用到哪些導熱界面材料?

    引領柔性新風潮,加速企業(yè)數(shù)智轉(zhuǎn)型首選服務器就是它

    在當今云計算時代,企業(yè)對于云服務器的需求已經(jīng)不僅僅停留在簡單的彈性上,更多的是希望能夠根據(jù)自身業(yè)務需求,獲得精準、靈活的計算資源,以實現(xiàn)成本最優(yōu)和業(yè)務最佳性能。 然而,傳統(tǒng)的云服務器
    的頭像 發(fā)表于 05-22 19:35 ?313次閱讀
    引領柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新風潮,加速企業(yè)數(shù)智轉(zhuǎn)型首選<b class='flag-5'>服務器</b>就是它

    智能存在缺口,AI服務器市場規(guī)模持續(xù)提升

    商的資本支出將大幅增加。全球前四大云服務商資本支出調(diào)升,預計將從2023年的1400億美元提升至2024年的超過2000億美元。 ? AI 服務器市場規(guī)模持續(xù)增長 ? 近些年,人工智能技術在各個領域廣泛應用,包括智能制造、智慧醫(yī)
    的頭像 發(fā)表于 05-22 00:14 ?3085次閱讀

    弘信電子簽訂服務器產(chǎn)品銷售合同

    弘信電子的子公司甘肅燧弘人工智能科技有限公司與慶陽市京合云計算科技有限公司簽訂了服務器產(chǎn)品銷售合同 。
    的頭像 發(fā)表于 05-13 11:10 ?549次閱讀

    十問:超,通存比

    鄔賀銓指出,現(xiàn)有測算方法難以精準衡量。國內(nèi)企業(yè)服務器的出貨量并不等于國內(nèi)市場的使用量,而且進口國外的服務器未統(tǒng)計在內(nèi);服務器出貨量也不等
    的頭像 發(fā)表于 04-13 11:40 ?4468次閱讀

    解鎖未來,華為云耀云服務器 X 實例引領柔性新時代

    在數(shù)字化浪潮的推動下,云計算已經(jīng)成為企業(yè)發(fā)展的必然選擇,但傳統(tǒng)云服務器常常束縛了企業(yè)的發(fā)展步伐。云耀云服務器 X 實例的問世,標志著云計算邁向了全新的柔性時代。云耀云
    的頭像 發(fā)表于 04-11 22:23 ?1014次閱讀
    解鎖未來,華為云耀云<b class='flag-5'>服務器</b> X 實例引領柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新時代

    256Tops!CSA1-N8S1684X服務器

    (基于BM1684X的高服務器)高AI處理BM1684X搭載了BM1684AI
    的頭像 發(fā)表于 03-23 08:02 ?1611次閱讀
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    華為中國合作伙伴大會2024 | 軟通動力全面布局服務

    使能AI大模型發(fā)展新篇章 北京2024年3月19日 /美通社/ -- 隨著海量數(shù)據(jù)爆發(fā)增長,以及AI大模型訓推服務帶來的巨大需求,對泛在分布的
    的頭像 發(fā)表于 03-19 22:22 ?545次閱讀
    華為中國合作伙伴大會2024 | 軟通動力全面布局<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務</b>

    能RADXA微服務器試用體驗】Radxa Fogwise 1684X Mini 規(guī)格

    通過網(wǎng)絡可以了解到,能RADXA微服務器的具體規(guī)格: 處理:BM1684X :高達32Tops INT8峰值
    發(fā)表于 02-28 11:21

    國產(chǎn)服務器主陣地哪些?

    AI 、低功耗等對服務器芯片提出新的要求,英偉達 GH200 有望加速全球 AI 服務器
    的頭像 發(fā)表于 01-29 11:29 ?1251次閱讀
    國產(chǎn)<b class='flag-5'>服務器</b>主陣地<b class='flag-5'>有</b>哪些?

    弘信電子與AI服務器合資,助力國產(chǎn)芯片落地

    此外,弘信電子近期在AI業(yè)務上取得了突破性進展,這并非源自本土化的積累,而是依賴于團隊敏銳的戰(zhàn)略眼光和強烈的創(chuàng)新動力。此次投資是弘信電子在AI
    的頭像 發(fā)表于 12-25 09:30 ?959次閱讀
    主站蜘蛛池模板: 伧理片午夜伧理片| 黄色片网站下载| 九色PORNY丨视频入口| 男人插曲女人的视频| 视频成人永久免费下载| 一区二区中文字幕在线观看 | 国产精品观看视频免费完整版| 精品一产品大全| 日本aaaa| 一本道无码v亚洲| 俄罗斯粗大猛烈18P| 久久久97丨国产人妻熟女| 少妇久久久久久被弄高潮| 中文字幕人成人乱码亚洲影视S| 国产不卡一卡2卡三卡4卡网站| 麻豆AV无码蜜臀AV色哟| 亚州精品视频| JAPANRCEP老熟妇乱子伦视频| 精品无码乱码AV| 神马午夜不卡片| 97蜜桃网123.com| 红杏俱乐部| 色欲蜜臀AV免费视频| 97色伦图区97色伦综合图区| 果冻传媒独家原创在线观看| 日韩亚洲欧美中文在线| 2022久久精品国产色蜜蜜麻豆| 国内精品久久久久影院男同志| 日本无修肉动漫在线观看| 4484在线观看视频| 九九电影伦理片| 性白俄罗斯高清xxxxx| 超碰在线97久久视频观看| 男人j进女人j一进一出| 一本久道视频无线视频| 国产午夜人成在线视频麻豆| 日韩精品免费一区二区| 99视频这里只有精品国产| 久久久黄色片| 亚洲欧美日韩精品自拍| 国产精品亚洲专区在线播放|