浪潮信息NF5468服務器LLaMA訓練性能
浪潮信息宣布旗下NF5468系列AI服務器率先支持英偉達最新推出的L40S GPU，可為人工智能大模型訓練和推理、元宇宙及圖形視頻處理等應用提供強大算力。實際測試表明，搭載8顆NVIDIA L40S的浪潮信息NF5468服務器大幅提升了LLaMA大模型的微調訓練性能。目前該產品已具備交付能力，客戶可以進行下單采購。
本次浪潮信息推出的算力系統是兼具訓練和推理能力的NF5468系列AI服務器，包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型號，產品可以在4U空間內搭載2顆高性能通用處理器、8張L40S GPU加速器及多顆高速互聯網絡，從而滿足大模型計算對高算力、高互聯的極致性能需求。在軟件上，產品支持浪潮信息最新推出的OGAI大模型智算軟件棧，為客戶提供高效的大模型生產力支撐。
針對業界廣泛使用的LLaMA開源大型語言模型，浪潮信息NF5468服務器搭載8顆L40S GPU進行了大模型訓練性能測試，得益于浪潮信息在NF5468服務器的優秀設計和大模型算法上的專業經驗，L40S GPU的強大性能得以充分發揮，實際測試數據表明LLaMA大模型微調訓練性能優異。
浪潮信息NF5468系列AI服務器搭載L40S GPU可以很好地完成LLaMA大模型訓練任務，并具備良好的性能擴展，將幫助客戶迅速部署高性能的AI算力系統、采納強大的GPU加速器和領先的軟件生態，加速生成式AI的產業創新和發展。
審核編輯：湯梓紅
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
服務器
+關注
關注
12文章
9123瀏覽量
85328 -
浪潮
+關注
關注
1文章
458瀏覽量
23851 -
AI
+關注
關注
87文章
30728瀏覽量
268887 -
大模型
+關注
關注
2文章
2423瀏覽量
2643
發布評論請先 登錄
相關推薦
中國邊緣服務器市場持續兩位數增長，浪潮信息蟬聯第一
近日，IDC正式發布《中國半年度邊緣服務器市場（2024上半年）跟蹤報告》（以下簡稱：報告）。數據顯示，2024上半年中國邊緣計算服務器市場保持高速增長，出貨量同比增長40.6%。其中浪潮信息邊緣
浪潮信息發布KOS AI定制版，大幅提升大模型訓練效率
浪潮信息近期推出了“元腦服務器操作系統KOS AI定制版”，為人工智能領域帶來了革命性的變化。這款定制版操作系統通過簡單的兩步操作，即可實現大模型訓練環境的快速部署。
浪潮信息AI存儲性能測試的領先之道
AI技術的無限可能。近日，在MLCommons的子項目MLPerf Storage v1.0性能基準評測中，浪潮信息再度展現了在AI存儲領域的卓越實力。
讓服務器開機遠離飛機起飛！浪潮信息首創3秒智能控溫技術，降噪30.4%
？而且，伴隨著風扇的呼嘯聲，服務器啟動"龜速"，開機時間要3、5分鐘甚至更久，嚴重影響了服務器運維部署效率。 ? 通過BMC Linux/RTOS異構雙系統并行管理技術，浪潮信息首創「開機3秒智能控溫技術」，能夠在
浪潮信息元腦?服務器率先支持英特爾?至強?6處理器
北京2024年6月7日?/美通社/ -- 6月6日，英特爾在全球范圍內發布了英特爾?至強?6處理器，浪潮信息服務器產品線總經理趙帥受邀參會并發表演講。會上，浪潮信息多款元腦
【中心動態】 走進浪潮信息
5月8日，RISC-V國際人才培養認證中心主任蔣學剛一行，到訪浪潮電子信息產業股份有限公司（以下簡稱“浪潮信息”），受到深圳區域副總經理段青云、產品經理陶耀民的熱情接待。浪潮信息是全球
浪潮信息推出業界首個支持50℃進液溫度的服務器
近日，浪潮信息再次突破技術邊界，其旗艦產品NF5180G7服務器成為業界矚目焦點。這款服務器不僅實現了1U空間內的超高密度設計，更在散熱技術上取得了革命性進展，成為首個支持浸沒式液冷5
浪潮信息突破浸沒式液冷服務器設計極限 業界首個支持50℃進液溫度
北京2024年5月6日 /美通社/ -- 近日，浪潮信息旗下產品NF5180G7成為業界首個可支持浸沒式液冷50℃進液溫度的服務器。NF5180G7是一款超高密度
浪潮信息NE5260G7服務器適配第五代英特爾至強處理器
浪潮信息近日宣布，其邊緣服務器NE5260G7已成功適配第五代英特爾至強處理器，實現了平均性能21%的提升。這一創新產品不僅針對邊緣AI算力場景支持了10余種加速芯片，還在存儲場景上實
浪潮信息服務器NF5180G7榮獲SPECjbb2015性能冠軍
近日，國際權威的標準性能評測機構（SPEC）公布了SPECjbb2015榜單，浪潮信息服務器NF5180G7憑借每秒558,626次企業應用業務處理的卓越成績，蟬聯
智邦國際與KeyarchOS完成浪潮信息澎湃技術認證
KeyarchOS V5完全兼容，整體運行穩定高效，滿足用戶的關鍵性應用需求，獲得相應兼容性認證證書。 ? ? 浪潮信息澎湃技術認證是基于多元、創新的通用計算平臺，與供應鏈及軟件服務等生態合作伙伴共同構建的產品互兼容性認證體系，包含"產品部件認證"、"平臺軟件認證"、
得瑞領新與KeyarchOS完成浪潮信息澎湃技術認證
北京2024年1月19日?/美通社/ -- 日前，北京得瑞領新科技有限公司（簡稱DERA）NVMe SSD D7436/ D7456與云巒服務器操作系統KeyarchOS完成浪潮信息澎湃技術認證
浪潮信息與英特爾聯合發布全球首個全液冷冷板服務器參考設計
北京2024年1月19日?/美通社/ -- 1月18日，浪潮信息與英特爾聯合發布全球首個全液冷冷板服務器參考設計，并面向業界開放，為全球液冷產業鏈上下游提供極具價值的參考樣板，推動先進全液冷冷板
浪潮信息八路服務器創SAP SD評測最高性能
北京2024年1月17日?/美通社/ -- 1月15日，據全球領先的企業應用軟件提供商SAP發布的最新SAP SD評測結果，浪潮信息TS860G7服務器創下1,659,970 SAPS的最高性能
浪潮信息EIS400自動駕駛域控制器結構體系解讀
汽車的高性能運算可以算是邊緣計算，浪潮信息是國內邊緣計算服務器排名第一的廠家，自然也延伸到汽車自動駕駛領域。
發表于 01-12 10:45
?1155次閱讀
工商網監
評論