近日,摩爾線程與國內(nèi)領先的數(shù)據(jù)智能服務商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業(yè)大模型Deepexi已完成訓練及推理適配。基于摩爾線程夸娥千卡智算集群,滴普科技成功完成了700億參數(shù)LLaMA2大語言模型的預訓練測試,訓練時長共計77小時,全程無故障連續(xù)運行,集群訓練穩(wěn)定性達到100%,訓練效率和兼容性均達到預期。
滴普科技作為數(shù)據(jù)智能服務商,以數(shù)據(jù)智能技術為基礎,為客戶提供數(shù)據(jù)智能基礎設施、企業(yè)大模型產(chǎn)品,以及數(shù)據(jù)智能創(chuàng)新服務。基于已深度服務的頭部客戶所積累的深厚數(shù)據(jù)能力,滴普科技構建的Deepexi企業(yè)大模型,在語義、視覺、語音、跨模態(tài)等方面的能力均表現(xiàn)優(yōu)越,能夠運用模型工具鏈為企業(yè)提供高質(zhì)量的數(shù)據(jù)準備、模型訓練、調(diào)優(yōu)、部署及推理服務,快速構建企業(yè)不同領域模型以及智能體應用,幫助企業(yè)實現(xiàn)從數(shù)據(jù)驅(qū)動到智能驅(qū)動的升級。
此次,摩爾線程與滴普科技的合作,借助夸娥千卡智算集群全棧方案的模型覆蓋、推理加速、CUDA兼容、斷點續(xù)訓、分布式訓練、集群可靠性等8大核心能力,為構建國產(chǎn)化數(shù)智賦能底座奠定堅實基礎。同時,夸娥千卡智算集群作為業(yè)內(nèi)首個跑通、跑完國產(chǎn)大模型的千卡集群,以全功能GPU為底座,提供軟硬一體化的全棧解決方案。基于此次合作,雙方能夠為各行各業(yè)提供全國產(chǎn)大模型解決方案,廣泛應用于訓練、微調(diào)和實時推理等場景。
目前,滴普科技已與中國海誠、中核裝備院、百麗時尚等企業(yè)開展產(chǎn)業(yè)落地實踐,成為產(chǎn)業(yè)大模型落地的領先企業(yè)。未來,摩爾線程與滴普科技將繼續(xù)發(fā)揮雙方在技術、場景和軟硬件協(xié)同方面的優(yōu)勢,在能源、金融、先進制造等領域,以及與央企、國企的合作中,共同探索全國產(chǎn)化解決方案的落地機會,推動人工智能在更多產(chǎn)業(yè)領域的應用,助力企業(yè)實現(xiàn)智能升級,賦能行業(yè)高質(zhì)量發(fā)展。
-
gpu
+關注
關注
28文章
4729瀏覽量
128890 -
人工智能
+關注
關注
1791文章
47183瀏覽量
238247 -
摩爾線程
+關注
關注
2文章
200瀏覽量
4560 -
大模型
+關注
關注
2文章
2423瀏覽量
2640
原文標題:摩爾線程 × 滴普科技|完成大模型訓練與推理適配
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論