電子發燒友網報道(文/李彎彎)2022年底,以ChatGPT為標志的生成式AI場景引爆市場,引發了全行業對于AI大模型等技術的關注,AI發展跨越拐點,大模型逐漸成為新一輪科技革命和產業變革的重要驅動力量。然而大模型的訓練和部署需要大量的計算資源。
訓推一體機成為算力行業趨勢
今年7月,華為攜手伙伴聯合發布昇騰AI大模型訓推一體化解決方案,加速大模型在各行業應用落地,并有23家昇騰AI伙伴推出AI服務器、智能邊緣與終端新品,共同為行業智能化升級提供豐富的產品與解決方案。
昇騰一體機主要是為特定的AI應用設計的集成解決方案。它們整合了昇騰AI處理器、軟件平臺、開發工具和其他關鍵組件,如存儲和網絡設施,以提供針對特定AI任務(如深度學習、圖像處理)的優化性能。這類設備通常更加用戶友好,支持即插即用,特別適合于那些需要快速部署并立即投入使用AI技術的場景。
業界認為,訓推一體機是適合我國市場的優選解決方案。當前我國大模型產業正高速發展,與此同時,技術變革帶來的大模型應用研發周期長、研發門檻高、業務安全隱患等問題一定程度上阻礙里技術落地,尤其是在中國存在大量的G 端和B 端客戶,而訓推一體機很好地解決了這些痛點:
開箱即用,直接享用新技術成果。訓推一體機可實現定制化的大模型應用軟硬一體解決方案,一般可集成優選的成熟大模型產品,廠家可以協助大模型預訓練定制、微調定制、訓練標注、技術培訓等;
2、簡化部署,一般一體機均會提前做好適配調優,算法遷移,幫助客戶簡化大模型部署;3、數據安全,我國高度重視數據安全,尤其是政企客戶,常規鏈接通用大模型存在數據泄露安全隱患,政府等客戶更希望能本地化部署,訓推一體機可完成本地訓練和推理,解決大模型應用數據安全難題,試用于高安全要求場景和客戶。
對于訓推一體機市場需求情況,云從科技此前對媒體表示,對于國產信創需求的增加和對合規、私有化部署的重視,對數據要素和基于大模型的應用側變化的重視,預計將會涌現出較大的應用場景,市場規模龐大,尤其在IT部分的升級和場景需求明確的私有化部署方面,將有巨大的市場機會。
訓推一體機已在多個場景實現落地
據介紹,昇騰AI訓推一體機單體價值量比昇騰服務器提高了很多,可以將其理解為昇騰服務器疊加大模型私有化部署遷移。根據中國招標投標公共服務平臺公告,中貝通信和恒為科技分別中標了AI算力一體機采購項目,該項目采購總價為21.12億元,單價為440萬元。
眾多廠商與華為攜手推出大模型訓推一體機。云從科技表示,公司正在與華為合作推出大模型訓推一體機,方式是共同打造產品。華為的代工廠會將芯片與云從的大模型集成,然后共同推廣給客戶。云從在這個合作中不僅賣產品,還會提供其他應用開發相關的服務。
整個市場空間不同于以往的分成模式,而是通過聯合推廣的方式,與華為各地銷售團隊一起推廣。價格上訓推一體機大約在三四百萬元的范圍內,在中檔旗艦訓練部分報價大致在一百萬元以下,更低端的一體機報價大約在30萬左右。
云天勵飛近日表示,公司聯合華為于今年9月推出了大模型訓推一體化產品—云天天書大模型訓推一體機。該產品內置了公司自主研發的天書千億級大模型。通過與昇騰硬件加速平臺的聯合深度優化,并集成“開箱即用”系列訓推工具,產品可滿足面向多業務場景的大模型高并發高能效處理、業務快速上線的需求。同時,產品具有豐富的接口,支持靈活的二次開發和敏捷部署。
智譜AI、昇騰、華鯤振宇在今年9月也聯合預發布了三款智譜GLM昇騰大模型一體機,包括智譜-昇騰ChatGLM訓推一體機、智譜-昇騰CodeGeeX代碼生成一體機、智譜-昇騰ChatGLM推理一體機,旨在推動千行百業數字化轉型升級。
智譜AI CEO張鵬表示,智譜AI專注于大模型的自主創新,一方面通過人工智能助手產品智譜清言將大模型能力開放給公眾,另一方面也踐行“模型即服務”的理念,讓大模型應用落地千行百業。本次基于昇騰AI打造的大模型一體機,相信將為各行各業帶來更便捷、更安全的大模型軟硬件協同解決方案,推動建設更完善、健全的大模型應用生態。
此外,軟通動力、科大訊飛、醫渡科技、安恒信息、中軟國際此前都陸續發布了其昇騰一體機解決方案,有望賦能千行百業。并且不少方案已經在諸多場景中實現落地,例如AI訓練開發一體機解決方案賦能山東大學科研創新、軟通動力AI機器人昇騰一體機助力深圳機場國際快件海關監管EIMS系統智能化升級等。
總結
隨著科技的不斷發展,人工智能已經逐漸滲透到我們生活的方方面面,從智能手機、智能家居到自動駕駛汽車、醫療診斷等,都離不開人工智能技術的支持。大模型的出現更是為更多領域帶來助力,然而算力也因此面臨挑戰。而訓推一體機讓企業能夠便捷的構建解決方案。
-
昇騰
+關注
關注
1文章
134瀏覽量
6599 -
算力
+關注
關注
1文章
964瀏覽量
14793 -
大模型
+關注
關注
2文章
2423瀏覽量
2640
發布評論請先 登錄
相關推薦
評論