7月9日,在“元腦中國行”全國巡展濟南站上,浪潮信息發布「AIStation 人工智能開發平臺V5升級版」,具備全面的大模型流程支持能力,幫助企業用戶降低構建大模型微調任務門檻,提供標準、安全的大模型推理服務,并針對大模型業務資源需求優化了集群管理功能,助力行業客戶快速開展大模型業務創新與落地,獲得穩定、高效、易用、高精度的大模型服務。
隨著大模型技術與產業化發展的快速迭代,企業用戶在大模型開發和應用的過程中面臨諸多新的挑戰。一方面,用戶在大模型微調過程通常會遇到環境算法配置復雜、模型結構多樣適配繁瑣、算力資源管理難等問題,模型精度難以提升;另一方面,在部署本地化、私有化大模型時,會面臨部署經驗不足、性能優化瓶頸、算力資源利用不合理等挑戰,難以在保障數據與業務隱私的條件下構建和使用本地化大模型應用。
AIStation V5版本功能全面升級,支持端到端的大模型開發流程,新增適配50+大模型結構,內置10+微調數據集和20+可配置參數項,提供低代碼大模型微調能力,讓用戶一鍵提交任務、統一管理任務,低門檻構建大模型微調任務、優化模型性能。同時,針對大模型算力資源占用高、訓練穩定性難保障的問題,AIStation V5升級了針對大模型訓練與微調的分布式任務一鍵配置能力,幫助用戶高效、穩定地進行大模型微調。
AIStation V5集成了高性能推理服務框架,同等算力大模型批量推理服務承載量較原生部署方式提升1-3倍。通過對算力、服務、業務訪問的全方位治理,以及多樣化的推理服務部署機制,AIStation V5可以滿足不同場景下用戶自研模型的部署需求,讓用戶能夠在大規模集群內更加細粒度的分配調度算力,部署和使用不同來源、不同結構、不同規模的大模型推理服務,就像在本地部署單個大模型、傳統AI應用與服務一樣簡單。
此外,AIStation V5針對大模型業務特點持續優化集群管理核心功能,支持平臺管控的數據模型下載任務管理和導入流程,實現了分鐘級大模型訓練異常自動恢復,能夠有效降低大模型相關業務的人力投入和管理成本;優化升級算力池化與分配策略,實現多團隊開發人員共用流程、共享環境,開發者與算力高效協同,助力企業客戶提升各類AI創新業務的整體效率。
浪潮信息AIStation是面向企業級訓練與推理場景開發的人工智能開發平臺,實現從模型開發、訓練、部署、測試、發布、服務的全流程一站式高效交付。通過統一管理計算資源、數據資源、深度學習軟件棧資源,以及支持大模型業務全鏈條,AIStation能夠為企業用戶提供敏捷高效的一體化AI平臺,加快AI開發應用創新落地。
審核編輯:彭菁
-
浪潮
+關注
關注
1文章
458瀏覽量
23851 -
人工智能
+關注
關注
1791文章
47183瀏覽量
238253 -
數據集
+關注
關注
4文章
1208瀏覽量
24689 -
大模型
+關注
關注
2文章
2423瀏覽量
2641
原文標題:浪潮信息發布AIStation V5新版本,全面支持大模型開發流程與高效算力調度
文章出處:【微信號:浪潮AIHPC,微信公眾號:浪潮AIHPC】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論