隨著DeepSeek在大模型領域的快速發(fā)展,AI推理算力需求呈現爆發(fā)式增長。伴隨AI應用加速滲透企業(yè)級場景,企業(yè)級智算資源管理新需求應運而生。
近日,登臨科技與元石智算達成重要戰(zhàn)略合作,成功實現元石智算平臺在登臨Goldwasser推理集群的部署,并完成多款主流大模型的全功能適配,即將正式對外開放服務。雙方聚焦企業(yè)級AI私有化部署場景,致力于構建高性能AI推理基礎設施體系,深度釋放國產GPU算力潛能,加速技術優(yōu)勢向產品競爭力的轉化,為企業(yè)智能化轉型提供強勁動力,助力業(yè)務實現跨越式發(fā)展。
元石智算平臺通過創(chuàng)新性整合算力資源調度與推理加速技術,解決了客戶在大模型推理場景下的算力成本與調度管理難題,助力合作伙伴實現算力成本優(yōu)化與使用效率提升的雙重突破。此次合作,旨在協力構建一個以AI Infra平臺深度優(yōu)化國產自研GPU芯片的大模型服務體系,加速國產GPU在商業(yè)場景的規(guī)模化應用,為我國人工智能產業(yè)生態(tài)建設注入新動能。
作為國內GPU領先企業(yè),登臨科技堅持核心IP完全自主研發(fā),堅持以客戶需求為導向,助力客戶打造更高能效比、更具有市場競爭力的產品。登臨科技創(chuàng)新通用GPU系列產品Goldwasser(高凜)支持多種精度數據類型,已驗證落地包括DeepSeek, Qwen, GLM, Vicuna, Llama, BLOOM, GPT2, OPT等各類大模型。兼容國內外主流AI生態(tài),顯著提升AI計算的密度與效率,在實現硬件性能和能效最大化的同時,解決通用性和高效率的雙重難題,全面滿足各行業(yè)全場景的綜合需求。
在本次合作中,經過雙方嚴格的功能和性能測試,完成了登臨科技Goldwasser(高凜)通用GPU系列產品與元石智算平臺的全面接入。該集群可靈活支持文本生成、文生圖/視頻、語音識別、智能問答、AI翻譯、代碼輔助編程等智能應用體,滿足各類客戶在多場景高并發(fā)下的實時推理需求。平臺用戶通過簡易操作即可調用各類模型的API接口,實現快速部署。同時,平臺還能提供更具高性價比的算力服務。
此次合作將顯著降低AI應用的技術門檻和使用成本,為國產GPU芯片在AI領域的規(guī)模化應用開辟新空間。登臨科技與元石智算將深化戰(zhàn)略協同,聚焦國產智算中心建設、智能制造升級及新質生產力領域,面向大型國央企及上市公司等等行業(yè)各類場景,聯合打造新一代AI基礎設施,賦能千行百業(yè)智能化轉型。
元石智算:
武漢元石智算科技有限公司(MetaStone,簡稱“元石智算”)以成為“值得信賴的新一代服務器與解決方案提供商”為愿景,為客戶提供安全可靠的產品服務。元石智算以“MetaStone”自主品牌構建計算新范式,推出全球首個RISC-V跨架構產品RISMA跨架構云原生POD,產品矩陣覆蓋AI一體機、RISC-V計算服務器、高性能并行文件系統、多元算力智算平臺等創(chuàng)新產品,已在多個智算中心及AI推理、邊緣技術等場景實現規(guī)模化部署。
登臨科技:
作為國內通用GPU領先企業(yè),登臨科技堅持核心技術完全自主研發(fā)。其自主創(chuàng)新的GPU+(基于GPGPU的軟件定義的片內異構計算架構)硬件兼容CUDA生態(tài),并通過架構創(chuàng)新使其兼具通用性和高效率。目前,登臨首款Goldwasser(高凜)創(chuàng)新通用GPU產品已規(guī)模化運用在云至邊緣多家行業(yè)知名企業(yè)的主營業(yè)務中,覆蓋互聯網、泛安防、電信、能源、金融和教育等多個領域。登臨的新一代Goldwasser(高凜)系列產品針對基于Transformer的網絡和生成式AI類大模型的應用在性能有大幅提升,對標國際大廠的產品有明顯的能效比和性價比優(yōu)勢。
-
gpu
+關注
關注
28文章
4923瀏覽量
130845 -
AI
+關注
關注
88文章
34623瀏覽量
276440 -
算力
+關注
關注
2文章
1169瀏覽量
15522 -
登臨科技
+關注
關注
0文章
13瀏覽量
521
原文標題:釋放AI芯算力,登臨科技聯合元石智算平臺完成全面適配
文章出處:【微信號:gh_313558c425fe,微信公眾號:登臨科技 DenglinAI】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
評論