近日,在權威財經媒體36氪主辦的“WISE顛覆·AIGC”主題產業峰會上,墨芯人工智能憑借業界領先的AI計算平臺,獲頒“下一個百億規模AIGC產品”稱號,被推舉為新一代人工智能領域最具生產力的代表產品。
該獎項由36氪綜合行業分析師等專家團分析與調研數據,旨在評估AGI時代現象級產品,評出站在熱潮的巔峰定義和捕捉新機會的企業。
墨芯榮膺此獎,充分體現出在AIGC時代技術優勢和巨大潛力,也再度印證了稀疏計算作為趨勢性技術的巨大價值獲得了廣泛關注。
稀疏計算
從根本上解決大模型發展與算力的矛盾
ChatGPT等AIGC應用的爆發,加速了新的變革機會的到來,帶動大模型、芯片等相關的產業鏈各環節的躍遷。在AIGC產業鏈中,算力作為基礎設施,被公認為最具投資價值的賽道。
紅杉資本《生成式AI:一個創造性的新世界》指出,生成式AI可能創造數萬億美元的經濟價值。ChatGPT走紅以后,算力的供不應求已成為焦點,AI芯片頭部企業創下史上最高單季銷量紀錄,遠超過先前《華爾街日報》估計的銷售額,算力市場的需求仍在持續攀升。
在算力提升的各種探索方向上,稀疏計算是業界公認最有前景的的技術:
稀疏模型將取代稠密模型成為主流——已成為業界權威認同的趨勢,并得到Google,微軟,Meta,英偉達等巨頭的投入。
Google的AI負責人Jeff Dean早已指出:稀疏化是AI模型的發展趨勢,“今天的模型是稠密而低效的,Pathways(Google提出的統一架構)將使它們變得稀疏和高效。” Google的MoE(稀疏門控的專家混合層)及Pathways架構等,都是稀疏計算理念的成果,并在實踐中取得比稠密模型更高的效率。芯片巨頭英偉達也在其安培架構中首度引入細粒度結構化稀疏,支持2倍稀疏化。
大模型如何實現廣泛應用,答案也早由Google Research與OpenAI的聯合論文揭示:《Sparse is Enough in Scaling Transformers》。
論文地址:https://arxiv.org/pdf/2111.12763.pdf
稀疏計算被眾多巨頭看好的原因,正是由于它能從根本上解決大模型發展與算力的矛盾:稀疏計算讓大模型既能在參數量上躍升若干個數量級的同時,又不因參數增長而產生過大的計算量,解決了大模型的高算力需求、高功耗、高費用等痛點,帶來“多贏”的效果。
有了稀疏計算的加持,業界大模型的部署也能迎來更廣闊的施展空間:更多企業、開發者能夠基于“用得起”的算力服務,來進行AIGC等應用的開發與大模型的行業落地。
墨芯
稀疏計算引領者
此次墨芯登上“下一個百億規模AIGC產品”榜單,正是基于墨芯長期在稀疏計算領域的深耕。AIGC時代,墨芯率先以稀疏計算技術、產品與實踐的強大實力,成為AIGC算力層的中堅代表:
01
創新技術引領
當業界對神經網絡高倍稀疏化算法尚停留在研究層面時,墨芯已率先將算法和硬件結合落地,基于軟硬協同設計推出首顆稀疏芯片Antoum?,實現稀疏神經網絡的高模型精度和高硬件利用效率,充分釋放稀疏計算的潛力。
Antoum?打破業界紀錄,成為首顆支持高稀疏倍率的AI芯片:支持高達32倍稀疏張量計算,此前業內主流芯片僅支持2倍稀疏化,Antoum?將這一紀錄提升了16倍。
02
產品屢破性能紀錄
在英偉達、英特爾等巨頭云集的國際權威基準測評MLPerf中,墨芯連續兩屆蟬聯冠軍,并在MLPerf Inference 3.0斬獲雙冠:
在開放分區Resnet-50賽道中,墨芯S40計算卡以127,375 FPS,斬獲單卡算力全球第一;
墨芯S30計算卡以4卡383,520 FPS算力,獲整機4卡算力全球第一。
墨芯計算卡基于12nm的Antoum?芯片,性能已戰勝4nm工藝產品,站在世界頂尖水平,足以證明稀疏計算的強大優勢。
03
產業實踐推動大模型應用
基于軟硬協同的AI計算平臺,墨芯為行業帶來高算力、低延時、低功耗的算力解決方案,不僅滿足大模型與AIGC等應用的海量算力需求,同時破解延時難題,實現推理加速,為大模型在眾多行業場景的落地提供算力基礎設施。墨芯的AI計算卡產品已實現量產,并在多個領域獲得客戶認可。
AI 2.0時代已經來臨,大模型即將與各行業深度融合,產生更豐富多樣的AIGC等應用。稀疏計算已站在這場變革之巔,引領算力的進化與發展;墨芯亦將以創新的稀疏計算方案,為大模型應用提供強大動力支撐,為AIGC打開更廣闊的發展空間,去賦能下一個AIGC現象級產品。
審核編輯 :李倩
-
人工智能
+關注
關注
1791文章
47183瀏覽量
238255 -
ChatGPT
+關注
關注
29文章
1558瀏覽量
7595 -
AIGC
+關注
關注
1文章
361瀏覽量
1539
原文標題:“下一個百億規模AIGC產品”揭曉,墨芯人工智能上榜
文章出處:【微信號:墨芯人工智能,微信公眾號:墨芯人工智能】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論