色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

盤點國產GPU在支持大模型應用方面的進展

Carol Li ? 來源:電子發燒友 ? 作者:李彎彎 ? 2024-03-29 00:27 ? 次閱讀

電子發燒友網報道(文/李彎彎)目前談到GPU,大家首先想到的應該就是英偉達了。近一年多時間來,隨著大模型的發展,英偉達GPU的強大實力可謂無人不知。而相比之下,國產GPU的聲勢就小了許多。事實上,近些年國內也有不少GPU企業在逐步成長,雖然在大模型的訓練和推理方面,與英偉達GPU差距極大,但是不可忽視的是,不少國產GPU企業也在AI的訓練和推理應用上找到位置。

wKgZomYFRmmARSpxAAFSRafzhM0753.png

景嘉微

景嘉微是國產GPU市場的主要參與者,目前已經完成JM5、JM7和JM9系列三代圖形處理芯片的研發,并成功實現產業化。

2024年3月12日,該公司發布公告稱,其面向AI 訓練、AI推理、科學計算等應用領域的景宏系列高性能智算模塊及整機產品研發成功,并將盡快面向市場推廣。

根據公告,景宏系列支持INT8、FP16、FP32、FP64等混合精度運算,支持全新的多卡互聯技術進行算力擴展,適配國內外主流CPU操作系統及服務器廠商,能夠支持當前主流的計算生態、深度學習框架和算法模型庫,大幅縮短用戶適配驗證周期。

海光信息

海光信息的產品包括海光通用處理器(CPU)和海光協處理器(DCU)。海光DCU屬于GPGPU 的一種,采用“類CUDA”通用并行計算架構,能夠較好地適配、適應國際主流商業計算軟件和人工智能軟件。

海光8000系列具有全精度浮點數據和各種常見整型數據計算能力,具有最多64個計算單元,能夠充分挖掘應用的并行性,發揮其大規模并行計算的能力,快速開發高能效的應用程序。

海光DCU主要部署在服務器集群或數據中心,為應用程序提供性能高、能效比高的算力,支撐高復雜度和高吞吐量的數據處理任務。在AIGC持續快速發展的時代背景下,海光DCU 能夠完整支持大模型訓練,實現LLaMa、GPT、Bloom、ChatGLM、悟道、紫東太初等為代表的大模型的全面應用,與國內包括文心一言等大模型全面適配,達到國內領先水平。

瀚博半導體

瀚博半導體成立于2018年12月,是一家GPU芯片提供商,致力于為人工智能核心算力和圖形渲染、內容生成、AIGC提供全棧式芯片解決方案。瀚博目前擁有自主研發的核心IP以及兩代GPU芯片,并衍生AI、渲染、視頻三大產品線。

據介紹,其2023年推出的第二代GPU SG100芯片,采用7nm先進制程,具備業界一流的渲染性能,同時兼具低延時高吞吐的AI算力和強大的視頻處理能力,可廣泛支持數字孿生、數字人、云桌面、云手機、云游戲、云渲染、工業軟件等多領域應用。

同時針對大模型時代算力需求,瀚博還首發了LLM大模型AI加速卡VA1L,具備200 TOPS INT8/72 TFLOPS FP16算力,并支持ChatGPT、LLaMA、Stable Diffusion等主流AIGC網絡模型。同時,瀚博更重磅推出AIGC大模型一體機,共使用8張LLM大模型AI加速卡VA1L,支持512GB顯存,進而支持1750億參數的大模型。

摩爾線程

摩爾線程成立于2020年10月,是一家以全功能GPU芯片設計為主的集成電路公司。該公司已經發布兩款自主研發的GPU芯片產品,2022年3月發布GPU產品“蘇堤”,11月又發布了第二款GPU芯片“春曉”。

“春曉”內置MUSA架構通用計算核心以及張量計算核心,可支持FP32、FP16和INT8三種計算精度;相較于其首款自研的GPU“蘇堤”,“春曉”內置的四大計算引擎都進行了全面升級,性能顯著提升,AI計算加速平均提升4倍。

沐曦集成

沐曦成立于2020年9月,致力于為異構計算提供全棧GPU芯片及解決方案,可廣泛應用于智算、智慧城市、云計算、自動駕駛、數字孿生、元宇宙等前沿領域。

沐曦集成目前有三條產品線規劃,曦思N系列GPU產品用于智算推理,曦云C系列GPU產品用于通用計算,曦彩G系列GPU產品用于圖形渲染。據沐曦此前對外透露,公司N系列云端推理芯片已經量產出貨,C系列于2023年6月13日回片并完成測試。

沐曦產品均采用完全自主研發的GPU IP,擁有完全自主知識產權的指令集和架構,配以兼容主流GPU生態的完整軟件棧(MXMACA),具備高能效和高通用性的天然優勢,能夠為客戶構建軟硬件一體的全面生態解決方案。

天數智芯

天數智芯致力于開發自主可控、國際領先的高性能通用GPU產品,探索通用GPU趕超發展道路,加快建設自主產業生態,為全產業提供高端算力解決方案。

天數智芯2018年正式啟動通用GPU芯片設計,在2021年發布了其通用GPU“天垓100”芯片及天垓100加速卡,2021年10月宣布天垓100正式進入量產環節。2022年9月,又發布了首款7nm制程的云端推理通用GPU產品“智鎧100”。

智鎧 100 芯片支持 FP32、FP16、INT8 等多精度混合計算,實現了指令集增強、算力密度提升、計算存儲再平衡,支持多種視頻規格解碼。

燧原科技

燧原科技專注人工智能領域云端和邊緣算力產品,致力為通用人工智能打造算力底座,提供原始創新、具備自主知識產權的AI加速卡、系統集群和軟硬件解決方案。產品可廣泛應用于泛互聯網、智算中心、智慧城市,智慧金融、科學計算、自動駕駛等多個行業和場景。

該公司于2018年3月成立,僅用18個月時間,即發布第一代AI芯片邃思1.0,又于2021年7月發布邃思2.0。到現在,該公司已經在兩款芯片的基礎上迭代了兩代訓練和推理產品,第三代產品也已經在研發中。并且,燧原科技已經在科研領域和智慧城市的應用中落地了訓練和推理的超千卡算力集群。

登臨科技

登臨科技專注于芯片研發與技術創新,致力于打造云邊端一體、軟硬件協同的前沿芯片產品和平臺化基礎系統軟件。公司自主創新的GPU+(基于GPGPU的軟件定義的片內異構計算架構),在兼容CUDA/OpenCL在內的編程模型和軟件生態的基礎上,通過架構創新,完美解決了通用性和高效率的雙重難題。

登臨首款基于GPU+的創新AI計算加速器Goldwasser已規模化運用在各個應用場景。未來將繼續秉承核心IP全自研的架構實現,以AI計算為主線,以創新為靈魂,加強核心IP自主研發,加速產品在高級自動駕駛,圖形加速等相關領域的開拓創新和商業化進程。

寫在最后

GPU最初是為解決CPU在圖形處理領域性能不足的問題而誕生的,早期它多用于圖形處理,而如今大家談到用于AI訓練和推理多是通用計算GPGPU,它脫胎于早期的圖形處理器。

上述談到的GPU企業,有些既有用于AI計算的GPU產品,也有用于圖形處理的產品,如景嘉微,是國內較早入局GPU市場的企業,之前已經發布過多個系列的產品,主要用于圖形處理。近期才公布面向AI 訓練、AI推理、科學計算等應用領域的GPU產品研發成功。

如沐曦入局GPU市場較晚,像用于AI訓練、推理的產品,以及用于圖形渲染的產品都有規劃,不過它是先推出了用于AI計算的GPU芯片,而用于圖形渲染的產品預計要到2025年才發布。像瀚博半導體、摩爾線程等也是面向圖形渲染和AI計算都有產品。

面對現在關注比較多的大模型的訓練和推理,國產GPU企業也在積極跟進,如海光DCU就能夠完整支持大模型訓練,實現LLaMa、GPT、Bloom、ChatGLM、悟道、紫東太初等為代表的大模型的全面應用;瀚博基于新一代GPU芯片首發了LLM大模型AI加速卡VA1L,能支持ChatGPT、LLaMA、Stable Diffusion等主流AIGC網絡模型。天數智芯、燧原科技等也都在支持大模型的應用上取得進展。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4729

    瀏覽量

    128890
  • 大模型
    +關注

    關注

    2

    文章

    2423

    瀏覽量

    2640
收藏 人收藏

    評論

    相關推薦

    GPU是如何訓練AI大模型

    AI模型的訓練過程中,大量的計算工作集中矩陣乘法、向量加法和激活函數等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU
    的頭像 發表于 12-19 17:54 ?80次閱讀

    《CST Studio Suite 2024 GPU加速計算指南》

    的各個方面,包括硬件支持、操作系統支持、許可證、GPU計算的啟用、NVIDIA和AMD GPU的詳細信息以及相關的使用指南和故障排除等內容。
    發表于 12-16 14:25

    PyTorch GPU 加速訓練模型方法

    深度學習領域,GPU加速訓練模型已經成為提高訓練效率和縮短訓練時間的重要手段。PyTorch作為一個流行的深度學習框架,提供了豐富的工具和方法來利用GPU進行
    的頭像 發表于 11-05 17:43 ?543次閱讀

    AI大模型的最新研究進展

    AI大模型的最新研究進展體現在多個方面,以下是對其最新進展的介紹: 一、技術創新與突破 生成式AI技術的爆發 : 生成式AI技術正在迅速發展,其強大的生成能力使得AI大
    的頭像 發表于 10-23 15:19 ?409次閱讀

    國產光耦:實際應用和市場進展

    應用中的增強性能而受到關注。本文深入探討了國產光耦的實際應用和市場進展,展示了它們推動多個行業技術創新方面的作用。
    的頭像 發表于 10-11 16:47 ?344次閱讀

    模型發展下,國產GPU的機會和挑戰

    電子發燒友網站提供《大模型發展下,國產GPU的機會和挑戰.pdf》資料免費下載
    發表于 07-18 15:44 ?10次下載
    大<b class='flag-5'>模型</b>發展下,<b class='flag-5'>國產</b><b class='flag-5'>GPU</b>的機會和挑戰

    大數據軍事方面的應用

    智慧華盛恒輝大數據軍事方面的應用廣泛且深入,涵蓋了戰爭決策、情報分析、裝備研發、后勤保障、科研方法、管理水平、作戰能力和信息化建設等多個方面。以下是對這些應用的詳細歸納: 智慧華盛恒輝一、戰爭決策
    的頭像 發表于 07-16 09:44 ?1062次閱讀

    大數據軍事方面的應用有哪些

    智慧華盛恒輝大數據軍事方面的應用涵蓋了多個方面,這些應用不僅提高了軍事管理的效率和水平,也極大地提升了軍隊的作戰能力和情報獲取能力。以下是大數據軍事
    的頭像 發表于 06-23 10:34 ?998次閱讀

    模型快速發展,GPU IP有何作用

    線程等。 ? 事實上,除此之外還有一些GPU IP公司也為GPU產業發展做出很大貢獻,包括Imagination、Arm、芯原科技等。在當前備受關注的大模型方面,這些公司的產品也起到一
    的頭像 發表于 05-29 00:05 ?2332次閱讀

    摩爾線程與無問芯穹國產GPU上首次實現大模型實訓

    近日,摩爾線程與無問芯穹共同宣布,雙方已正式完成基于國產全功能GPU千卡集群的3B規模大模型實訓。這款名為“MT-infini-3B”的模型
    的頭像 發表于 05-27 10:59 ?658次閱讀

    模型時代,國產GPU面臨哪些挑戰

    ,國產GPU不斷成長的過程中也存在諸多挑戰。 ? 模型訓練上存在差距 ? 大語言模型是基于
    的頭像 發表于 04-03 01:08 ?4663次閱讀
    大<b class='flag-5'>模型</b>時代,<b class='flag-5'>國產</b><b class='flag-5'>GPU</b>面臨哪些挑戰

    國產GPUAI大模型領域的應用案例一覽

    不斷推出新品,產品也逐漸各個領域取得應用,而且模型的訓練和推理方面,也有所建樹。 ? 國產GPU
    的頭像 發表于 04-01 09:28 ?3785次閱讀
    <b class='flag-5'>國產</b><b class='flag-5'>GPU</b><b class='flag-5'>在</b>AI大<b class='flag-5'>模型</b>領域的應用案例一覽

    NVIDIA加速識因智能AI大模型落地應用方面的重要作用介紹

    本案例介紹了 NVIDIA 加速識因智能 AI 大模型落地應用方面的重要作用。生成式大模型已廣泛應用于各領域,通過學習人類思維方式,能快速挖掘海量內容,滿足不同需求。
    的頭像 發表于 03-29 15:28 ?619次閱讀

    fpga通信方面的應用

    FPGA通信方面的應用非常廣泛,以下是一些主要的應用場景。
    的頭像 發表于 03-27 14:10 ?1058次閱讀

    FPGA深度學習應用中或將取代GPU

    上漲,因為事實表明,它們的 GPU 訓練和運行 深度學習模型 方面效果明顯。實際上,英偉達也已經對自己的業務進行了轉型,之前它是一家純粹做 GPU
    發表于 03-21 15:19
    主站蜘蛛池模板: 一区二区三区毛AAAA片特级| 青青伊人久久| 久久秋霞理伦片| 麻豆精品传媒一二三区| 快乐激情站| 欧美日韩国产高清综合二区| 日本漂亮妈妈7观整有限中| 外女思春台湾三级| 亚洲女人网| 中文在线免费看视频| 99热最新在线| 国产精品VIDEOSSEX久久发布| 国产亚洲精品首页在线播放| 精品久久电影网| 乱码国产丰满人妻WWW| 欧美一区二区日韩一区二区| 十分钟免费观看大全视频| 亚洲高清视频在线观看| 中文在线无码高潮潮喷在线| 成人永久免费视频| 好爽胸大好深好多水| 免费。色婬网站| 五月丁香婷姐色| 中文字幕不卡一区二区三区| 超碰公开在线caopon| 韩国女主播内部vip自带氏巾| 蜜芽最新域名解析网站| 乌克兰xxxxx| 中国女人内谢69xxxxxx直播| 成人免费精品视频| 九九99亚洲精品久久久久| 欧美精品AV一区二区无码| 亚洲国产成人久久精品影视| 992交通广播| 国产人A片在线乱码视频| 麻豆精品传媒一二三区| 午夜一区欧美二区高清三区| 91福利国产在线观看网站| 国产精品午夜福利在线观看| 麻豆精品传媒卡一卡二传媒短视频 | 东京热一本无码av|