色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

摩爾線程與無問芯穹宣布完成基于GPU千卡集群的3B規模大模型實訓

摩爾線程 ? 來源:摩爾線程 ? 2024-05-27 10:44 ? 次閱讀

摩爾線程聯合無問芯穹宣布,雙方已在本周正式完成基于國產全功能GPU千卡集群的3B規模大模型實訓。該模型名為“MT-infini-3B”,在摩爾線程夸娥(KUAE)千卡智算集群與無問芯穹AIStudio PaaS平臺上完成了高效穩定的訓練。

本次實訓充分驗證了夸娥千卡智算集群在大模型訓練場景下的可靠性,同時也在行業內率先開啟了國產大語言模型與國產GPU千卡智算集群深度合作的新范式。

MT-infini-3B模型訓練總用時13.2天,經過精度調試,實現全程穩定訓練不中斷,集群訓練穩定性達到100%,千卡訓練和單機相比擴展效率超過90%。目前,實訓出來的MT-infini-3B性能在同規模模型中躋身前列,相比在國際主流硬件上訓練而成的其他模型,在C-Eval,MMLU,CMMLU等3個測試集上均實現性能領先。

0bb4d878-1a48-11ef-b74b-92fbcf53809c.png

MT-infini-3B性能表現

無問芯穹聯合創始人兼CEO夏立雪表示:“國內大模型與國產芯片的軟硬件協同發展,最終目標是構建一個成熟的生態系統。無問芯穹正在打造‘M種模型’和‘N種芯片’間的‘M×N’中間層產品,實現多種大模型算法在多元芯片上的高效、統一部署。摩爾線程是第一家接入無問芯穹并進行千卡級別大模型訓練的國產GPU公司,而‘MT-infini-3B’的訓練是行業內首次實現基于國產GPU芯片從0到1的端到端大模型實訓案例。”

摩爾線程創始人兼CEO張建中表示:“無問芯穹在夸娥千卡智算集群上實現的從零開始的大模型訓練,不僅是對摩爾線程技術實力的有力認證,更是實現了國內大模型訓練的國產化閉環。摩爾線程夸娥千卡智算集群以全功能GPU為底座,提供軟硬一體化的全棧解決方案,具備高兼容性、高穩定性、高擴展性等綜合優勢,我們致力于成為AGI時代大模型訓練堅實可靠的先進基礎設施。”

此前,摩爾線程與無問芯穹已達成深度戰略合作。無問芯穹大模型開發與服務平臺“無穹Infini-AI”和摩爾線程大模型智算千卡集群夸娥已完成系統級融合適配,該平臺可以靈活調用夸娥的集群能力以完成大模型的訓練、微調與推理任務。未來,雙方還將開展更多適配與測試,推動國產大模型技術的快速發展與應用普及,為中國人工智能產業的蓬勃發展貢獻力量。



審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • GPU芯片
    +關注

    關注

    1

    文章

    303

    瀏覽量

    5804
  • 摩爾線程
    +關注

    關注

    2

    文章

    200

    瀏覽量

    4560
  • 大模型
    +關注

    關注

    2

    文章

    2423

    瀏覽量

    2640

原文標題:摩爾線程攜手無問芯穹:基于夸娥千卡智算集群的“MT-infini-3B”大模型實訓已完成

文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    國產千卡GPU集群完成模型訓練測試,極具高兼容性和穩定性

    集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個全國產千卡千億模型訓練平臺“
    的頭像 發表于 06-11 07:50 ?3246次閱讀
    國產<b class='flag-5'>千卡</b><b class='flag-5'>GPU</b><b class='flag-5'>集群</b><b class='flag-5'>完成</b>大<b class='flag-5'>模型</b>訓練測試,極具高兼容性和穩定性

    性能提升近一倍!壁仞科技攜手,在千卡訓練集群等領域取得技術新突破

    隨著智能算力需求的倍增,到2024年,千卡算力集群已成為國內大模型訓練的必備場景。壁仞科技,作為國內少數擁有原創推一體架構的高端算力芯片廠商之一,與在AI算力市場具有重要影響力的
    發表于 11-05 18:45 ?602次閱讀
    性能提升近一倍!壁仞科技攜手<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>,在<b class='flag-5'>千卡</b>訓練<b class='flag-5'>集群</b>等領域取得技術新突破

    摩爾線程與羽人科技完成大語言模型訓練測試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實現夸娥(KUAE)千卡智算集群與羽人系列模型解決方
    的頭像 發表于 08-27 16:19 ?525次閱讀

    發布千卡規模異構芯片混平臺

    在科技日新月異的今天,人工智能領域的每一次突破都引領著行業的新一輪變革。2024年世界人工智能大會AI基礎設施論壇上,以其卓越的創新力和前瞻視野,再次成為全場矚目的焦點。7月4
    的頭像 發表于 07-08 14:27 ?666次閱讀

    摩爾線程與智譜AI完成模型性能測試與適配

    近日,摩爾線程與智譜AI在人工智能領域開展了一輪深入的合作,共同對GPU模型進行了適配及性能測試。此次測試不僅涵蓋了大模型的推理能力,還涉
    的頭像 發表于 06-14 16:40 ?1066次閱讀

    摩爾線程與師者AI攜手完成70億參數教育AI大模型訓練測試

    近日,國內知名的GPU制造商摩爾線程與全學科教育AI大模型“師者AI”聯合宣布,雙方已成功完成
    的頭像 發表于 06-14 16:31 ?573次閱讀

    摩爾線程和滴普科技完成模型訓練與推理適配

    近日,摩爾線程與滴普科技宣布了一項重要合作成果。摩爾線程的夸娥(KUAE)千卡智算
    的頭像 發表于 05-30 10:14 ?542次閱讀

    國產GPU可替代!摩爾線程千卡集群點亮新成就

    摩爾線程聯合宣布,雙方已經正式
    的頭像 發表于 05-29 11:27 ?725次閱讀
    國產<b class='flag-5'>GPU</b>可替代!<b class='flag-5'>摩爾</b><b class='flag-5'>線程</b><b class='flag-5'>千卡</b><b class='flag-5'>集群</b>點亮新成就

    摩爾線程千卡智算集群與滴普企業大模型完成訓練及推理適配

    近日,摩爾線程與國內領先的數據智能服務商滴普科技共同宣布摩爾線程夸娥(KUAE)千卡智算
    的頭像 發表于 05-29 10:28 ?465次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b><b class='flag-5'>千卡</b>智算<b class='flag-5'>集群</b>與滴普企業大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b>訓練及推理適配

    摩爾線程合作完成國產全功能GPU千卡集群

    據介紹,此項訓練歷時13.2天,過程穩定而有序,集群整體運行穩定性達到了100%。相較于單機訓練,千卡集群的擴展效率提升了超過90%。
    的頭像 發表于 05-27 14:40 ?622次閱讀

    摩爾線程在國產GPU上首次實現大模型

    近日,摩爾線程共同宣布,雙方已正式
    的頭像 發表于 05-27 10:59 ?658次閱讀

    摩爾線程助力AI大模型訓練與計算升級,共建美好數字化未來

    此外,在中關村國際技術交易大會高精尖技術產品首發會上,摩爾線程聯合
    的頭像 發表于 04-28 16:42 ?1081次閱讀

    俄羅斯自主芯片遇挫,超半數成廢片

    摩爾線程是第一家接入并成功完成千卡級別大
    的頭像 發表于 04-02 10:27 ?515次閱讀
    俄羅斯自主芯片遇挫,超半數成廢片

    摩爾線程聯手開啟千億大模型服務新篇章

    3月31日,AI算力優化論壇暨產品發布會在上海成功舉辦,重磅發布了“
    的頭像 發表于 04-01 11:11 ?667次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>與<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>聯手開啟千億大<b class='flag-5'>模型</b>服務新篇章

    燧原科技與簽約宣布共同打造千卡集群案例

    3月31日,在舉辦的以“多元計算·泛在鏈接”為主題的AI算力優化論壇暨產品發布會上,燧原科技與
    的頭像 發表于 04-01 10:48 ?872次閱讀
    主站蜘蛛池模板: 久久香蕉国产线看观看| 两性色午夜视频免费国产| 久久这里只有精品2| 人妻中文字幕无码系列| 无码人妻精品一区二区蜜桃在线看 | 韩国女主播内部vip自带氏巾| 美女被爽cao免费漫画| 色婷婷综合激情中文在线| 亚洲一区免费观看| 爱穿丝袜的麻麻3d漫画acg| 国家产午夜精品无人区| 欧美最猛性xxxxx亚洲精品| 亚洲精品免费网站| 被老头下药玩好爽| 久久精品国产亚洲AV热无遮挡 | 日本精品卡一卡2卡3卡四卡三卡| 亚洲精品久久久久久久蜜臀老牛| 99久久免费国内精品| 国产午夜精品久久理论片小说 | 午夜一区二区三区| 99国产电影| 精品视频在线播放| 少女free大陆| 99视频免费在线| 久久国产欧美| 午夜一区二区三区| 成人国产精品日本在线| 久久一级视频| 亚洲精品不卡视频| 疯狂小护士| 欧美精品3atv一区二区三区| 亚洲这里只有精品| 国产乱妇乱子在线播视频播放网站| 挠黑色超薄丝袜脚心vk40分钟| 亚洲日韩国产成网站在线| 国产99在线视频| 欧美性猛交AAA片免费观看| 中文字幕 亚洲 有码 在线| 国产欧美一区二区三区免费| 秋霞特色大片18岁入口| 91av影院|