色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

芯啟源DPU賦能AI算力網絡 助力云基礎設施生態共建

芯啟源 ? 來源:芯啟源 ? 2023-05-05 10:58 ? 次閱讀

第六屆數字中國建設峰會(簡稱“數字峰會”)在福州召開。本屆數字峰會由國家互聯網信息辦公室、國家發展和改革委員會、科技部、工業和信息化部、國務院國有資產監督管理委員會、福建省人民政府共同主辦。

作為國家網信辦主辦的兩個國內信息化領域盛會之一,本屆數字中國峰會以“加快數字中國建設,推進中國式現代化”為主題,通過成果展示等方式,推動交流互鑒,促進開放合作,全方位展示數字中國建設最新成果。

在福建省數據要素與產業生態大會“算力賦能數字經濟發展高峰論壇”中,芯啟源創始人、董事長兼CEO盧笙受福建省大數據集團有限公司邀請,作了題為“DPU賦能AI算力網絡,助力云基礎設施生態共建”精彩演講。

同期,由上海市通信管理局、上海市浦東新區人民政府聯合主辦的“算力浦江(首屆)數字經濟發展論壇”在上海浦東召開,旨在共筑算力底座,助力數字浦東。

芯啟源作為6家AI算力芯片代表企業之一,圍繞“打造AI算力芯片應用試驗田”進行合作意向簽約,芯啟源高級副總裁姜欣代表芯啟源上臺簽約,芯啟源DPU事業部銷售總經理侯東輝在現場探討了算力網絡的發展趨勢。

ChatGPT引領“后互聯網時代革命”

盧笙在高峰論壇中回顧了中國互聯網發展史,“從2018年-2022年的“5G萬物互聯時代”到如今的“AI智能時代”,今年被認為是人工智能史詩級飛躍的一年。”

2022年11月30日,OpenAI發布人工智能對話聊天機器人ChatGPT,短短5天時間,注冊用戶數超100萬。截止2023年1月末,其月活用戶已突破1億,成為史上增長最快的消費者應用。

ChatGPT是一個由人工智能技術驅動的自然語言處理工具。自ChatGPT發布以來,谷歌、微軟爭相發布了一系列以AIGC(AI generated content)為底座的生成式AI智能應用,通過輸入人類語言生成視頻、生成圖片,AI開始嘗試創造一些深刻且令人賞心悅目的東西,這個新類別被稱為“生成式AI”。

這意味著AI正在創造新的生產內容,而不是像過去一樣僅僅只是輔助分析已經存在的東西。這些智能應用與ChatGPT一起引領了后互聯網時代數字經濟“革命”,全球開始步入AI智能時代。

后互聯網時代 算力發展見頂

進入AI算力新時代后,機器學習給我們帶來了多重挑戰。ChatGPT可以通過人類語言輸入來預測下一個單詞并生成具有嚴密邏輯的文本進行回復。而這樣的AI的能力是基于算法訓練出來,訓練的過程包括海量數據獲取和清洗、人工知識訓練和場景,AI的能力在參數規模超過特定臨界值后才出現,需要CPU/GPU提供大量算力,這些算力用參數量/浮點運算量來衡量。

以著名的AlexNet和GPT-3訓練模型為例,AI模型訓練沒有捷徑可走,因為AI的表現并非隨著模型規模增加而線性增加,而是在參數規模超過特定臨界值后開始顯著提升(如下圖所示)。

cf017654-e6a2-11ed-ab56-dac502259ad0.png

AlexNet可處理262千萬億次的浮點運算,利用CPU/GPU集群訓練出大規模圖片識別和分類能力。GPT-3用可處理323*10e21次浮點運算,用CPU/GPU集群訓練出了根據人類語言輸入來預測下一個單詞的能力。

GPT-3的訓練模型比AlexNet訓練模型的運算量提升了100萬倍。如果要達到多模態大模型訓練的臨界值,則需要極大的算力消耗,這對算力提出了前所未有的要求。而從Nvidia對2022年算力和帶寬的評估結果來看,CPU性能增速放緩,網絡帶寬增速增大,2022年帶寬增速比RBP達到30。

cf11669a-e6a2-11ed-ab56-dac502259ad0.png

AI模型訓練帶來數據大爆發,帶寬升級到200G/400G,CPU/GPU的性能增長速度無法滿足網絡數據處理的需求,大量CPU/GPU被網絡數據包處理所搶占, AI運算所需的巨量運算量無法滿足。

DPU—AI算力網絡的核心組件

在這個大背景下,利用專用協處理器將“CPU/GPU處理效率低下”的負載卸載,幫助CPU/GPU釋放算力的DPU將承擔起網絡數據通道的數據包處理需求,將CPU/GPU的算力釋放出來用于支撐起怪獸級別的AI模型訓練運算。

cf2e4d0a-e6a2-11ed-ab56-dac502259ad0.png

DPU將“CPU/GPU處理效率低下”的負載,包括“通訊協議”、“加密協議”、“網絡協議”、“數據壓縮”等全盤接受,從而將CPU芯片的算力解放出來,解決了高帶寬、低延遲、數據密集的計算場景的算力困境。

01降本增效

DPU提升了整個計算系統的效率,降低整體系統 的總體擁有成本(TCO)。

02節能減排

DPU承擔基礎設施中網絡通訊和商密相關的服務后,算力資源得到充分釋放,服務器大量減少,耗電大幅降低,機房位極大壓縮,碳排放量亦大幅下降。

03安全可控

在安全、商密等領域,打造以DPU為核心的零信任機制,使整個網絡數據處理中心實現安全可控。

“后互聯網”時代,AI云基礎設施帶來了巨大的需求和商機,DPU能滿足對“面向AI的”、“高度優化的”算力網絡的要求,被視為解決AI時代算力不足的不二之選。在協議加速、數據安全、存儲加速、虛擬化/容器加速、5G/6G邊緣計算加速等場景都有廣泛應用。

芯啟源DPU+N賦能中國數字經濟生態

盧笙在峰會中介紹,芯啟源從2019年開始研發第一代FGPA智能網卡,2020年開始推出第二代基于NP-SoC架構的產品,芯啟源DPU芯片專為解決網絡基礎設施IO性能瓶頸、幫助CPU釋放大量的算力而生。

芯啟源提供基于Chiplet架構、軟硬協同的DPU共建平臺及方案,生態共建平臺基礎是芯啟源NFP-7000系列DPU芯片,內置Risc-v處理器、多種硬件加速引擎和加解密引擎、基于可編程rFPC開放可編程接口,提供靈活可編程架構+豐富的加速硬件的芯片級軟硬協同一體化方案;

芯片基于Chiplet架構搭建開源生態共建平臺,通過Chiplet多Die互聯,從資源上仍然保持互聯同構,實現無縫、無感的橫向擴展;標準化、開源的第三方Die互聯可讓生態共建更輕松。

芯啟源提供芯片Die級和芯片級的高度集成和可被集成,包括與AI、CPU、VPU、GPU、xPU等Die的互聯,與現有ASICFPGA(e-ASIC)、CPU等芯片級的互聯,從而通過多Die的chip let組合出豐富的產品形態,滿足2*25G-2*200G多樣化端口需求,滿足大數據中心、超算中心、5G/6G邊緣計算、網絡安全等多種場景需求。

目前芯啟源DPU已經在福建省大數據集團、中國移動、天翼云、深信服、招商銀行、中國科學院、中興等客戶落地應用和開展深度合作,涉及政府、運營商、互聯網、金融、電力等領域。

同時,芯啟源深耕DPU行業,結合DPU產業生態為開發者打造了全面開放的『數據基礎設施虛擬化及加速開發平臺CODIVA』,擁抱中立標準開放互補的國產化技術生態、行業解決方案,為“數字中國”提供堅實的核心技術基礎,賦能千行百業的數字技術能力創新。

基于成熟的生態圈和CODIVA全棧能力平臺,芯啟源DPU作為集成電路產業的基礎算力網絡核心芯片,必將形成DPU+N=“新生萬業”趨勢,賦能中國數字經濟生態,助力數字中國建設。

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31118

    瀏覽量

    269441
  • DPU
    DPU
    +關注

    關注

    0

    文章

    365

    瀏覽量

    24213
  • 芯啟源
    +關注

    關注

    1

    文章

    81

    瀏覽量

    6753
  • ChatGPT
    +關注

    關注

    29

    文章

    1564

    瀏覽量

    7809

原文標題:芯啟源DPU賦能AI算力網絡 助力云基礎設施生態共建

文章出處:【微信號:corigine,微信公眾號:芯啟源】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    全力助推《國家數據基礎設施建設指引》目標達成

    和安全方面的發展目標及重點方向。做為國內DPU數據基礎設施的領軍企業,將加大研發投入、加快關鍵技術攻關和重大成果轉化,攜手相關產業鏈同
    的頭像 發表于 01-09 09:28 ?142次閱讀
    <b class='flag-5'>芯</b><b class='flag-5'>啟</b><b class='flag-5'>源</b>全力助推《國家數據<b class='flag-5'>基礎設施</b>建設指引》目標達成

    2024年度精彩回顧

    ,始終以質量為本以科技為,不斷探索前沿技術,持續開拓新行業新市場,助力夯實AI基礎設施,助
    的頭像 發表于 01-02 10:47 ?240次閱讀

    浪潮信息與智研究院攜手共建大模型多元生態

    近日,浪潮信息與北京智人工智能研究院正式簽署戰略合作協議,雙方將緊密合作,共同構建大模型多元開源創新生態。 此次合作旨在提升大模型創新研發的
    的頭像 發表于 12-31 11:49 ?244次閱讀

    企業AI租賃模式的好處

    構建和維護一個高效、可擴展的AI基礎設施,不僅需要巨額的初期投資,還涉及復雜的運維管理和持續的技術升級。而AI
    的頭像 發表于 12-24 10:49 ?145次閱讀

    成為產業發展方陣會員單位

    近日,由中國信息通信研究院(以下簡稱“信通院”)牽頭成立的產業發展方陣在合肥市成功召開第一次工作組全會,電子科技有限公司受邀參與此
    的頭像 發表于 11-04 09:34 ?264次閱讀

    IaaS+on+DPU(IoD)+下一代高性能底座技術白皮書

    DPU 是當下基礎設施的核心創新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 DPU 就是神經中樞。CPU 承載了應
    發表于 07-24 15:32

    中科馭數:DPU是構建高效智中心基礎設施的必選項

    日前,在江蘇省未來網絡創新研究院、網絡通信與安全紫金山實驗室舉辦的“2024智網絡技術與應用創新峰會”上,中科馭數作為DPU
    的頭像 發表于 07-08 10:51 ?717次閱讀

    聯想全棧基礎設施發布 躋身中國第一陣營再新程

    6月14日,以“異構智 穩定高效”為主題的聯想基礎設施新品發布會在北京成功舉辦。在與會嘉賓和合作伙伴的見證下,聯想正式發布率先搭載英特爾至強 6
    的頭像 發表于 06-17 10:15 ?684次閱讀
    聯想全棧<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>基礎設施</b>發布  躋身中國第一陣營再<b class='flag-5'>啟</b>新程

    DPU綠色數據中心,助力實現雙碳戰略

    近日,深圳市計算機行業協會在南山區前海自貿區的博大數據深圳前海智中心成功舉辦了“新質生產產品與AIPC應用與挑戰技術交流會”。助理
    的頭像 發表于 06-13 09:53 ?604次閱讀

    基礎設施的風險與挑戰

    編者按網絡有一個美好的愿景,就是希望網,
    的頭像 發表于 06-13 08:27 ?570次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>基礎設施</b>的風險與挑戰

    基于NFP3800DPU芯片的深信服安全加速卡XSX40FNN網卡

    近日,國內DPU領域的領軍企業宣布,基于
    的頭像 發表于 05-29 14:06 ?991次閱讀
    基于<b class='flag-5'>芯</b><b class='flag-5'>啟</b><b class='flag-5'>源</b>NFP3800<b class='flag-5'>DPU</b>芯片的深信服安全加速卡XSX40FNN網卡

    江蘇發布基礎設施專項規劃,立足長三角,爭創全國首位

    力作為集合信息處理、網絡傳輸、數據存儲為一體的新型生產,主要依托基礎設施進行服務輸出。《
    的頭像 發表于 05-28 09:44 ?501次閱讀

    DPU技術下一代AI基礎設施

    4月19日,在以“重構世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數作為DPU新型基礎設施代表,受邀出席了中國智
    的頭像 發表于 04-20 11:31 ?878次閱讀

    解鎖應用密碼,網絡基礎設施AI大模型

    的“”。 相較于ChatGTP來說,Sora對視頻生成和處理能力需要更大量的計算資源來支持,這也進一步引發了行業對的不斷投入:GPU的更新迭代、液冷逐步代替傳統風冷或水冷的散熱
    的頭像 發表于 04-18 10:09 ?321次閱讀

    明天線上見!DPU構建高性能底座——DPU技術開放日最新議程公布!

    技術在不同行業中的應用解決方案有哪些?能帶來怎樣的業務效果? 3月29日本周五,中科馭數集結產品大咖及解決方案專家團,誠邀您參加以“DPU構建高性能底座”為主題的線上
    的頭像 發表于 04-03 18:12 ?1014次閱讀
    主站蜘蛛池模板: 伊人久久大香线蕉综合影| av在线观看地址| 国产精品无码久久久久不卡| 我的家庭女教师| 果冻传媒在线观看高清完整免费| 一级做a爰片久久毛片苍井优| 久久亚洲精品永久网站| eussse手机电影在线观看| 日韩少妇爆乳无码专区| 果冻传媒在线观看完整版免费| 最近中文字幕在线看免费完整版 | 两个奶头被吃得又翘又痛| wwwwxxxxx中国| 亚洲精品国产第一区第二区| 伦理在线影院伦理电影| 俄罗斯女人Z0ZOZO| 一道精品视频一区二区| 欧美日韩无套内射另类| 国产人妻麻豆蜜桃色精| 中文字幕在线观看亚洲视频| 日日噜噜噜夜夜爽爽狠狠| 好大快用力深一点h视频| 97国产在线播放| 午夜无码国产理论在线| 美国ZOOM动物在线观看| 国产精品久久久久久AV免费不卡| 在线免费中文字幕| 思思99热久久精品在线6| 浪荡女天天不停挨CAO日常视| 国产99青草全福视在线| 19不插片免费视频| 亚洲an天堂an在线观看| 欧美最猛12teevideos欧美| 精品视频中文字幕| 国产99青草全福视在线| 91福利国产在线观看网站| 亚洲AV无码偷拍在线观看| 欧美精品99久久久啪啪| 久久精品久久精品| 国产精品香蕉视频在线| www.久久久|