色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

阿里云暫停A100服務器出租,AI算力奇缺!國產AI芯片任重道遠

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2023-11-09 09:08 ? 次閱讀

電子發燒友網報道(文/李彎彎)上個月,美國發布更新針對AI芯片的出口管制規定,新措施意在填補去年10月發布法規中的漏洞。這樣意味著,除了英偉達A100/H100之外,其針對中國市場推出的替代版本A800/H800等GPU對華出售也將受到限制。

近日,阿里云A100服務器業務暫停出租的消息傳出。這反映出,美國對AI芯片的出口管制規定,已經對中國的算力供應造成影響。當前的情況是,需求側大模型正在快速發展,對算力的需求不斷提升;供給側英偉達GPU芯片對華銷售受阻,市面上A100/A800等現貨價格水漲船高,算力租賃服務售價同樣如此。而阿里云在滿足自身大模型研發需求之外,也已經沒有足夠多算力用于對外出租。

捉襟見肘的AI算力

目前,國內各大互聯網廠商都已經推出自己的大模型產品,并在不斷探索技術和應用創新,同時各行各業的企業,無論大小,都在嘗試將大模型技術引入自己的產品和解決方案中。而無論是大模型的研究和應用,其訓練和推理過程都需要依靠強大的算力作支撐。

百度、騰訊、字節、阿里作為國內主要的云服務廠商。相較之下,購買和積累了更多的GPU產品。其中,字節跳動A100 和V100顯卡總數接近10萬塊,阿里巴巴集團也大概擁有10萬塊頂級顯卡。騰訊因為在2022年底砍掉一批英偉達訂單,其擁有的GPU數量較少。相對來說,百度所擁有的頂級GPU數量也偏少。

近年來,大模型熱潮如龍卷風般襲來,這對GPU的需求不斷增加,上述各大廠商也加大了向英偉達GPU所下的訂單,以擴大自己的基礎硬件設施儲備。今年8月,百度、字節、騰訊和阿里向英偉達下單訂購50億美元的芯片,其中價值10億美元約10萬顆英偉達A800芯片,將在年內交付。另外價值40億美元的芯片將于2024年交付。

然而,在上個月美國發布AI芯片出口管制新規之后,這些訂單都將不能如期交付。這意味著各大互聯網廠商面臨著不同程度的GPU芯片緊缺的局面。

阿里云此次暫停A100服務器對外出租可想而知就是如此。阿里云是全球領先的云計算服務提供商之一,它提供各種各樣的云計算產品和服務,包括云服務器租賃。

阿里云云服務器租賃是一種將計算資源分配給用戶的服務,用戶可以通過互聯網租用虛擬化的服務器資源。這些服務器資源是在阿里云數據中心中運行的,用戶只需要根據自己的需求選擇適合自己的云服務器,并根據需要支付租金。

在10月31日開幕的2023年云棲大會上,阿里巴巴集團董事會主席蔡崇信談到,在當下的智能化時代,阿里巴巴要致力于打造AI時代最開放的云。他表示,目前,中國有80%的科技企業和一半的大模型公司都跑在阿里云上。

除了對外出租,阿里云正在研發和迭代自己的通義千問大模型,這對GPU算力的需求很高。舉例來看,OpenAI的GPT-3訓練使用了128臺英偉達A100服務器(訓練34天),對應640P算力,GPT-4模型訓練使用了3125臺英偉達A100 服務器(訓練90-100天),對應15625P算力。從GPT-3至GPT-4模型參數規模增加約10倍,用于訓練的GPU數量增加了近24倍。

根據行業人士的推測,國內頭部大模型廠商如果對標GPT-3模型的訓練需求,需要1920臺A100/A800服務器,對應15360張GPU。如果對標GPT-4模型的訓練需求,則額外需要13705臺A100/A800服務器,對應近11萬張GPU。

根據此前傳出的一份交流紀要里,阿里云AI專家提到,阿里云在云上有上萬片的A100,整體能夠達到10萬片,集團體量應該是阿里云的5倍。該AI專家提到,大模型大規模的應用,成本也很高,比如ChatGPT完成一個推理任務,需要5張A100在2秒鐘之內做一次推理。

大致來看,1萬張頂級顯卡才剛剛算是能夠跨進大模型的門。而如果要訓練更高級別的大模型,對GPU的需求將會呈大幅度增長。就如上文所述,阿里云擁有大約1萬張A100,已經足夠其訓練大模型產品,然而如果它想訓練出對標GPT-4的模型,可能就要用上阿里集團目前所有的GPU卡。

逐漸能用的國產AI芯片

隨著大模型的研發和應用,以及美國對AI芯片的出口管制,目前市場面現有的英偉達GPU芯片已經漲到天價,而且所剩不多,各個算力租賃服務企業價格也在不斷上漲。阿里云或許是為了率先滿足自己對算力的需求,只得暫停A100服務器對外出租。

然而這些舉措都沒有辦法真正解決,目前國內對可用于大模型訓練和推理的AI芯片的需求問題。近日,面對美國加強對華人工智能芯片管制,英特爾率先提出應變策略。據英特爾供應鏈透露,英特爾已針對最新發布的Gaudi2推出降規版出貨,預計將不受新禁令影響。

不過,即使Gaudi2降規版短期內能夠出貨,然而其性能必然是會大打折扣的。要知道,之前英偉達在符合去年10月法規的基礎上,推出的A800/H800,相對于A100/H100在關鍵性能上就已經大幅限制,如今要符合更新后的出口管制規定,Gaudi2降規版計算性能還得更進一步下調。

期待國產AI算力芯片的突圍,才是長久之計。事實上,目前已經有一些國產企業的人工智能芯片,受到客戶的青睞。比如弘信電子近日發布公告稱,已與上海燧原科技有限公司簽署采購協議,擬長期向燧原科技采購一定數量的人工智能加速卡及配套產品作為原材料。本次公司已正式向燧原科技下發9152片芯片采購訂單,計劃于年底前完成全部芯片的交付,快速形成國產算力落地。

近日也有消息傳出,百度為200臺服務器訂購了1600片昇騰910B AI芯片。到10月份,華為已向百度交付了超過60%的訂單。而且此前科大訊飛此前就已經采用華為昇騰910B芯片,該公司還表示,當前華為昇騰910B能力已經基本做到可對標英偉達A100。

總結

可以看到,在當前大模型的不斷發展,及美國對AI芯片的出口管制下,算力已經出現了極度緊缺的情況。雖然英特爾表示,已發布針對最新發布的Gaudi2推出降規版。然而可想而知其性能將會大打折扣,而且不能確保美國后續不會針對降規版也實施限制。長久來看,發展中國自己的AI算力芯片極其重要,而如今已經有國產的AI芯片可以用于大模型的訓練和推理,這無疑給國產AI芯片在未來的發展中增添了更多信心。






聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30728

    瀏覽量

    268886
  • 阿里云
    +關注

    關注

    3

    文章

    952

    瀏覽量

    43007
收藏 人收藏

    評論

    相關推薦

    企業AI租賃是什么

    企業AI租賃是指企業通過互聯網向專業的提供商租用所需的計算資源,以滿足其AI應用的需求。
    的頭像 發表于 11-14 09:30 ?488次閱讀

    一體架構創新助力國產AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《存一體架構創新助力國產
    的頭像 發表于 10-23 14:48 ?279次閱讀

    什么是AI服務器AI服務器的優勢是什么?

    AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片
    的頭像 發表于 09-21 11:43 ?820次閱讀

    AI服務器:開啟智能計算新時代

    一、AI服務器的定義與特點 AI服務器的定義 AI
    的頭像 發表于 08-09 16:08 ?851次閱讀

    AI服務器散熱,需要用到哪些導熱界面材料?

    在數字經濟、AI大模型等發展的帶動下,全球服務器的市場需求急劇提升,利用其強大的計算能力,能夠處理復雜的算法和海量數據。與此同時,生成式人工智能的大需求也拉高了
    的頭像 發表于 05-30 10:44 ?639次閱讀
    <b class='flag-5'>AI</b>高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>散熱,需要用到哪些導熱界面材料?

    智能存在缺口,AI服務器市場規模持續提升

    商的資本支出將大幅增加。全球前四大服務商資本支出調升,預計將從2023年的1400億美元提升至2024年的超過2000億美元。 ? AI 服務器市場規模持續增長 ? 近些年,人工智能
    的頭像 發表于 05-22 00:14 ?3084次閱讀

    新品發布 | 國產AI服務器R3418開啟多元自主可控新篇章

    在當前數字化轉型的大潮中,力作為新質生產的重要動力引擎,對推動經濟社會發展起著關鍵作用。尤其在人工智能領域,隨著高性能、安全可控的AI
    的頭像 發表于 04-02 10:49 ?812次閱讀
    超<b class='flag-5'>云</b>新品發布 | <b class='flag-5'>國產</b><b class='flag-5'>AI</b><b class='flag-5'>服務器</b>R3418開啟多元自主可控新篇章

    256Tops!CSA1-N8S1684X服務器

    (基于BM1684X的高服務器)高AI處理
    的頭像 發表于 03-23 08:02 ?1608次閱讀
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    聯想向燧弘華創交付首臺搭載國產AI芯片的問天WA5480 G3服務器

    3月19日,在聯想集團(全球)最大的智能計算設備研發和制造基地——聯寶科技,聯想集團向燧弘華創交付聯想首臺可搭載國產AI芯片的聯想問天W
    的頭像 發表于 03-22 09:40 ?858次閱讀

    聯想首臺可搭載國產AI芯片的聯想問天WA5480 G3服務器成功交付

    3月19日,在聯想(全球)最大的智能計算設備研發和制造基地——聯寶科技,中國領先的智能IT基礎設施提供商聯想續寫智新篇章:聯想首臺可搭載國產AI
    的頭像 發表于 03-20 10:36 ?505次閱讀

    聯想首臺搭載國產AI芯片服務器成功交付

    在聯想(全球)最大的智能計算設備研發和制造基地——聯寶科技,一場科技界的盛事吸引了業界的廣泛關注。這一天,中國領先的智能IT基礎設施提供商聯想成功交付了首臺可搭載國產AI
    的頭像 發表于 03-20 09:42 ?757次閱讀

    Suma AI服務器:全棧國產,入局!

    供應者穩定可靠,產品生態兼容,可減少升級成本,同時更懂本土“體質”。 在這一背景下,中科可控Suma AI服務器脫穎而出,其搭載國產計算平臺,兼容主流軟件生態,
    的頭像 發表于 02-28 15:18 ?1238次閱讀
    Suma <b class='flag-5'>AI</b><b class='flag-5'>服務器</b>:全棧<b class='flag-5'>國產</b>,入局!

    解讀六大科技巨頭自研AI芯片進展,誰將領跑未來?

    在當前的AI發展浪潮中,NVIDIA無疑是AI的領跑者。其A100/H100系列
    發表于 02-22 10:35 ?490次閱讀
    解讀六大科技巨頭自研<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>進展,誰將領跑未來?

    國產服務器主陣地有哪些?

    AI 、低功耗等對服務器芯片提出新的要求,英
    的頭像 發表于 01-29 11:29 ?1249次閱讀
    <b class='flag-5'>國產</b><b class='flag-5'>服務器</b>主陣地有哪些?

    弘信電子與AI服務器合資,助力國產芯片落地

    此外,弘信電子近期在AI業務上取得了突破性進展,這并非源自本土化的積累,而是依賴于團隊敏銳的戰略眼光和強烈的創新動力。此次投資是弘信電子在AI
    的頭像 發表于 12-25 09:30 ?959次閱讀
    主站蜘蛛池模板: 偷拍久久国产视频免费| 欧美性受xxxx狂喷水| 狼人射综合| 免费看亚洲| 青青草 久久久| 午夜福利电影| 一区二区三区国产亚洲网站| 一二三四电影完整版免费观看| 2021全国精品卡一卡二| BL文库好大粗黑强强肉NP| 东莞桑拿美女| 含羞草影院AE在线观看| 久久笫一福利免费导航| 欧洲馒头大肥p| 午夜伦理 第1页| 一本之道加勒比在线观看| 9277高清在线观看视频| 电影内射视频免费观看| 韩国免费啪啪漫画无遮拦健身教练| 久久精品黄色| 欧美特黄99久久毛片免费| 午夜影视不用充钱的免费| 一品道门在线观看免费视频| 99久久免费精品国产| 国产精品亚洲视频在线观看| 久久热免费视频| 日日夜夜撸 在线影院| 亚洲视频免费在线观看| JAPANRCEP老熟妇乱子伦视频| 国产精品爽爽久久久久久蜜桃网站| 久久re视频这里精品一本到99| 青草伊人久久| 野花影院手机在线观看 | 日韩经典欧美一区二区三区| 亚洲大爷操| jlzz中国jizz日本老师水多| 国产精品青青草原app大全| 毛片免费在线| 亚州三级视频| www.色片| 久久香蕉国产线看观看首页|