色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ChatGPT算力消耗驚人,能燒得起的中國公司寥寥無幾

工業4俱樂部 ? 來源:工業4俱樂部 ? 2023-03-09 10:47 ? 次閱讀

高性能GPU數量或性能不夠的結果是,AI推理和模型訓練的準確度不足,即使做出類似的對話機器人,機器人的“智商”也會遠低于ChatGPT

國內云廠商高性能GPU芯片缺貨,正在成為限制中國生成式AI誕生的最直接因素。

2022年12月,微軟投資的AI創業公司OpenAI推出了聊天機器人ChatGPT。這是生成式AI在文本領域的實際應用。所謂生成式AI,是指依靠AI大模型和AI算力訓練生成內容。ChatGPT本質是OpenAI自主研發的GPT-3.5語言大模型。該大模型包含近1800億個參數

微軟的Azure云服務為ChatGPT構建了超過1萬枚英偉達A100GPU芯片的AI計算集群。

美國市場研究機構TrendForce在3月1日的報告中測算稱,處理1800億個參數的GPT-3.5大模型,需要的GPU芯片數量高達2萬枚。未來GPT大模型商業化所需的GPU芯片數量甚至超過3萬枚。更早前的2022年11月,英偉達在官網公告中提到,微軟Azure上部署了數萬枚A100/H100高性能芯片。這是第一個采用英偉達高端GPU構建的大規模AI算力集群。

鑒于英偉達在高性能GPU方面的技術領先實力,在國內,云計算技術人士公認的一個說法是,1萬枚英偉達A100芯片是做好AI大模型的算力門檻。

《財經十一人》了解到,目前國內云廠商擁有的GPU主要是英偉達中低性能產品(如英偉達A10)。擁有超過1萬枚GPU的企業不超過5家,其中擁有1萬枚英偉達A100芯片的企業最多只有1家。也就是說,單是從算力這個衡量指標來看,國內能在短期內布局類似ChatGPT的選手十分有限。

ChatGPT看似只是聊天機器人,但這卻是微軟的AI算力、AI大模型和生成式AI在消費市場的一次肌肉展示。在企業市場,這是云計算的新一輪增長點。微軟AzureML(深度學習服務)已有200多家客戶,包括制藥公司拜耳、審計公司畢馬威。Azure ML連續四個季度收入增長超過100%。這是微軟云旗下云、軟件、AI三大業務中增長最快的板塊。

今年2月,包括阿里、百度等中國企業宣布將研發類ChatGPT產品,或將投入生成式AI的研發。在國內,AI算力、AI大模型和生成式AI被認為只有云廠商才有資格下場。華為、阿里、騰訊、字節跳動、百度都有云業務,理論上有跑通AI算力、AI大模型和生成式AI應用的入場券。

有入場券不代表能跑到終點。這需要長期高成本投入。GPU芯片價格公開,算力成本容易衡量。大模型需要數據采集、人工標注、模型訓練,這些軟性成本難以簡單計算。生成式AI的投資規模通常高達百億元。

多位云計算廠商技術人士、服務器廠商人士對《財經十一人》表示,高性能GPU芯片短缺,硬件采購成本、運營成本高昂,國內市場中短期商業化困難,這三個問題才是真正的挑戰。他個人認為,具備資金儲備、戰略意志和實際能力的企業,暫時不會超過3家。

芯片數量決定“智商”

決定AI大模型“智商”的核心因素是三個,算力規模、算法模型的精巧度、數據的質量和數量。

AI大模型的推理、訓練高度依賴英偉達的GPU芯片。缺少芯片會導致算力不足。算力不足意味著無法處理龐大的模型和數據量。最終的結果是,AI存在智商差距。

3月5日,第十四屆全國人民代表大會第一次會議開幕式結束后,科技部部長王志剛在全國兩會“部長通道”接受媒體采訪時評價,ChatGPT作為一個大模型,有效結合了大數據、大算力、強算法。它的計算方法有進步,特別是在保證算法的實時性與算法質量的有效性上。“就像發動機,大家都能做出發動機,但質量是有不同的。踢足球都是盤帶、射門,但是要做到梅西那么好也不容易。”

英偉達是全球知名半導體廠商,在數據中心GPU市場占據超過90%以上的份額。英偉達A100芯片2020年上市,專用于自動駕駛、高端制造、醫療制藥等AI推理或訓練場景。2022年英偉達推出了性能更強的新一代產品H100。A100/H100是目前性能最強的數據中心專用GPU,市面上幾乎沒有可規模替代的方案。包括特斯拉、Facebook在內的企業,都利用A100芯片組建了AI計算集群,采購規模均超過7000枚。

多位云計算技術人士對《財經十一人》表示,運行ChatGPT至少需要1萬枚英偉達的A100芯片。然而,GPU芯片持有量超過1萬枚的企業不超過5家。其中,擁有1萬枚英偉達A100GPU的企業至多只有1家。?

另有某大型服務器廠商人士對《財經十一人》表示,即使樂觀估計,GPU儲備規模最大的企業也不超過5萬枚,且以英偉達中低端數據中心芯片(如英偉達A10)為主。這些GPU芯片分散在不同數據中心中,單個數據中心通常只配備了數千枚GPU芯片。

此外,由于美國政府去年8月開始實施的貿易限制,中國企業早已無法獲取英偉達A100芯片。現有A100芯片儲備均是存貨,剩余使用壽命約為4年-6年。

2022年8月31日,英偉達、AMD兩家半導體企業旗下生產的GPU產品被美國列入限制范圍。英偉達被限制的產品包括A100和H100,AMD受管制GPU產品包括MI250。按照美國政府的要求,未來峰值性能等于或超過A100的GPU產品也被限制出售。(詳情見《財經十一人》2022年9月1日報道《美國限制高性能GPU供應,倒逼中國自主化》)

bcb9bf2c-bd87-11ed-bfe3-dac502259ad0.png

中國企業目前能夠獲取的最佳替代品,是英偉達的A800芯片。A800被視為是A100的“閹割版”。2022年8月,A100被禁止銷售中國市場后,英偉達在當年三季度針對中國市場推出了特供的A800芯片。該產品計算性能與A100基本相同,但數據傳輸速度被降低了30%。這會直接影響AI集群的訓練速度和效果。

不過,A800芯片目前在中國市場也嚴重缺貨。雖然是A100“閹割版”,A800京東官網定價超過8萬元/枚,甚至超過A100官方定價(1萬美元/枚)。即使如此,A800在京東官網仍是缺貨狀態。

有云廠商人士對《財經十一人》表示,A800實際售價甚至高于10萬元/枚,價格還在持續上漲。A800目前在浪潮、新華三等國內服務器廠商手中是稀缺品,一次只能采購數百片。

GPU數量不夠或性能不夠的結果是,AI推理和模型訓練的準確度不足。這會直接導致中國企業即使做出類似的對話機器人,機器人的“智商”會遠低于ChatGPT。國內云廠商高性能GPU芯片缺貨,正在成為限制中國版ChatGPT誕生的最直接因素。

成本高昂

AI算力和大模型是比云還要燒錢的吞金獸。

即使有足量的高性能GPU,中國云廠商接下來還要面臨高昂的硬件采購成本、模型訓練成本以及日常運營成本。面對上述成本,具備資金儲備、戰略選擇和實際能力的企業不超過三家。

OpenAI能做出ChatGPT,背后有微軟提供資金和算力。2019年微軟向OpenAI投資10億美元。2021年微軟再進行了一輪未透露金額的投資。今年1月,微軟宣布將在未來數年陸續向OpenAI投資100億美元。

對云廠商來說,AI算力和大模型需要面臨高昂的硬件采購成本、模型訓練成本以及日常運營成本。

其一,硬件采購成本和智算集群建設成本。如果以1萬枚英偉達A800GPU為標準構建智能算力集群,在10萬元/枚的價格標準下,僅GPU采購成本就高達10億元。一臺服務器通常需要4枚-8枚GPU,一臺搭載A800的服務器成本超過40萬元。國內服務器均價為4萬-5萬元。一臺GPU服務器的成本是普通服務器的10倍以上。服務器采購成本通常是數據中心建設成本的30%,一個智算集群的建設成本超過30億元。

其二,模型訓練成本。想要算法模型足夠精準,需要進行多輪算法模型訓練。有某外資云廠商的資深技術人士對《財經十一人》表示,ChatGPT一次完整的模型訓練成本超過1200萬美元(約合8000萬元)。如果進行10次完整的模型訓練,成本便高達8億元。GPU芯片價格公開,算力成本相對容易衡量。但AI大模型還需要數據采集、人工標注、模型訓練等一系列工作,這些軟性成本難以簡單計算。不同效果的模型最終成本也不同。

其三,日常運營成本。數據中心內的模型訓練需要消耗網絡帶寬、電力資源。此外,模型訓練還需要算法工程師負責調教。上述成本也以億元為單位計算。

也就是說,進入AI算力和AI大模型的賽道,前期硬件采購、集群建設成本就高達數十億元。后期模型訓練、日常運營以及產品研發成本同樣高達數十億元。一家管理咨詢公司技術戰略合伙人對《財經十一人》表示,生成式AI的投資規模高達百億元。

微軟大規模采購GPU組建智算集群,這在商業邏輯上行得通。2022年微軟在云計算基礎設施的支出超過250億美元,當年微軟營業利潤828億美元,微軟云營業利潤就超過400億美元。僅微軟云利潤大于支出,大規模投資AI算力、大模型業務,這與微軟的財務現狀是相匹配的。

微軟的AI計算有產品、有客戶、有收入,形成了新的增長點。微軟的客戶通常會在云上租賃數千枚高性能GPU,進行語言模型學習,以此使用自己的啟用生成式AI。

微軟旗下包括AzureML和OpenAI。Azure ML有200多家客戶,包括制藥公司拜耳、審計公司畢馬威。Azure ML連續四個季度收入增長超過100%。微軟云甚至已經形成了“云-企業軟件-AI計算”三條輪動增長的曲線。其中公有云Azure營收增速約為30%-40%,軟件業務營收增速約為50%-60%,AI算力營收增速超過100%。

中國企業用于云基礎設施的資本支出有限,投資投資智算集群、AI大模型需要從有限的預算中分走支出。更大的挑戰是,中短期內不僅無法盈利,還要虧更多錢。

科技公司的資本支出通常被用于采購服務器、建設數據中心、購置園區土地等固定資產。以亞馬遜為例,2022年資本支出580億美元,超過50%用于投資云基礎設施。《財經十一人》查閱阿里、騰訊、百度最近一個財年的資本支出發現,三家數據分別為533億元、622億元、112億元。

三家均未披露用于投資云基礎設施的資本支出情況。假設三家企業與亞馬遜相同,50%的資本支出用于投資云基礎設施,數據分別為266億元、311億元、56億元。投資數十億元對資本支出寬裕的企業來說可以承受,但對資本支出不足的企業來說,則是負擔。

國內宣布已建設智算集群的企業包括阿里云、華為、百度,但智算集群內GPU芯片數量不詳。2022年,主要云廠商均把提高毛利、減少虧損作為戰略重點。在這個階段采購高性能GPU、建設智算集群需要巨額投入。不僅會加劇虧損,還需要依賴集團輸血。這將考驗企業管理層的戰略意志。

大模型沒條件,先做小模型

華為、阿里、騰訊、字節跳動、百度都有云業務,理論上有做出中國版ChatGPT的入場券。

有云計算技術人士評價,有入場券的幾家企業也會有實際的戰略考量。比如,騰訊、百度、字節跳動有云也有大量數據,但云業務在虧損,長期投入的資金儲備、戰略意志存疑。華為靠自研昇騰芯片建立了大模型技術,但因“斷供”影響無法獲得英偉達的GPU芯片,而且作為硬件廠商缺少互聯網公司的數據積累。

由于上述限制,能實現AI大模型商業化的企業少之又少。最終同時具備資金儲備、戰略意志和實際能力的企業將聊聊無幾。

目前,沒有一家中國云廠商像微軟一樣擁有數萬枚A100/H100芯片。中國云廠商的高性能GPU算力目前暫時不足。一種更務實的觀點是,中國云廠商即使真的獲取1萬枚英偉達高性能GPU后,也不應該簡單投入到中國版ChatGPT這種大眾的消費場景。

算力資源稀缺時,優先考慮是投入行業市場,為企業客戶提供服務。一家管理咨詢公司技術戰略合伙人對《財經十一人》表示,ChatGPT只是對話機器人,商業應用場景展示暫時有限。用戶規模越大,成本也就越高,帶來的虧損也會越大。AI算力和大模型如何在細分領域實現商業化,獲取正向現金流才是關鍵。

中國市場的AI算力、大模型的商業化尚處于起步期。目前國內自動駕駛、金融等領域的少數客戶開始采用AI算力。比如,小鵬汽車目前已經采用阿里云的智算中心進行自動駕駛的模型訓練。

有數據中心產品經理對《財經十一人》表示,國內銀行金融客戶反欺詐已經大量運用模型訓練技術,通常只需要租賃使用數百枚性能更低的GPU調教模型。同樣是AI計算和模型訓練,這是更低成本的解決方案。事實上,通用大模型無法解決行業具體問題,無論是金融、汽車、消費等各個領域都需要行業模型。

中國暫時沒有足夠的高性能GPU做大規模AI模型訓練,可以先在細分領域做小模型。AI技術發展之快速超越了人們的認知,對中國公司來說,持續布局戰略性發力才是根本之道。

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 云計算
    +關注

    關注

    39

    文章

    7835

    瀏覽量

    137485
  • 聊天機器人
    +關注

    關注

    0

    文章

    339

    瀏覽量

    12323
  • ChatGPT
    +關注

    關注

    29

    文章

    1563

    瀏覽量

    7758

原文標題:ChatGPT算力消耗驚人,能燒得起的中國公司寥寥無幾

文章出處:【微信號:industry4_0club,微信公眾號:工業4俱樂部】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    澎峰科技助力中國移動 重磅發布智“芯合”原生基礎軟件棧2.0

    原生基礎軟件棧2.0。 芯片是智生態的基石,基礎軟件棧是智生態的核心。澎峰科技憑借在高性能計算庫和跨架構領域的深厚積累,自
    的頭像 發表于 12-03 15:08 ?272次閱讀
    澎峰科技助力<b class='flag-5'>中國</b>移動 重磅發布智<b class='flag-5'>算</b>“芯合”<b class='flag-5'>算</b><b class='flag-5'>力</b>原生基礎軟件棧2.0

    中科曙光榮獲2024中國領軍企業獎

    近日,中科曙光憑借在計算領域突出貢獻,獲得“2024中國領軍企業”獎。該獎項由中國智能計算產業聯盟評選頒發,旨在對2024年間在智能計算領域技術攻關、
    的頭像 發表于 11-21 11:37 ?574次閱讀

    九章云極DataCanvas公司包」產品璀璨亮相2024中國大會!

    九章云極DataCanvas公司技術專家向與會者詳細介紹包的產品能力和創新模式,收獲行業伙伴的高度認可。力作為AI時代的數字能源,將在行業應用和技術創新互相驅動下,邁入“
    的頭像 發表于 09-29 14:44 ?786次閱讀
    九章云極DataCanvas<b class='flag-5'>公司</b>「<b class='flag-5'>算</b><b class='flag-5'>力</b>包」產品璀璨亮相2024<b class='flag-5'>中國</b><b class='flag-5'>算</b><b class='flag-5'>力</b>大會!

    中國大會召開,業界首個高質量評估體系發布

    北京2024年9月28日?/美通社/ -- 9月27日,我國產業領域的頂級盛會——中國大會在鄭州召開,會上浪潮信息聯合信通院發布了《
    的頭像 發表于 09-28 16:50 ?274次閱讀
    <b class='flag-5'>中國</b><b class='flag-5'>算</b><b class='flag-5'>力</b>大會召開,業界首個<b class='flag-5'>算</b><b class='flag-5'>力</b>高質量評估體系發布

    淺析三大之異同

    隨著一年多前ChatGPT的出現引爆人工智能(AI)浪潮,支撐大模型背后的“”概念突然闖進我們的視野,成為科技圈炙手可熱的新詞,引領著最新潮流。作為數字經濟時代新生產,也許不少人
    的頭像 發表于 08-30 12:56 ?930次閱讀
    淺析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之異同

    中科曙光入選2024服務產業圖譜及服務產品名錄

    近日,中國信通院公布首個《服務產業圖譜(2024年)》及《服務產品名錄(2024年)》。曙光智
    的頭像 發表于 08-06 14:23 ?713次閱讀

    中國中心市場持續增長,智能規模快速崛起

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權威發布了《中國中心服務商分析報告(2024年)》,該報告深入剖析了
    的頭像 發表于 07-24 15:25 ?480次閱讀

    亮相第七屆數字中國建設峰會,以千行百業

    5月23日,以“釋放數據要素價值發展新質生產”為主題的第七屆數字中國建設峰會于福州拉開帷幕,受邀出席并亮相展會,活動期間,
    的頭像 發表于 05-29 08:33 ?541次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>能</b>亮相第七屆數字<b class='flag-5'>中國</b>建設峰會,以<b class='flag-5'>算</b><b class='flag-5'>力</b>賦<b class='flag-5'>能</b>千行百業

    軟通動力亮相2024中國移動網絡大會,共繪網絡新藍圖

    4月28日至29日,以“網絡點亮AI新時代”為主題的2024中國移動網絡大會在蘇州隆重舉行。
    的頭像 發表于 05-06 10:20 ?482次閱讀
    軟通動力亮相2024<b class='flag-5'>中國</b>移動<b class='flag-5'>算</b><b class='flag-5'>力</b>網絡大會,共繪<b class='flag-5'>算</b><b class='flag-5'>力</b>網絡新藍圖

    力系列基礎篇——101:從零開始了解

    ”和核心驅動力。很重要,但是究竟是個啥?文檔君帶著大家一來看看吧~~01什么是
    的頭像 發表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    DPU技術賦下一代AI基礎設施

    4月19日,在以“重構世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數作為DPU新型基礎設施代表,受邀出席了中國中心創
    的頭像 發表于 04-20 11:31 ?865次閱讀

    中國移動發布基于飛騰CPU自主研發的賦AI時代的新產品

    4月16日,在中國南京舉辦的 “2024 全球 6G 技術大會”上,中國移動發布了 基于飛騰 CPU 自主研發的賦 AI 時代的新產品
    的頭像 發表于 04-17 18:12 ?1443次閱讀
    <b class='flag-5'>中國</b>移動發布基于飛騰CPU自主研發的賦<b class='flag-5'>能</b>AI<b class='flag-5'>算</b><b class='flag-5'>力</b>時代的新產品

    華為中國合作伙伴大會2024 | 軟通動力全面布局服務

    而生 數智有為"為主題的華為中國合作伙伴大會2024在深圳舉辦。大會現場, 軟通動力數字基礎設施與集成高級解決方案總監戴鵬 向與會嘉賓分享了《軟通動力一體化服務使AI大模型》的精
    的頭像 發表于 03-19 22:22 ?558次閱讀
    華為<b class='flag-5'>中國</b>合作伙伴大會2024 | 軟通動力全面布局<b class='flag-5'>算</b><b class='flag-5'>力</b>服務

    智能規模超通用,大模型對智能提出高要求

    的縮寫,即每秒所能夠進行的浮點運算數目(每秒浮點運算量)。 ? 可以分為通用、智能
    的頭像 發表于 02-06 00:08 ?6385次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發布于 :2024年01月25日 14:54:52
    主站蜘蛛池模板: S货SAO死你BL大点声叫BL| 末成年美女黄网站色大片连接| 国产精品亚洲精品影院| 果冻传媒9CM在线观看| 久久兔费黄A级毛片高清| 千禧金瓶梅 快播| 亚洲国产精品天堂在线播放| 中文字幕完整高清版| 姑娘日本大全免费观看版中文翻译| 国产亚洲精品V在线观看一| 美女视频黄a视频全免费网站色窝| 日韩欧美精品有码在线播放免费 | 嫩草影院一区| 午夜性色一区二区三区不卡视频| 伊人久久综合成人亚洲| 边摸边吃奶边做下面视频| 国产在线观看www| 欧美多人群p刺激交换电影| 亚洲 日本 天堂 国产 在线| 91看片淫黄大片.在线天堂| 国产精品亚洲一区二区三区久久| 美女丝袜夹b| 亚洲国产AV精品一区二区蜜芽| 91福利潘春春在线观看| 国产午夜伦伦伦午夜伦| 牛牛精品专区在线| 亚洲精品无码成人AAA片| wwwxx日本| 久久久精品久久久久三级| 手机在线免费| 99精品视频| 精品久久久麻豆国产精品| 日韩在线视频www色| 最新国产三级在线不卡视频| 国产乱码卡二卡三卡4W| 欧美性猛交AAA片| 在线观看永久免费网址| 国产精品JK白丝AV网站| 欧美14videosex性欧美成人| 亚洲午夜无码久久久久蜜臀av| 高清 国产 在线 亚洲|