人工智能| NLP|GPU架構

深度學習 | AMD|ChatGPT

最近，ChatGPT又引發了不少新聞。比如，香港大學已經正式宣布，禁用ChatGPT，目的是防止論文抄襲。再比如，近日，不少美國企業已經把ChatGPT應用到了日常工作中，甚至代替了部分員工。據美媒報道，本月早些時候，一家提供就業服務的平臺對1000家企業進行了調查，結果顯示，近50%的企業表示，已經在使用ChatGPT；30%表示，有計劃使用ChatGPT。而在已經使用ChatGPT的企業中，48%已經讓其代替員工工作。ChatGPT的具體職責包括：客服、代碼編寫、招聘信息撰寫、文案和內容創作、會議記錄和文件摘要等。

中國的商業力量也開始對ChatGPT進行布局。除了百度和阿里的布局，前段時間美團的原聯合創始人王慧文，也發布了一條AI英雄榜，說出資5000萬美元，要打造中國的OpenAI，也就是制造ChatGPT的那家公司。

ChatGPT是由OpenAI開發的大型語言模型，要求較高的算力才能支持其正常的運行。目前OpenAI提供的ChatGPT-3模型需要數千億次的浮點運算能力，并且需要超過350GB的存儲空間來存儲模型參數和相關數據。為了支持ChatGPT-3這樣的大型語言模型的運行，需要使用大規模的GPU集群或者專門的超級計算機。在實際應用中，為了提高性能和減少延遲，通常會使用分布式計算來支持模型的運行。對于較小規模的語言模型，例如ChatGPT-2，也需要相對較高的算力才能正常運行，通常需要使用高性能計算機或者GPU來支持模型的訓練和推理。

Chat GPT的局限

要想知道，ChatGPT的局限到底是什么？它又會帶來什么樣的問題？必須得先了解，ChatGPT的本質到底是什么？

一、ChatGPT的本質

ChatGPT 的本質是一種基于神經網絡的自然語言處理模型，它通過深度學習技術來學習語言的規律和語義信息，并生成人類可讀的文本。

具體而言，ChatGPT 采用了一種被稱為“Transformer”的神經網絡架構，它由多個編碼器和解碼器組成，可以有效地處理長序列的文本數據，并在學習中自動地學習語言規律和語義信息。ChatGPT 還使用了大量的文本數據進行無監督學習，使得模型具有較強的泛化能力和語言理解能力。

ChatGPT 的核心思想是基于預訓練的方式，先在大規模語料庫上進行無監督訓練，使得模型具有較強的語言理解和生成能力，然后在特定任務上進行微調，以適應具體的應用場景。這種基于預訓練的方式已經成為了自然語言處理領域的一個重要研究方向，并在各種文本生成和處理任務中取得了顯著的成果。

二、ChatGPT的局限

ChatGPT 作為一種語言模型，能夠在各種自然語言處理任務中表現出色。然而，它仍然存在一些局限性，包括：

1、數據偏差

ChatGPT 是基于大規模的語料庫進行訓練的，如果訓練數據存在偏差，例如種族、性別、社會階層等方面的偏差，模型可能會產生與現實世界不一致的結果。

2、計算資源需求高

ChatGPT 模型的參數非常多，需要大量的計算資源進行訓練和推理。因此，只有大型機構或公司才有能力訓練和使用這種模型。

3、長期依賴問題

雖然 ChatGPT 能夠處理大量的文本信息，但它仍然存在長期依賴問題。在處理長文本時，模型可能會出現信息遺漏或信息重復等問題。

4、對話一致性問題

ChatGPT 在生成對話時，可能會產生與上下文不一致的回答，導致對話的連貫性受到影響。

5、語義理解問題

ChatGPT 能夠生成人類可讀的文本，但其對語義理解的能力仍然有限。在處理某些復雜的語義問題時，模型可能會出現錯誤的回答。

雖然 ChatGPT 存在一些局限性，但隨著技術的不斷發展，相信這些問題也將逐漸得到解決。

ChatGPT 是否是AI的革命

在人工智能技術的發展歷程中，ChatGPT代表了自然語言處理技術的一個重要突破，為語言模型的研究和應用提供了新的思路和方法。ChatGPT的成功表明，通過大規模數據的訓練和深度學習技術的應用，人工智能可以在自然語言處理領域取得更好的表現。

因此，可以說ChatGPT代表了人工智能技術的進步和創新，但它并不是整個人工智能的革命，因為人工智能技術的進步還需要依賴于許多其他方面的技術和應用，例如計算機視覺、機器學習、自動化等等。

一、人形機器人

ChatGPT 促進了人機交互能力的提升，加速了算法的采用。NLP技術帶來的人機交互能力，只有人形機器人才有必要，尤其是C端場景。截至2022年10月，Tesla已經發布了Optimus人形機器人原型機，需要配合算法，形成全面的軟硬件協同才能落地。我們認為ChatGPT有望提升人形機器人的人機交互能力，加速人形機器人體驗的提升。

在場景2C中，人形機器人需要基于NLP的人機交互能力。人形機器人在與C端用戶打交道時，由于其人形形態特征，需要人機交互能力作為接受指令的入口。在人機交互技能中，NLP能力無疑是重中之重。人形機器人必須能夠理解人類的指令才能更好地完成各種任務。基于NLP的人機交互能力是類人機器人所需要的。

特斯拉Optimus人形機器人原型機于2022年10月發布，將在上海進博會上首次面向公眾展出。2022年10月1日，特斯拉在AIDay發布了人形機器人Optimus原型機，并于2022年11月5日在上海進博會上展示了原件，現場展示的是附殼的二代機。雖然由于交貨時間短，運行功能還不成熟，但現場展示版直立不動，但完成率高現場視頻顯示，樣機已經可以完成物體搬運、澆花等動作。這是TeslaBot首次面向公眾展示，為后續B端、C端落地埋下伏筆。

上海進博會現場展示的特斯拉人形機器人

二代版本訓練時間短未能行走，還有出色的組合動作和手部動作。裝殼的最新版本（2代Optimus），這個版本剛出廠還沒有完全訓練，現場也沒有展示其行走功能，但視頻顯示了四肢和細微的手部動作組合，指關節快速執行1、2、6、拳頭等動作，展現高精度、高靈敏度，為未來功能迭代留下巨大想象空間。

現場視頻展示了 TeslaBot 手部精細度

以 AI 算法為核心的運動迭代展示了開創性的想法，從艱難移步到雙腳離地快速行走用了 5 個月的時間。在特斯拉之前，本田ASIMO與波士頓動力機器人等其他人形機器人已經存在很長時間，能夠實現的功能一般為直立行走、揮手、握手、搬運物品、擰瓶蓋等。根據特斯拉發布會的官方公告，Tesla Optimus 僅開發了六個月，但已經基本實現了直立行走、揮手、給植物澆水、搬箱子等算法功能。一口氣提升 4個月，軟件迭代高效。此時，由于二代機才到貨一個月，還沒有完全調試好；但是，我們希望二代機在落地之后能夠在應用中快速學習，實現快速的技術進步和可迭代性。

機器人共享汽車自動駕駛算法

機器人是智能手機的超越版本，單靠硬件無法實現，需要與軟件算法協同工作，形成全面協同。統一的硬件是機器人運行的基礎，需要高精度、高靈敏度和高力矩以滿足各種活動對機器人活動能力的要求。機器人的實際功能是通過綜合算法來實現的，需要智能感知能力、運動控制能力、感控一體技術和AI算法等軟硬件能力的綜合配合。總之，硬件是機器人的軀體，軟件是機器人的靈魂，軟件與硬件的結合，靈魂與肉體的結合，才能構成一個完整的、可用的智能機器人。特斯拉的機器人產品迭代過程以及大量的算法和軟件發布表明，軟件的生態進步是推動當前機器人應用場景實現的關鍵因素。

特斯拉人形機器人擁有強大的AI軟硬件完整備份，增加了后續開發的效率。除了對感知和控制算法的高要求外，人形機器人應用訓練需要密集的計算負荷、強大的硬件平臺以及合適的軟件開發工具和框架；同時，迭代改進的算法模型可以提升AI芯片的性能，幫助解決長尾場景難題。軟件、硬件和AI算法的融合，更有利于進一步激活生態，促進機器人未來場景的拓展。

算法框架和AI軟硬件加速訓練的備份，TESLAOT將進入快速迭代時代。強大的算法框架和AI軟硬件儲備才是機器人功能實現的真正核心。未來隨著FSD的逐漸成熟和DOJO的落地，其算法和數據的閉環將進一步夯實。人形機器人在各種場景下的準確度和靈敏度訓練將更加容易，TESLABOT將進入快速迭代時代。

我們認為ChatGPT有望提升人形機器人的人機交互能力，加快算法迭代過程，提升機器人體驗升級。ChatGPT的出現進一步推進了NLP技術前沿，使人機對話體驗不斷優化。如果接入機器人應用，有望帶來更好的人形機器人交互體驗，加快人形機器人的落地過程。

二、AI 語音語義

NLP 技術正在不斷優化被認為是AI皇冠上的明珠。對話式AI和知識圖譜正在推動行業發展。到2026年，國內NLP驅動的相關產業規模可破千億。我們認為，ChatGPT算法的突破，進一步提升了NLP技術的天花板，有望加速NLP技術在千行百業中的應用。

NLP被譽為人工智能皇冠上的明珠，由于語義理解需要海量數據讓AI理解常識而壁壘較高。NLP或者說自然語義理解，技術上是指讓人工智能理解人類預測背后的含義。NLP衍生的應用涵蓋方方面面，包括機器翻譯、AI應答機器人等。從技術角度來看，如果要讓人工智能理解人類語言，最大的難點在于讓機器理解人類對話背后的海量常識設定。因此，NLP訓練需要海量數據，比訓練其他AI技能難度更大，因此被稱為“人工智能皇冠上的明珠”。

對話式人工智能和知識圖譜正在推動工業規模的增長。到2026年，國內NLP驅動的相關產業規模可突破千億。與其他人工智能技術相比，NLP一般不作為獨立產品出售，而是作為一項基礎技術，結合智能語音和知識圖譜等技術，通常以對話式人工智能、機器翻譯、知識庫等形式出現，產品不斷涌現，在獨立生產模塊的情況下，開發速度較慢。近兩年，在對話機器人應用的推動下，智能知識庫、分模塊對話、對話語義理解、評論正負識別、對話自動輸出等NLP產品迎來了發展機遇，并伴隨著通用或垂直行業知識的發展在圖譜構建中，NLP 與知識圖譜的綁定關系將更加緊密。據艾瑞統計研究，到2021年，中國NLP核心產品規模將達到171億元，帶動規模將達到450億元，到2026年，核心產品規模將達到459億元，驅動規模將超過1000億元。

2019-2026 年中國 NLP 核心產品及帶動相關產業規模

我們認為，作為NLP模型，ChatGPT算法的突破帶來了NLP技術的進一步提升，有望加速NLP技術在智能語音、智能客服、機器人等各個行業和領域的應用。

三、AI 視覺

AIGC方興未艾，圖像識別技術進入落地階段，有望催化進一步迭代。一方面AIGC技術方興未艾。這種基于AI的人工智能創作有望在未來徹底改變內容生產方式，而NLP能力是其生產力的重要組成部分。ChatGPT有望加速其技術迭代。另一方面，AI圖像識別技術進入廣泛應用階段，以海康威視、大華為首的龍頭企業已將該技術應用于G端安防、B端產業/文旅等領域，助力降低成本和提高效率。

1、圖像識別技術已經相對成熟，進入廣泛落地階段

人工智能圖像識別技術進入廣闊應用階段，以海康、大華為首的人工智能視覺領軍企業已將技術應用于安防、工業、文旅等領域。海康、大華等企業以愿景為切入點，落地AI應用，賦能千行百業降本增效。基于人臉識別、溫度識別、動態追蹤等技術，海康、大華等人工智能龍頭企業為制造、旅游、金融等行業提出了智能化解決方案，有效降本增效。

1）在制造業，老板車間與海康威視合作，實現AR數字車間，助力智能生產。海康威視利用AR視頻技術結合企業生產信息化，推出AR數字車間業務，為老板電器無人工廠“九天中樞”智能制造平臺提供助力。AR數字車間可以在直觀的物理世界屏幕上為現場管理人員提供生產線和設備的實時數據，并將大量視頻畫面、生產數據和設備數據組合成一個視圖，幫助企業更快地應對突發事件；還可以將現場人員與管理人員或遠程專家聯系起來，提供遠程實時指導；同時，通過視頻圖像可以確定分配給高周轉量產品的線邊空間量，實時監控裝卸、計劃數據、產出數據，幫助公司優化空間。

海康威視 AR 數字工廠示意圖

2）旅游景區：AI機器視覺助力實現客流管理、智能運維、火災預警和環境動植物監測。基于智能檢測終端、智能網絡、物聯網技術和移動應用，人工智能機器視覺可實現景區地理、自然資源、基礎設施和景區管理的數字化和可視化；完善旅游景區車輛、人員、資產和事件的安全管理。同時，通過智能分析和數據應用，增強景區安全，優化景區管理，豐富游客服務，助力景區環境和經濟可持續發展。目前，大華股份的旅游景區解決方案已應用于四川大邑縣、福建清源山景區等地的全域旅游項目。

大華股份智慧景區項目展示

2、AIGC技術方興未艾，基于NLP技術未來有望創新內容創作方式

AIGC是一種利用AI技術自動生成內容的生產方式，包括文本、圖片、視頻等多種形式的內容。AIGC 是基于人工智能的內容生產，一般來說，使用形式是將需要生成的內容通過句子以一定的格式描述出來，然后讓AI系統自動生成文字/圖片/視頻等。目前，國內外已有多家廠商在AIGC領域布局，比如國內的 AI 小說續寫軟件彩云小夢、OpenAI 推出的 AI 繪畫 模型 Dall-E、知名 AI 繪畫網站 midjourney 等。

AIGC 應用領域一覽

NLP 能力決定了 AIGC 應用對用戶意圖的理解力，是生產力的重要組成部分，ChatGPT 的到來有望加速其技術迭代。由于目前 AIGC 的生產模式，是通過語言文字的方式輸入 用戶需求，所以，如何理解用戶所描述的內容，就成為決定成品效果的重要因素。而 NLP 技術，正是理解用戶意圖的關鍵所在。ChatGPT 作為當前效果最好的對話式 NLP 模型之 一，它的出現有望提升 AI 理解人類意圖的水平，從而加速 AIGC 技術的迭代。

Chat GPT 的底層架構

作為一種人工智能模型，ChatGPT 的訓練和推理需要大量的計算資源。與 CPU 相比，GPU 具有更高的并行性和處理能力，因此常常被用來加速深度學習任務的運算。因此，ChatGPT 的訓練和推理通常會利用 GPU 來加速計算。

在訓練過程中，ChatGPT 的架構可以采用分布式訓練的方式，使用多個 GPU 并行計算，以加速訓練過程。在推理階段，ChatGPT 可以使用 GPU 進行加速，以實現更快的響應時間和更高的吞吐量。

對于 GPU 的選擇，一般來說，需要考慮 GPU 的計算能力、內存大小、功耗、價格等因素。同時，也需要考慮 GPU 的架構是否與 ChatGPT 的計算需求相匹配，以獲得最佳的性能和效率。例如，NVIDIA 的 Volta、Turing 和 Ampere 架構都被廣泛應用于深度學習領域，包括 ChatGPT 的訓練和推理。

GPU的核心競爭力在于架構等因素決定的性能先進性和計算生態壁壘。國內GPU廠商紛紛大力投入研發快速迭代架構，推動產業開放構建自主生態，加速追趕全球頭部企業。國產替代需求持續釋放疊加國際局勢不確定性加劇， AI、數據中心、智能汽車、游戲等GPU需求有望高增，國產GPU迎來發展黃金期，我們看好國產GPU公司的發展與投資機遇。

一、如何理解GPU的架構

為了充分理解GPU的架構，讓我們再返回來看下第一張圖，一個顯卡中絕大多數都是計算核心core組成的海洋。在圖像縮放的例子中，core與core之間不需要任何協作，因為他們的任務是完全獨立的，然而，GPU解決的問題不一定這么簡單，讓我們來舉個例子。

假設我們需要對一個數組里的數進行求和，這樣的運算屬于reductuin family類型，因為這樣的運算試圖將一個序列“reduce”簡化為一個數。計算數組的元素總和的操作看起來是順序的，我們只需要獲取第一個元素，求和到第二個元素中，獲取結果，再將結果求和到第三個元素，以此類推。

令人驚訝的是，一些看起來本質是順序的運算，其實可以再并行算法中轉化。假設一個長度為8的數組，在第一步中完全可以并行執行兩個元素和兩個元素的求和，從而同時獲得四個元素，兩兩相加的結果，以此類推，通過并行的方式加速數組求和的運算速度。具體的操作如下圖所示，

如上圖計算方式，如果是長度為8的數組兩兩并行求和計算，那么只需要三次就可以計算出結果。如果是順序計算需要8次。如果按照兩兩并行相加的算法，N個數字相加，那么僅需要log2（N）次就可以完成計算。

從GPU的角度來講，只需要四個core就可以完成長度為8的數組求和算法，我們將四個core編號為0，1，2，3。

那么第一個時鐘下，兩兩相加的結果通過0號core計算，放入了0號core可以訪問到的內存中，另外兩兩對分別由1號2號3號core來計算，第二個個時鐘繼續按照之前的算法計算，只需要0號和1號兩個core即可完成，以此類推，最終的結果將在第三個時鐘由0號core計算完成，并儲存在0號core可以訪問到的內存中。這樣實際三次就能完成長度為8的數組求和計算。

如果GPU想要完成上述的推理計算過程，顯然，多個core之間要可以共享一段內存空間以此來完成數據之間的交互，需要多個core可以在共享的內存空間中完成讀/寫的操作。我們希望每個Cores都有交互數據的能力，但是不幸的是，一個GPU里面可以包含數以千計的core，如果使得這些core都可以訪問共享的內存段是非常困難和昂貴的。出于成本的考慮，折中的解決方案是將各類GPU的core分類為多個組，形成多個流處理器(Streaming Multiprocessors )或者簡稱為SMs。

二、最終的GPU架構

The Turing architecture

上圖的綠色部分意味著Core計算單元，綠色的塊就是上文談到的Streaming Multiprocessors，理解為Core的集合。黃色的部分名為RT COREs畫的離SMs非常近。單個SM的圖靈架構如下圖所示

The Turing SM

在SM的圖靈結構中，綠色的部分CORE相關的，我們進一步區分了不同類型的CORE。主要分為INT32,FP32，TENSOR CORES。FP32 Cores，執行單進度浮點運算，在TU102卡中，每個SM由64個FP32核，TU120由72個SMs因此，FP32 Core的數量是 72 * 64。

FP64 Cores. 實際上每個SM都包含了2個64位浮點計算核心FP64 Cores，用來計算雙精度浮點運算，雖然上圖沒有畫出，但是實際是存在的。Integer Cores，這些core執行一些對整數的操作，例如地址計算，可以和浮點運算同時執行指令。在前幾代GPU中，執行這些整型操作指令都會使得浮點運算的管道停止工作。TU102總共有4608個Integer Cores，每個SM有64個SM。

Tensor Cores，張量core是FP16單元的變種，認為是半精度單元，致力于張量積算加速常見的深度學習操作。圖靈張量Core還可以執行INT8和INT4精度的操作，用于可以接受量化而且不需要FP16精度的應用場景，在TU102中，我們每個SM有8個張量Cores，一共有8 * 72個Tensor Cores。

在大致描述了GPU的執行部分之后，讓我們回到上文提出的問題，各個核心之間如何完成彼此的協作？

在四個SM塊的底部有一個96KB的L1 Cache，用淺藍色標注的。這個cache段是允許各個Core都可以訪問的段，在L1 Cache中每個SM都有一塊專用的共享內存。作為芯片上的L1 cache的大小是有限的，但它非常快，肯定比訪問GMEM快得多。

實際上L1 CACHE擁有兩個功能，一個是用于SM上Core之間相互共享內存，另一個則是普通的cache功能。當Core需要協同工作，并且彼此交換結果的時候，編譯器編譯后的指令會將部分結果儲存在共享內存中，以便于不同的core獲取到對應數據。當用作普通cache功能的時候，當core需要訪問GMEM數據的時候，首先會在L1中查找，如果沒找到，則回去L2 cache中尋找，如果L2 cache也沒有，則會從GMEM中獲取數據，L1訪問最快 L2 以及GMEM遞減。緩存中的數據將會持續存在，除非出現新的數據做替換。從這個角度來看，如果Core需要從GMEM中多次訪問數據，那么編程者應該將這塊數據放入功能內存中，以加快他們的獲取速度。其實可以將共享內存理解為一段受控制的cache，事實上L1 cache和共享內存是同一塊電路中實現的。編程者有權決定L1 的內存多少是用作cache多少是用作共享內存。

最后，也是比較重要的是，可以儲存各個core的計算中間結果，用于各個核心之間共享的內存段不僅僅可以是共享內存L1，也可以是寄存器，寄存器是離core最近的內存段，但是也非常小。最底層的思想是每個線程都可以擁有一個寄存器來儲存中間結果，每個寄存器只能由相同的一個線程來訪問，或者由相同的warp或者組的線程訪問。

三、海外復盤：NVIDIA與AMD（ATI）的競爭貫穿GPU發展歷程，架構創新升級和新興AI等領域前瞻探索是領跑的關鍵

1、NVIDIA長期居于GPU市場領導地位，近年AMD憑借RDNA架構在游戲市場強勢崛起。Verified Market Research數據顯示，2022年全球獨立GPU市場規模約448.3億美元，NVIDIA和AMD的市場份額占比約為8:2。根據JPR數據，NVIDIA憑借自身性能領先和CUDA生態優勢性 始終占有GPU領域超50%的市場份額，數據中心業務更是全面領先，在游戲顯卡領域，近年AMD憑借RDNA系列架構強勢崛起。

2、NVIDIA先后與AMD等企業在性能方面競爭博弈，架構創新升級和新興領域前瞻探索是領跑GPU行業的關鍵。NVIDIA憑借性能領先長期占據超五成市場份額，AMD（ATI）也曾因架構出色、性能驚艷實現反超。同時NVIDIA早在2006年前瞻性布局通用計算、構建CUDA生態，為如今AI&數據中心領域的全面領先構筑牢固的壁壘。NVIDIA積極布局異構芯片、汽車、元宇宙等新市場，尋找新的強有力業務增長點。

四、國內GPU市場：各應用場景市場廣闊，國內廠商大有可為

1、GPU市場空間廣闊，國內企業規模逐步起量

2022年全球GPU市場規模達到448.3億美元，國內外市場空間正高速增長，年復合增長率達到32.8% ，Verified Market Research 數據顯示，2020年，全球GPU市場規模為254.1億美元，且該機構預計2028年市場規模將達到2465.1億美元， 對應年復合增長率達32.8%。

國際獨立GPU市場由Nvidia、AMD八二分成，國內市場中國企業體量快速增長國際市場上，英偉達、AMD瓜分市場，Jon Peddie Research數據顯示2022Q1英偉達占據79%市場份額，AMD占據21%。英偉達在獨立GPU領域一枝獨秀，AMD在集成GPU領域可與英偉達競爭。根據各公司財報，國內GPU龍頭企業景嘉微2022年上半年營業收入5.44億人民幣，2021年營業收入10.93億人民幣；2022年上半年海光信息營業收入為25.3億元，而英偉達2022Q2營收為67億美元，2021年NVIDIA中國區的營收約為71億美元。相比之下，國產廠商相對規模暫時較小，未來成長空間廣闊。

2、國內市場：GPU應用市場可劃分為—AI和數據中心、智能汽車、游戲

1）需求端1—AI

ChatGPT等AI大模型加速對大算力的需求

2022年11月人工智能實驗室 OpenAI 推出了一款AI對話系統—ChatGPT，ChatGPT模型從 GPT-3.5 系列中的一個模型微調而成，并在 Azure AI 超級計算基礎設施上進行訓練，能夠進行有邏輯的對話、撰寫代碼、撰寫劇本、糾正錯誤、拒絕不正當的請求等，效果超越大眾預期。這標志著對話類人工智能可以在大范圍、細節問題上給出較合理準確的答案，并根據上下文形成一定像人類一樣有邏輯且有創 造力的回答。ChatGPT的優化主要來自模型的增大，以及因此帶來的算力增加。GPT、GPT-2和GPT-3（當前開放的版本為GPT-3.5）的參數量從1.17 億增加到1750億，預訓練數據量從5GB增加到45TB，其中GPT-3訓練單次的成本就高達460萬美元。

大模型算力

數據中心和終端場景不斷落地對計算芯片提出更多更高需求

依據部署位置劃分，AI芯片可以細分為終端芯片和云端芯片，云端芯片市場空間約為終端芯片的2-3倍。云端芯片：云端芯片應用于云端服務器，可以進一步細分為推理芯片和訓練芯片。根據甲子光年數據，2018年中國云端芯片市場約46.1 億元，該機構預計2023年增長至384.6億元。終端芯片：應用于嵌入式、移動終端、智能制造、智能家居等領域的AI芯片，終端芯片需要低功耗和更高的能效比，但是對算力的需求也相對較低，主要應用于AI推理。根據甲子光年數據，2018年中國終端芯片市場約15億元，該機構預計2023年增長至173億元。

AI芯片總市場232億元，其中云端芯片市場空間更大，預計終端芯片將隨著AI在多行業落地將進一步放量。甲子光年預測，中國AI芯片市場規模將從2021年232億元增長至2023年的500億元左右，對應中國云端芯片市場的復合增長率為52.8%；終端芯片市場規模相對較小，但由于人工智能在汽車、安防、智能家居等行業滲透，屆時市場規模增長率達到62.2%。

中國終端AI芯片市場規模（億元）

2）需求端2—汽車：汽車智能化浪潮下控制器GPU市場前景廣闊。自動駕駛和智能座艙是智能汽車中具有廣闊前景的方向。蓋世汽車數據預計，2025年自動駕駛域控制器出貨量將達到432萬臺，每臺自動駕駛域控制器配備1-4片高性能計算GPU；智能座艙域控制器出貨量達到528萬臺，絕大多數智能座艙域控制器配備1片GPU。自動駕駛技術進一步智能化拉動汽車GPU市場規模快速擴張。

3）需求端3—游戲：游戲玩家人數持續增長，游戲GPU市場穩中有升。Newzoo Expert數據顯示全球游戲玩家人數在2021年已達到30.57億人，且預計2020-2025年全球游戲玩家人數復合年增率為4.2%；游戲市場內，游戲機和PC兩大主體出貨量再創新高，游戲機三大巨頭2021年出貨量高達4008萬臺；2021年Q4全球PC GPU出貨量（包括集成和獨立顯卡）高達11000萬片。

3、國內GPU發展現狀

1)GPU市場規模逐年增長：據市場研究公司IDC數據顯示，2020年中國GPU市場規模為92.9億美元，同比增長15.5%。其中游戲、數據中心、人工智能等領域是GPU市場的主要需求方。

2)國內GPU廠商崛起：中國有多家GPU廠商在市場中嶄露頭角，例如華為、寒武紀、顯現科技、紫光展銳等。這些公司在GPU技術研發、產品創新、市場拓展等方面取得了不少成果，并開始在一些領域嶄露頭角。

3)國內GPU技術水平提升：中國在GPU技術研發領域也取得了一些成果，例如國產化的GPU服務器、AI加速卡、圖像處理器等，這些技術的出現使得國內GPU應用的范圍進一步擴大。

4)GPU在科研領域的應用逐步增多：GPU在科研領域的應用逐步增多，例如天河系列超級計算機、中國科學院的高性能計算平臺等。GPU的應用不僅加速了科研進程，也為國家科技創新提供了支撐。

總結

數字中國建設是中國國家發展戰略的一部分，旨在推動數字化、信息化和網絡化的全面發展，提高數字經濟的貢獻率，構建數字社會和數字政府，加強國家信息安全和網絡安全等。數字中國建設的整體布局規劃應該包括以下幾個方面：

1、建設數字基礎設施：包括建設高速寬帶網絡、移動通信網絡、物聯網等數字基礎設施，提高網絡帶寬和速度，實現全國覆蓋。

2、推進數字產業發展：包括培育數字經濟新業態，加強數字產業集聚區建設，促進數字化轉型，提高數字產業的國際競爭力。

3、構建數字社會：加強數字技術與社會發展的融合，建立數字健康、數字教育、數字文化等數字社會基礎設施，提高人民群眾的數字素養和數字生活質量。

4、推進數字政府建設：通過建設數字政府平臺、數字化行政審批、電子政務等手段，提高政府工作效率和公共服務水平，推進政府治理現代化。

5、加強信息安全和網絡安全：建設信息安全和網絡安全的法律制度體系，強化網絡空間安全管理，提高信息安全和網絡安全能力。

通過數字中國建設的整體布局規劃，可以實現數字化、信息化和網絡化的全面發展，加速數字經濟的發展，提高社會生產力和國家綜合實力。此外，ChatGPT可以通過學習數字中國建設的整體布局規劃，深入了解數字技術在國家戰略和社會發展中的應用，從而提高對數字經濟、數字社會、數字政府等領域的理解和認知，為未來發展提供更加全面和深入的思路和支持。

審核編輯黃宇