春節(jié)之后，ChatGPT這個名字在國內(nèi)聲名鵲起，它能夠與用戶進行流暢、自然、有趣的對話，展示了人工智能在自然語言處理領(lǐng)域的巨大進步。

“AI的‘iPhone時刻’已經(jīng)到來”，全球最大的AI芯片制造商之一英偉達CEO在3月21日的GTC大會上這樣說到，“各行各業(yè)正在應對可持續(xù)發(fā)展、生成式AI和數(shù)字化等強大的動態(tài)挑戰(zhàn)，因此加速計算和AI的到來恰逢其時。”

為支撐OpenAI訓練出ChatGPT，微軟打造了一臺由數(shù)萬個A100 GPU組成的AI超級計算機，此外，還有60多個數(shù)據(jù)中心、幾十萬張GPU支持ChatGPT的推理工作，預計GPT-4模型的商業(yè)化將需要超過3萬枚A100芯片。可以說AI算力芯片是人工智能大模型的發(fā)動機，也是人工智能產(chǎn)業(yè)發(fā)展的重要基礎(chǔ)。

01AI算力芯片是何方神圣？AI算力芯片，也被稱為AI加速器或計算卡，即專門用于處理人工智能應用中的大量計算任務(wù)的模塊。從廣義范疇上講，面向AI計算應用并提供算力的芯片都被稱作AI算力芯片，可滿足AI算法的復雜度和多樣性需求，具有高性能、低功耗、低延遲、高并行度等特點。其主要包括基于傳統(tǒng)芯片架構(gòu)的中央處理器（CPU）、圖形處理器（GPU）、現(xiàn)場可編程門陣列（FPGA）和專用集成電路（ASIC），以及前沿的神經(jīng)擬態(tài)芯片、類腦芯片、可重構(gòu)通用AI芯片等，在云計算、數(shù)據(jù)中心、邊緣計算、物聯(lián)網(wǎng)、智能手機、智能汽車等領(lǐng)域具有廣泛的應用場景。

GPU成AI算力芯片霸主

當前主流的AI算力芯片有GPU、FPGA和ASIC芯片，其中，GPU作為目前應用最廣的AI芯片，是GPT訓練模型中精度最高和算力最快的AI芯片，主要采用并行計算處理技術(shù)，堪稱AI時代的算力核心。隨著人工智能訓練與推理需求的增加，還應運而生了通用圖形處理單元（GPGPU）——它可利用GPU的大量核心和高帶寬內(nèi)存，實現(xiàn)高度并行的數(shù)據(jù)處理，顯著提高計算效率和性能；也可利用GPU的專用硬件，如紋理單元、著色器等，實現(xiàn)特定功能的加速，解決傳統(tǒng)CPU難以處理的問題，如科學計算、機器學習、圖像處理等。四類主要AI算力芯片的比較

訓練與推理，從云到端的混合部署

根據(jù)機器學習算法步驟，人工智能有訓練（training）和推理（inference）兩個重要環(huán)節(jié)：

訓練是指通過大量的標注數(shù)據(jù)來構(gòu)建和優(yōu)化一個復雜得神經(jīng)網(wǎng)絡(luò)模型，其能夠適應特定的功能，如圖像識別、語音識別、自然語言處理等。

推理是指利用訓練好的模型，使用新數(shù)據(jù)推理出各種結(jié)論，如識別圖像中的物體、轉(zhuǎn)換語音為文本、生成自然語言回答等。

訓練需要大量的數(shù)據(jù)和計算資源，以及一定的通用性，以便完成各種各樣的學習任務(wù)；通常在云端或服務(wù)器上進行，需要高性能、高帶寬、高精度的AI算力芯片。

推理需要快速將推理結(jié)果轉(zhuǎn)化為行動，以及考慮單位能耗算力、時延、成本等綜合指標。推理可以在云端或終端進行，需要低功耗、低延遲、低成本的AI算力芯片。

訓練與推理AI算力芯片的比較結(jié)合實際應用場景，根據(jù)芯片部署的位置，AI算力芯片又可分為云端訓練、云端推理、邊緣計算和終端四大類：

云端訓練AI算力芯片用于構(gòu)建和優(yōu)化深度神經(jīng)網(wǎng)絡(luò)模型，具備高吞吐量、高精確率、可編程性、分布式、可擴展性、高內(nèi)存與帶寬等特點；

云端推理AI算力芯片用于利用訓練好的神經(jīng)網(wǎng)絡(luò)模型進行預測和分析，對擴展性和帶寬的要求較低，但具有低延時特點；

邊緣計算AI算力芯片是在邊緣設(shè)備上進行深度學習模型推理，實現(xiàn)模型的離線運行和本地處理的芯片，具有輕量化和可擴展特點；

終端AI算力芯片是實現(xiàn)模型的輕量化和優(yōu)化，對數(shù)據(jù)進行本地處理和分析的芯片，可實現(xiàn)數(shù)據(jù)收集、環(huán)境感知、人機交互等功能，具有低功耗和協(xié)同性特點。

02

信息時代躍入智能時代？

人工智能是數(shù)據(jù)、算法、算力的有機整合，正在從單一的技術(shù)工具演變?yōu)樾袠I(yè)必不可少的生態(tài)系統(tǒng)，幫助人們解決復雜問題，改變?nèi)说纳詈蜏贤ǚ绞健?/span>AI算力芯片作為底層算力設(shè)施的關(guān)鍵一環(huán)，在提高算法的運行速度和效率，降低成本和功耗等方面發(fā)揮舉足輕重的作用。可以說，AI算力芯片是人工智能發(fā)展的基石，有望促進人工智能應用場景落地和萬億級數(shù)字經(jīng)濟產(chǎn)業(yè)變革，驅(qū)動智能化時代加速到來。在數(shù)字化轉(zhuǎn)型、AIGC等浪潮下，AI算力芯片市場需求猛增。據(jù)TrendForce預測，2025年全球AI算力芯片市場規(guī)模有望達740億美元；而據(jù)IDC數(shù)據(jù)，到2025年GPU仍將占據(jù)AI算力芯片80%的市場份額。可以預見，GPU在較長期時間內(nèi)，依然是全球AI算力芯片廠商的角斗場。

美國占據(jù)全球AI算力芯片市場絕對優(yōu)勢

據(jù)Mordor Intelligence報告，目前，美國AI算力芯片市場主要玩家有英偉達、英特爾、AMD，分為GPU和FPGA兩大陣營。英偉達在GPU市場一家獨大，市場份額高達90%，在訓練和推理芯片領(lǐng)域遙遙領(lǐng)先其它廠商；英特爾與AMD則在CPU市場持續(xù)占據(jù)統(tǒng)治地位，雙方各自收購了FPGA巨頭Altera與Xilinx，旨在進入數(shù)據(jù)中心與嵌入式市場進行互博。

英偉達——AI算力芯片領(lǐng)跑者

英偉達作為全球領(lǐng)先的芯片廠商，其GPU產(chǎn)品線豐富、產(chǎn)品性能頂尖、開發(fā)生態(tài)成熟，已經(jīng)成為AI算力芯片的生態(tài)構(gòu)建者和領(lǐng)跑者。其主流AI芯片分為四大類：面向數(shù)據(jù)中心的AI訓練和推理芯片，如A100和H100；面向云端工作負載的AI推理芯片，如T4；面向邊緣設(shè)備的AI加速芯片，如不同級別的Jetson系列SOC；面向?qū)I(yè)圖形和虛擬現(xiàn)實的AI芯片，如Quadro系列芯片等。其中，面向數(shù)據(jù)中心的AI訓練和推理芯片最為行業(yè)所關(guān)注：

英偉達A100與H100產(chǎn)品簡介

據(jù)英偉達公開數(shù)據(jù)表明，對于當今的主流AI和HPC機型，配備InfiniBand interconnect的H100的性能是A100的30倍。英偉達A100與H100產(chǎn)品性能對比

AI算力芯片自主可控任重道遠

據(jù)IDC報告，CPU+GPU的產(chǎn)品組合占中國AI服務(wù)器市場的91.9%，國內(nèi)AI行業(yè)對GPU依賴性極高。
隨著美國《2022芯片與科學法案》的出臺以及針對中企進一步擴充“實體清單”名錄等措施的落地，英偉達和AMD高端AI算力芯片被全面禁售給中國，敲響了高端AI算力芯片國產(chǎn)自主可控的警鐘。但受限于工藝制程、EDA、IP核等技術(shù)封鎖，國內(nèi)AI芯片廠商的自主研制水平與國際一流水平還存在較大差距：

芯片制程工藝方面，全球3nm量產(chǎn)能力被三星和臺積電兩家企業(yè)壟斷，英特爾與臺積電在美工廠預計明年將實現(xiàn)4nm量產(chǎn)，而中國大陸目前還不具備4nm與7nm的制程工藝，由于臺積電被限制技術(shù)轉(zhuǎn)移，其只能在大陸投資落地28nm制程的生產(chǎn)線，大陸與世界領(lǐng)先水平整體差距在5-6年。

高端AI算力芯片方面，由于英偉達的A100與H100芯片向中國禁售，當前能獲得的最佳替代品是專供中國市場的A800芯片（A100“閹割版”），但其整體通信的帶寬性能僅為A100的70%，數(shù)據(jù)傳輸速度受限、功耗更大，且市場高度緊缺。

英偉達數(shù)據(jù)中心芯片售價情況哪里有差距，哪里就有追趕，具有高校、科研機構(gòu)與國內(nèi)外知名AI芯片廠商創(chuàng)始團隊背景的中國AI芯片企業(yè)正加速涌現(xiàn)，國產(chǎn)AI算力芯片產(chǎn)品也不斷實現(xiàn)創(chuàng)新突破。例如：寒武紀思元590在中國首發(fā)的大語言模型文心一言中已有小規(guī)模部署；海光信息深算1號的效能與NVIDIA P100相當，可運行AI大模型，蘇州、成都等多地超算中心均搭載其CPU與DCU。放眼未來，沐曦計劃于今年6月發(fā)布其GPU產(chǎn)品C100，公布的性能指標接近NVIDIA H100的水平；壁仞科技的BR100性能指標也對應NVIDIA H100，雖然其收到美國商務(wù)部打壓需要重新設(shè)計產(chǎn)品，但其產(chǎn)品仍讓人有所期待。

國產(chǎn)AI算力芯片公司主要產(chǎn)品對比
03新一線算力第一城成都AI算力芯片發(fā)展水平幾何？

國家信息中心提出未來80%的場景都將基于人工智能，所占據(jù)的算力資源將主要由智算中心提供。繼2020年成都超算中心落地后，2022年成都智算中心也成功投入使用，提供300P并在未來達到1000P的算力規(guī)模，成都成為全國除上海外僅有的投運超算和智算雙中心的城市，也是全國首個專門出臺算力產(chǎn)業(yè)專項政策的城市。

雙中心可以近乎實時地存儲、檢索、處理和分析海量數(shù)據(jù)，提供業(yè)務(wù)性能授權(quán)單元支持，提供數(shù)據(jù)智能處理、AI模型快速開發(fā)部署等能力，同時提供高可靠的資源管理、用戶管理、AI集群設(shè)備的運維和監(jiān)控服務(wù)，成為本地乃至全國AI算力芯片產(chǎn)業(yè)發(fā)展的重要基地和動力引擎，推動中國AI算力芯片走向全球領(lǐng)先地位。雙中心為AI算力芯片帶來的發(fā)展機遇：

為AI算力芯片的研發(fā)、測試、驗證、優(yōu)化等提供強大的計算支撐和數(shù)據(jù)服務(wù)，加速AI算力芯片的創(chuàng)新和突破；

為AI算力芯片的應用場景和需求提供豐富的案例和數(shù)據(jù)，推動AI算力芯片的產(chǎn)業(yè)化和商業(yè)化；

邊緣計算AI算力芯片是在邊緣設(shè)備上進行深度學習模型推理，實現(xiàn)模型的離線運行和本地處理的芯片，具有輕量化和可擴展特點；

為AI算力芯片的人才培養(yǎng)和交流提供平臺和機會，促進AI算力芯片產(chǎn)業(yè)的人才聚集和創(chuàng)新氛圍。

AI產(chǎn)業(yè)生態(tài)基礎(chǔ)良好

成都作為西部新一線領(lǐng)跑城市，2019年以來積極布局人工智能產(chǎn)業(yè)，形成了一批具有自主創(chuàng)新能力和市場競爭力的企業(yè)和團隊。據(jù)統(tǒng)計，截至2022年9月，全市人工智能產(chǎn)業(yè)規(guī)模達469.2億元，較2020年增長147%，核心產(chǎn)業(yè)規(guī)模位列全國第五，已基本形成完整的人工智能產(chǎn)業(yè)生態(tài)，覆蓋基礎(chǔ)層、技術(shù)層、應用層全產(chǎn)業(yè)鏈，特別是AI芯片、智能傳感、數(shù)據(jù)和計算服務(wù)智能機器人等十大細分領(lǐng)域優(yōu)勢突出。成都人工智能企業(yè)數(shù)量及產(chǎn)業(yè)價值鏈分布

其中，高新區(qū)擁有完整的電子信息產(chǎn)業(yè)鏈，集聚了全市75%的成長型人工智能核心企業(yè)。高新區(qū)在近日還發(fā)布了《成都高新區(qū)集成電路建圈強鏈三年攻堅計劃（2023-2025）》，提出以模擬芯片為核心，以算力芯片、存儲芯片及功率器件為重點，構(gòu)建規(guī)模大、技術(shù)強、要素全的集成電路全產(chǎn)業(yè)鏈，加快“中國存儲谷”建設(shè)，電子信息萬億級產(chǎn)業(yè)集群加快成型成勢，本地算力芯片迎來新的發(fā)展機遇期。

AI算力芯片加速萌芽

據(jù)統(tǒng)計，2021年成都芯片產(chǎn)業(yè)總規(guī)模達1464億元，同比增長20%，匯集英特爾、德州儀器、華為海思、成都海光、雷電微力、海威華芯等上下游企業(yè)200余家。其中，AI芯片產(chǎn)業(yè)規(guī)模約為184億元（2020年），代表性企業(yè)有中科創(chuàng)達、啟英泰倫、華天科技、北信源等，覆蓋人工智能芯片設(shè)計、制造、封裝、測試等全環(huán)節(jié)，囊括CPU、GPU、FPGA、ASIC等多種技術(shù)架構(gòu)和云端、邊緣、終端等多種應用場景。

啟英泰倫，成都高新區(qū)瞪羚企業(yè)、省級專精特新中小企業(yè)、成都市新經(jīng)濟百家重點培育企業(yè)，成立于2015年，是集語音芯片、語音算法、應用方案、開發(fā)平臺于一體的行業(yè)領(lǐng)導型語音解決方案供應商。成立至今，啟英泰倫已推出多款智能語音芯片，涵蓋離線語音芯片，語音AIoT芯片，語音藍牙芯片，其中CI1006芯片被認定為國內(nèi)首創(chuàng)，CI110X系列芯片被認定為國際先進。公司芯片產(chǎn)品現(xiàn)已廣泛應用于智慧家居家電、智慧養(yǎng)老、智慧穿戴、智慧醫(yī)療、智慧酒店、智慧安防、智慧教育、智慧汽車和機器人等領(lǐng)域，服務(wù)客戶超過1000家。

SynSense時識科技成立于2017年，是一家起源于瑞士的類腦智能與應用解決方案提供商，公司秉承了蘇黎世大學和蘇黎世聯(lián)邦理工學院20+年的類腦技術(shù)研發(fā)成果，專注于類腦智能的研究與開發(fā)，聚焦邊緣計算應用場景，提供超低功耗、超低延時的全棧式類腦智能解決方案與服務(wù)，曾獲評“全球唯一橫跨感知與計算兩界的類腦科技公司”“全球最值得關(guān)注的100家半導體新創(chuàng)公司”“麻省理工科技評論50家聰明公司”。公司開發(fā)了多款低功耗、高性能、架構(gòu)創(chuàng)新的類腦芯片產(chǎn)品，擁有全球首款“感算一體”動態(tài)視覺智能SoC Speck、XYLO 類腦處理器、DYNAP-CNN神經(jīng)形態(tài)處理器及完整工具鏈，可運用于智能家居人機交互、機器人、自動駕駛、可穿戴設(shè)備、智能安防、物聯(lián)網(wǎng)等。

04

打破技術(shù)壁壘未來可期

雖然國內(nèi)寒武紀、百度、燧原、華為等一眾企業(yè)的技術(shù)水平及產(chǎn)品性能都落后于英偉達一代或兩代，但AI算力芯片作為數(shù)字中國的算力基礎(chǔ)，國產(chǎn)突破勢在必行。面對摩爾定律邊際效用遞減的困境，ASIC芯片的弱通用性難以應對下游算法的快速演化，GPGPU又難解高功耗與低算力利用率問題，業(yè)界正翹首以盼新架構(gòu)、新工藝、新材料、新封裝，以進一步突破算力天花板。誰能率先填補大模型算力需求的缺口，誰就有機會搶占新一輪AI芯片搶位賽的前排。

其關(guān)鍵在于探尋“彎道超車”路徑，特別是存算一體、超異構(gòu)、Chiplet（芯粒）、3D封裝等新興技術(shù)路線的提出，跳出了馮·諾依曼架構(gòu)體系，理論上擁有高能效比優(yōu)勢，兼顧更強通用性與更高性價比，算力發(fā)展空間巨大，有望彌補中國企業(yè)與英偉達在硬件技術(shù)和軟件生態(tài)方面的差距，擺脫國內(nèi)對先進制程技術(shù)的依賴。例如：存算一體芯片對工藝要求較低，在28nm工藝上實現(xiàn)的算力和能效就能比肩甚至超過傳統(tǒng)架構(gòu)芯片在7nm工藝上的表現(xiàn)。

從超異構(gòu)來看，國內(nèi)CPU有廣受歡迎的開源RISC-V架構(gòu)，GPGPU有新興的開源架構(gòu)“青花瓷”平臺，存算一體也有億鑄科技等廠商在大力投入研發(fā)。隨著工藝不斷迭代，國內(nèi)企業(yè)“超車”速度會越來越快，優(yōu)勢會越來越明顯。

突破技術(shù)瓶頸并非一日之事，必須腳踏實地，加大資源持續(xù)投入，有耐心有定力，久久為功，才能踏上發(fā)展的“快車道”；我們希望有更多的本土企業(yè)走到換道前行的賽道上，為破解國內(nèi)AI大算力困局探尋屬于中國AI芯片產(chǎn)業(yè)的發(fā)展道路。

文章參考來源

·AI CHIPSETS MARKET - GROWTH, TRENDS, COVID-19 IMPACT, AND FORECASTS (2023 - 2028) —— Mordor Intelligence

·GLOBAL AI CHIPSETS MARKET (2022 - 2027) ——Mordorintelligence

·2022中國人工智能芯片 行業(yè)研究報告 ——億歐智庫

·UNITED STATES,SECURITIES AND EXCHANGE COMMISSION, WASHINGTON, DC 20549

·全球人工智能支出指南 ——IDC

·ChatGPT 系列報告：算力“軍備競賽” ——民生證券

·40張圖表解析中國“芯”勢力：2021年中國AI芯片發(fā)展簡報及典型廠商案例——甲子光年

·GTC 2023 主題演講——NVIDIA

·2022年成都市人工智能行業(yè)產(chǎn)業(yè)鏈現(xiàn)狀及發(fā)展前景分析——前瞻產(chǎn)業(yè)研究院

·邁向巔峰之路——中國成長型AI企業(yè)研究報告——英特爾，德勤，深圳市人工智能行業(yè)協(xié)會

·2018 人工智能芯片研究報告——清華-中國工程院知識智能聯(lián)合實驗室

·把GPT時代引擎拉滿，國產(chǎn)AI大算力芯片換道狂飆——智東西