近期的一些消息顯露出AI芯片初創(chuàng)公司的前景，似乎不太妙！Wave Computing破產(chǎn)關(guān)閉的還歷歷在目，現(xiàn)在，AI芯片領(lǐng)域的初創(chuàng)公司似乎正遭遇前所未有的挑戰(zhàn)。在英偉達(dá)的“陰影”下，一些潛在的投資者對(duì)初創(chuàng)公司望而卻步。面對(duì)全球經(jīng)濟(jì)的不穩(wěn)定性不斷增強(qiáng)，投資者因而變得越發(fā)審慎，他們對(duì)風(fēng)險(xiǎn)的忍受度顯著降低，這進(jìn)一步增加了AI芯片制造商在籌資時(shí)的困難。根據(jù) PitchBook 的數(shù)據(jù)，對(duì)專注于人工智能的芯片制造商的風(fēng)險(xiǎn)投資從2021年的90億美元降至40億美元。

雖然像Cerebras Systems、Graphcore和SambaNova這樣的企業(yè)成功籌集了大量資金，并在自己的技術(shù)領(lǐng)域取得了一定的成就，但要撼動(dòng)英偉達(dá)這樣的行業(yè)巨擘仍非易事。尤其是在像ChatGPT這類大型模型應(yīng)用興起之際，英偉達(dá)的地位愈發(fā)穩(wěn)固，其GPU芯片在眾多AI應(yīng)用中都扮演著不可或缺的角色，這使得任何試圖挑戰(zhàn)英偉達(dá)的初創(chuàng)公司都面臨著巨大的壓力。這些AI芯片初創(chuàng)企業(yè)需要不懈努力，以證明他們的技術(shù)不僅能與英偉達(dá)媲美，甚至具有超越的潛力和價(jià)值。

資金流動(dòng)性的減少、創(chuàng)新步伐的放緩，以及消費(fèi)者信心的衰退，都在很大程度上制約了這些初創(chuàng)公司的成長。在這種大環(huán)境下，AI芯片初創(chuàng)公司不僅要與技術(shù)巨頭競爭，還要在經(jīng)濟(jì)大潮的沖擊下穩(wěn)住陣腳，這無疑對(duì)它們的生存和發(fā)展提出了更高的要求。

幾近破產(chǎn)、融資困難、裁員，艱難的AI芯片公司

Mythic是模擬AI芯片的一家明星公司，但是據(jù)科技網(wǎng)站The Register報(bào)道，這家專注于模擬內(nèi)存計(jì)算（CIM）的AI芯片初創(chuàng)公司總共籌集了約1.6億美元資金，去年現(xiàn)金耗盡，幾乎被迫停止運(yùn)營。好在2023年3月，它成功籌集到了1300萬美元投資。Mythic首席執(zhí)行官Dave Rick表示，英偉達(dá)“間接”加劇了整體 AI 芯片融資困境，因?yàn)橥顿Y者希望投資巨額、回報(bào)豐厚的全壘打型投資。

在資金籌集方面，Graphcore堪稱歐洲半導(dǎo)體初創(chuàng)企業(yè)中的佼佼者。這家公司由Nigel Toon和Simon Knowles在2016年創(chuàng)立，此前他們將自己的硬件公司賣給了英偉達(dá)。Graphcore致力于開發(fā)IPU（智能處理單元），這一點(diǎn)與目前主流的針對(duì)人工智能應(yīng)用的GPU（圖形處理單元）截然不同。Graphcore稱，其IPU在滿足人工智能的特定需求方面，比GPU更具有優(yōu)勢(shì)。據(jù)PitchBook的數(shù)據(jù)顯示，截至目前，Graphcore已經(jīng)成功籌集了超過6億美元的投資。然而，相比所籌集的資金，Graphcore的收入?yún)s相對(duì)微薄。

故事在2020年出現(xiàn)了重大轉(zhuǎn)變，當(dāng)時(shí)微軟決定停用Graphcore的芯片于其云計(jì)算中心，這一舉措使得Graphcore失去了一個(gè)主要客戶，從而面臨了更加嚴(yán)峻的挑戰(zhàn)。根據(jù)金融時(shí)報(bào)的報(bào)道，到2022年，Graphcore的收入驟降了46％，僅為270萬美元，同時(shí)稅前虧損增加了11%，高達(dá)2.046億美元，年終現(xiàn)金余額為1.57億美元。Graphcore表示，到明年5月份需要進(jìn)一步融資才能實(shí)現(xiàn)收支平衡。公司將這一不利局面歸咎于“宏觀經(jīng)濟(jì)環(huán)境的逆境”和“關(guān)鍵戰(zhàn)略客戶”的硬件采購?fù)七t，尤其是來自“中國的主要客戶”。據(jù)路透社的消息，Graphcore關(guān)閉了在挪威、日本和韓國的業(yè)務(wù)，并縮減了在其他國家的業(yè)務(wù)。目前，Graphcore也開始重新調(diào)整業(yè)務(wù)方向，將其IPU芯片從數(shù)據(jù)中心轉(zhuǎn)向部署在云計(jì)算環(huán)境中。

Rivos，一家服務(wù)器芯片制造商，正面臨蘋果公司的訴訟，被指控非法挖角其工程師并竊取商業(yè)機(jī)密。今年八月，Rivos裁減了大約二十名員工，約占公司員工總數(shù)的6%，在此過程中，管理層向留下的員工透露，公司獲取新資金的可能性正在減少。聯(lián)合創(chuàng)始人還向部分員工透露，蘋果針對(duì)該公司及其幾位前蘋果員工的訴訟，嚴(yán)重阻礙了他們的籌資活動(dòng)。

芯片公司燒錢是常態(tài)，巨額的研發(fā)投入、激烈的市場競爭以及對(duì)頂尖人才的爭奪，都使得這些公司在成長的道路上不得不投入大量的資金。如今，人工智能領(lǐng)域初創(chuàng)公司給予初級(jí)工程師的薪酬往往十分可觀，這一方面反映了人才市場的供不應(yīng)求，另一方面也凸顯了這些初創(chuàng)公司對(duì)技術(shù)人才的極度渴求。然而，這種高薪策略是否可持續(xù)，卻是一個(gè)值得深思的問題。對(duì)于AI芯片初創(chuàng)公司而言，成功融資是其發(fā)展的關(guān)鍵一步，但資金的有效利用同樣至關(guān)重要——這不僅關(guān)乎公司的現(xiàn)階段運(yùn)營，更影響到其長遠(yuǎn)的戰(zhàn)略目標(biāo)和市場地位。

英偉達(dá)的一些勁敵?

Cerebras是一家“一鳴驚人”的公司，該公司因?yàn)樾酒?，而捕獲了行業(yè)的眼球。英偉達(dá)的A100 GPU已經(jīng)相當(dāng)大了，差不多826平方毫米。但Cerebras的新型芯片WSE-2 芯片，面積為 45,225平方毫米，幾乎覆蓋了8英寸硅晶圓的整個(gè)表面。自2016年成立以來它已籌集了7.3億美元。根據(jù)CB Insights全球獨(dú)角獸俱樂部的數(shù)據(jù)，該公司目前估值為 40 億美元。目前，Cerebras已經(jīng)與阿布扎比G42合作建造了九臺(tái)人工智能超級(jí)計(jì)算機(jī)中的第一臺(tái)，這臺(tái)超級(jí)計(jì)算機(jī)的造價(jià)超過1億美元。Cerebras也正在朝著生成式AI領(lǐng)域奮進(jìn)，雖然它已經(jīng)證明了其CS-2在GPT模型中訓(xùn)練的速度，但是其仍沒有獲得大型廠商的采用。

Cerebras研究人員在AI硬件公司中首次在Andromeda AI 超級(jí)計(jì)算機(jī)上訓(xùn)練了一系列七個(gè) GPT 模型，參數(shù)分別為 111M、256M、590M、1.3B、2.7B、6.7B 和 13B

Tenstorrent也是業(yè)界很看好的一家初創(chuàng)公司，由頂級(jí)芯片設(shè)計(jì)師Jim Keller于2016年所創(chuàng)立。截止目前，該公司已經(jīng)融資了近3.35億美元，最近的一次投資者中包括三星和現(xiàn)代，目前估值約為10億美元。Tenstorrent將利用RISC-V和Chiplet技術(shù)打造AI CPU，以此來挑戰(zhàn)英偉達(dá)的AI主導(dǎo)地位。最近，Tenstorrent剛與三星達(dá)成生產(chǎn)合作的協(xié)議，計(jì)劃使用三星的4nm工藝來生產(chǎn)芯片。

該公司擁有全面的路線圖（如下圖所示），其中包括基于 RISC-V 的高性能 CPU 小芯片以及先進(jìn)的 AI 加速器小芯片，有望為機(jī)器學(xué)習(xí)提供強(qiáng)大的解決方案。目前，Tenstorrent有兩款產(chǎn)品：一種名為Grayskull的機(jī)器學(xué)習(xí)處理器，可提供約315 INT8 TOPS的性能，可插入PCIe Gen4插槽；另一種是聯(lián)網(wǎng)Wormhole ML處理器，可提供約350 INT8 TOPS的性能并使用GDDR6內(nèi)存子系統(tǒng)，一個(gè) PCIe Gen4 x16 接口，并具有與其他機(jī)器的 400GbE 連接。今年他們將推出其 Black Hole獨(dú)立ML計(jì)算機(jī)芯片。該公司的重頭戲"Grendel "將于2024年推出，這是一種高配置、高性能的ML芯片設(shè)計(jì)，將CPU芯片與專用的 ML/AI 芯片相結(jié)合，與英偉達(dá)的GH200和 Grace/Hopper超級(jí)芯片的實(shí)現(xiàn)方式類似。

Tenstorrent的AI芯片路線圖（圖片來源：Tenstorrent）

成立于2017年的SambaNova已成為AI芯片創(chuàng)業(yè)領(lǐng)域中資金最雄厚的公司之一。截至目前，該公司已成功籌集了高達(dá)10億美元的融資，投資方包括如軟銀和英特爾等知名機(jī)構(gòu)。這使SambaNova不僅成為融資額最高的AI芯片初創(chuàng)公司，也被視為英偉達(dá)最有力的新興競爭者之一，公司估值達(dá)到了50億美元。

SambaNova最近推出了其最新的第四代SN40L處理器。這款處理器擁有超過1,020億個(gè)晶體管，采用了臺(tái)積電的5nm工藝，其計(jì)算速度高達(dá)638 teraflops。獨(dú)特的三層內(nèi)存系統(tǒng)（包括片上內(nèi)存、高帶寬內(nèi)存和高容量內(nèi)存）旨在處理與AI工作負(fù)載相關(guān)的龐大數(shù)據(jù)流。SambaNova宣稱，一個(gè)只有8個(gè)此類芯片組成的節(jié)點(diǎn)就能夠支持多達(dá)50萬億參數(shù)的模型，這幾乎是OpenAI的GPT-4 LLM報(bào)告規(guī)模的三倍。該公司的首席執(zhí)行官Rodrigo Liang表示，使用標(biāo)準(zhǔn)的GPU來執(zhí)行相同任務(wù)將需要數(shù)百個(gè)芯片，這意味著總成本只有使用標(biāo)準(zhǔn)方法的1/25。然而，SambaNova并不直接將芯片銷售給其他公司。相反，它提供對(duì)其定制技術(shù)棧的訪問權(quán)限，其中包含了為運(yùn)行最大型AI模型而專門設(shè)計(jì)的專有硬件和軟件。

避免與之正面競爭，會(huì)否是AI芯片初創(chuàng)公司的新出路？

盡管英偉達(dá)在人工智能計(jì)算領(lǐng)域占據(jù)主導(dǎo)地位，但該公司并沒有牢牢鎖定該領(lǐng)域，市場機(jī)會(huì)仍然有很多。如果按照英偉達(dá)的馮·諾依曼架構(gòu)+HBM+先進(jìn)工藝+互聯(lián)這樣的路線，可能將無人能敵英偉達(dá)，而且GPU價(jià)格和功耗一直在上漲，這對(duì)于人工智能行業(yè)本身來說是不可持續(xù)的。所以一些AI芯片公司選擇不與英偉達(dá)正面競爭，另辟蹊徑，走出一些差異化的路線，試圖在市場中分一杯羹。

d-Matrix：存內(nèi)計(jì)算芯片

d-Matrix公司也是一家AI芯片初創(chuàng)公司，該公司認(rèn)為，隨著生成式人工智能的爆發(fā)，當(dāng)前的基礎(chǔ)設(shè)施無法維持成本和需求，生成式人工智能需要變革性的計(jì)算范式。所以d-Matrix

設(shè)計(jì)的芯片具有數(shù)字“內(nèi)存計(jì)算”功能，使人工智能計(jì)算機(jī)代碼能夠更有效地運(yùn)行。d-Matrix 宣稱可以將TCO降低十倍，并在性能和延遲方面具有二十倍的優(yōu)勢(shì)。

據(jù)The Register的報(bào)道，這家初創(chuàng)公司的最新芯片名為Jayhawk II，將采用通過高速結(jié)構(gòu)連接的八個(gè)小芯片，總共 2GB 的 SRAM，而且只需要350瓦就能提供大約 2,000 TFLOPs 的 FP8 性能和多達(dá) 9,600 TOPs 的 Int4 或塊浮點(diǎn)數(shù)學(xué)性能。

d-Matrix 路線圖（來源：d-Matrix）

該芯片可幫助ChatGPT等生成型AI應(yīng)用提供支持。不過該公司所針對(duì)的僅是人工智能的推理部分，訓(xùn)練部分則不涉獵。也就是說他們講不與英偉達(dá)正面競爭，而是發(fā)力在3-600億參數(shù)模型領(lǐng)域。對(duì)于這種尺寸的模型，在人工智能推理方面，英偉達(dá)的H100不一定是最經(jīng)濟(jì)的選擇。運(yùn)行這些模型的大部分成本都?xì)w結(jié)于快速高帶寬內(nèi)存的使用。相比之下，d-Matrix 加速器中使用的SRAM更快、更便宜，但容量也有限。

d-Matrix已經(jīng)在微軟的支持下融資1.1億美元，微軟已承諾在明年推出該芯片時(shí)對(duì)其自用進(jìn)行評(píng)估。d-Matrix預(yù)計(jì)兩年內(nèi)年收入將超過 7000 萬至 7500 萬美元，并實(shí)現(xiàn)收支平衡。

Ceremorphic：模擬計(jì)算AI芯片

Ceremorphic正在設(shè)計(jì)一款采用臺(tái)積電5nm工藝的超低功耗超級(jí)計(jì)算芯片，利用其自己的專利技術(shù)和多線程處理架構(gòu)ThreadArch。該公司的創(chuàng)始人兼首席執(zhí)行官Venkat Mattela，此前他所創(chuàng)立的Redpine Signals于2020年3月以3.14億美元的價(jià)格出售給了Silicon Labs。Ceremorphic所研發(fā)的芯片的核心在于數(shù)字電路之下的模擬電路，在芯片功能的層次結(jié)構(gòu)的最低層進(jìn)行模擬計(jì)算，更高層次上則不做模擬計(jì)算。該公司的創(chuàng)始人兼首席執(zhí)行官Venkat Mattela認(rèn)為，模擬乘法將比數(shù)字乘法更有效地利用電壓，更好的實(shí)現(xiàn)低功耗。

該公司的主要技術(shù)包括可靠、低能耗和安全的機(jī)器學(xué)習(xí)、圖形神經(jīng)處理器、抗量子和硅高效安全處理器、高性能模擬電路、可靠的時(shí)序電路和系統(tǒng)級(jí)互連，使產(chǎn)品能夠針對(duì)不同的細(xì)分市場進(jìn)行擴(kuò)展。右圖描繪了 Ceremorphic的技術(shù)組合，涵蓋當(dāng)前和未來的計(jì)算需求。

Ceremorphic的技術(shù)組合

結(jié)語

就目前的事實(shí)證明，在英偉達(dá)所主導(dǎo)的GPU生態(tài)中，初創(chuàng)芯片公司想要打入自己的產(chǎn)品不是易事，“替代英偉達(dá)”難。強(qiáng)如AMD和英特爾都很難撬動(dòng)這塊大蛋糕。對(duì)于這些AI芯片公司而言，機(jī)會(huì)之窗口很窄，英偉達(dá)已經(jīng)發(fā)布了其最新的路線圖。而且，大型的云廠商幾乎都已經(jīng)躬身自研芯片了，亞馬遜擁有Inferentia芯片，谷歌最近展示了其第五代張量處理單元，微軟即將發(fā)布其自研芯片，這進(jìn)一步擠壓了希望通過云提供商進(jìn)入市場的初創(chuàng)企業(yè)的機(jī)會(huì)。

芯片初創(chuàng)企業(yè)所承擔(dān)的風(fēng)險(xiǎn)甚至超越了傳統(tǒng)軟件初創(chuàng)公司，因?yàn)樗鼈儾粌H需要巨額資金來支持復(fù)雜的半導(dǎo)體設(shè)計(jì)和軟件開發(fā)，還要承擔(dān)實(shí)物產(chǎn)品的制造成本。隨著時(shí)間的推移，我們可能會(huì)目睹一些此類企業(yè)的破產(chǎn)倒閉、被收購，但它們中的每一個(gè)都懷揣著成為下一個(gè)英偉達(dá)的夢(mèng)想。隨著時(shí)間的推進(jìn)，可能會(huì)有更多這樣的公司失敗，但每個(gè)公司內(nèi)心都懷揣著一個(gè)共同的夢(mèng)想——成為下一個(gè)英偉達(dá)。