昨天分享了GB200關(guān)于線纜的一些問題，今天給大家分享下GB200關(guān)于PCB相關(guān)的問答。GB200中信號(hào)的速率比較高，鏈路也比較長(zhǎng)，所以采用了比較低損的材料和高端的制造工藝，據(jù)悉PCB采用了M8級(jí)別的PCB材料以及20層HDI設(shè)計(jì)。再加上其預(yù)計(jì)在2025年將達(dá)到5.8W個(gè)機(jī)架，所以總量會(huì)爆發(fā)式增長(zhǎng)。

Q1：GB200PCB板塊的架構(gòu)有哪些核心更新？

答：GB200 PCB板塊的架構(gòu)帶來(lái)了一些重要的更新，這些更新對(duì)于整個(gè)PCB行業(yè)的價(jià)值有著顯著的影響。首先，GB200的結(jié)構(gòu)中PCB的使用量預(yù)計(jì)將顯著增加。在一個(gè)擁有72個(gè)GPU的機(jī)架配置中，每個(gè)機(jī)架包含多個(gè)基礎(chǔ)組件，其中Compute Tray結(jié)構(gòu)是核心部分，每個(gè)Tray包含兩個(gè)PCB單元，每個(gè)單元裝有兩個(gè)GPU和一個(gè)CPU。此外，NV Switch Tray作為GPU間信息交換的中介，以及InfiniBand(IB)交換機(jī)用于網(wǎng)絡(luò)連接，這些都是PCB應(yīng)用的關(guān)鍵領(lǐng)域。

Q2：銅線是否會(huì)替代PCB，這兩者之間的價(jià)量關(guān)系如何？

答：雖然市場(chǎng)上有專家探討銅線可能替代PCB的話題，但我們認(rèn)為這種看法過于簡(jiǎn)化。在GB200的架構(gòu)中，盡管引入了銅線，但ASIC芯片必須使用PCB。隨著電子產(chǎn)品集成度的提高，PCB的作用不可替代。此外，從經(jīng)濟(jì)角度來(lái)看，PCB的價(jià)值量預(yù)計(jì)將顯著提升，尤其是在交換機(jī)ASIC的帶寬增加方面。

Q3：市場(chǎng)上關(guān)于銅線可能取代PCB的說(shuō)法有何依據(jù)？ 答：市場(chǎng)上關(guān)于銅線可能取代PCB的說(shuō)法主要基于銅線在某些應(yīng)用中的使用。然而，這種看法忽略了PCB在高性能計(jì)算、高速數(shù)據(jù)傳輸?shù)确矫娴牟豢商娲浴C(jī)架式服務(wù)器從未普遍采用PCB背板，而且英偉達(dá)的GB200架構(gòu)已經(jīng)開始使用銅線，但這并不意味著PCB將被徹底取代。隨著電子產(chǎn)品集成度的提高，PCB的重要性將進(jìn)一步凸顯。

Q4：GB200架構(gòu)的推廣對(duì)PCB廠商有何影響？

答：GB200架構(gòu)的推廣將對(duì)PCB廠商產(chǎn)生積極影響。隨著GB200架構(gòu)增強(qiáng)了GPU間的連接層，導(dǎo)致交換機(jī)ASIC數(shù)量增加，從而推動(dòng)了PCB價(jià)值量提升。單個(gè)GPU對(duì)應(yīng)的PCB價(jià)值量大約為0.3萬(wàn)元，相比H100的Super Pod提升了150%。這意味著主流PCB廠商在未來(lái)值得期待，并將受益于GB200架構(gòu)的推廣以及相應(yīng)產(chǎn)品規(guī)格的提升。

Q5：在更大規(guī)模的集群中，PCB的價(jià)值量如何變化？

答：在更大規(guī)模的集群中，例如8個(gè)機(jī)架相連的配置，整體PCB價(jià)值量可達(dá)三百多萬(wàn)元，每個(gè)GPU對(duì)應(yīng)的PCB價(jià)值量約為0.53萬(wàn)元。這比單個(gè)機(jī)架的配置提升了近300%，主要得益于L2層的增加及更多級(jí)別的IB Switch網(wǎng)絡(luò)。這一變化表明，隨著集群規(guī)模的擴(kuò)大，PCB的價(jià)值量也隨之增加。

Q6：GB200架構(gòu)中PCB的價(jià)值量提升主要受哪些因素影響？

答：GB200架構(gòu)中PCB的價(jià)值量提升主要受到交換機(jī)ASIC帶寬增加的影響。隨著帶寬的提升，對(duì)PCB的性能要求也相應(yīng)提高，從而推動(dòng)了PCB的價(jià)值量上漲。此外，由于GB200架構(gòu)增強(qiáng)了GPU間的連接層，導(dǎo)致交換機(jī)ASIC數(shù)量增加，這也是PCB價(jià)值量提升的一個(gè)重要因素。

Q7：GB200架構(gòu)中PCB的價(jià)值量如何計(jì)算？ 答：在GB200架構(gòu)中，我們通過分析每個(gè)板上的帶寬來(lái)確定相應(yīng)的PCB規(guī)格和價(jià)值量。例如，承載GPU和CPU的PCB帶寬大約是900GB/s，需要采用高密度互連(HDI)工藝。而交換機(jī)PCB的帶寬約為57.6TB，計(jì)算得出，一個(gè)機(jī)架包含兩個(gè)IB Switch。一個(gè)機(jī)架的主要PCB組成包括36個(gè)PCB單元，每個(gè)單元帶寬0.9TB，價(jià)格約為2萬(wàn)元人民幣每平方米，價(jià)值量72,000元。NV Link Switch的PCB單價(jià)約為6萬(wàn)元每平方米，價(jià)值量超過10萬(wàn)元。每?jī)膳_(tái)IB Switch的總價(jià)值量為18,000元。

Q8：GB200架構(gòu)的電源供電需求是否有變化？

答：關(guān)于GB200架構(gòu)的電源供電問題，目前沒有明顯的跡象表明其電源供電需求與之前相比有顯著變化。電源供電的設(shè)計(jì)通常會(huì)根據(jù)硬件的功耗和性能需求進(jìn)行調(diào)整。由于GB200架構(gòu)在GPU數(shù)量和性能上的提升，可能會(huì)對(duì)電源供電系統(tǒng)提出更高的要求，但具體的供電需求還需根據(jù)實(shí)際的產(chǎn)品規(guī)格和設(shè)計(jì)來(lái)確定。

Q9：GB100和GB200的PCB供應(yīng)商有哪些？ 答：GB100的PCB供應(yīng)商主要是繼續(xù)利用之前H100的供應(yīng)鏈。GB200的PCB供應(yīng)商目前還不完全確定，但主流廠商特別是像滬電、欣興這樣的交換機(jī)供應(yīng)商應(yīng)該會(huì)有較大的增量機(jī)會(huì)。聽說(shuō)擅長(zhǎng)做卡的PCB廠也有可能有機(jī)會(huì)。 Q10：GB200架構(gòu)中PCB用量增加的原因是什么？

答：GB200架構(gòu)中PCB用量增加主要與NV Link和NV Switch相關(guān)。雖然GPU的數(shù)量由過去的每個(gè)單元對(duì)應(yīng)一個(gè)GPU提升到現(xiàn)在的每個(gè)單元對(duì)應(yīng)兩個(gè)GPU，但整體價(jià)值量的提升并不像預(yù)期的那么大。規(guī)格上，PCB達(dá)到了六階HDI水平，盡管帶寬有所下降，但規(guī)格的提升使得整體價(jià)值量確實(shí)有所增加。

Q11：GB200NVL72rack和機(jī)柜之間的配置關(guān)系是怎樣的？

答：在一個(gè)機(jī)柜中，有18個(gè)節(jié)點(diǎn)，按照72個(gè)GPU滿配，一個(gè)NV Link Switch將使用九個(gè)ASIC芯片，每個(gè)芯片的總帶寬為57.6T。這里主要講述的是下行鏈路的配置，至于上行鏈路，在一個(gè)rack中需配置2個(gè)IB的Switch，這就是GB200NVL72rack和機(jī)柜之間的基本配置關(guān)系。

Q12：機(jī)柜內(nèi)部互連是否會(huì)減少對(duì)外部交換機(jī)的使用量，以及整體機(jī)架質(zhì)量如何變化？

答：在討論GB200架構(gòu)時(shí)，我們需要明確網(wǎng)絡(luò)架構(gòu)的關(guān)系。機(jī)柜內(nèi)部互連使用的NV Link Switch并不是傳統(tǒng)意義上的交換機(jī)，而是一種專門用于GPU之間下行互連的交換板。由于它需要連接72個(gè)GPU，因此互連鏈路的數(shù)量和帶寬要求都非常高。這就要求使用更高帶寬的ASIC進(jìn)行連接，相應(yīng)地，作為載體的PCB也需要提升其質(zhì)量和性能。另一方面，外部交換機(jī)的架構(gòu)與H100的Super Pod的外部IB網(wǎng)絡(luò)架構(gòu)相同。隨著總帶寬的提升，外部IB網(wǎng)絡(luò)的交換機(jī)帶寬也相應(yīng)提升，從而提高了整體的動(dòng)態(tài)性能。因此，整體機(jī)架的質(zhì)量得到了提升，以滿足更高的性能要求。

Q13：GB200架構(gòu)中PCB價(jià)值量如何計(jì)算？

答：在GB200架構(gòu)中，整個(gè)機(jī)柜的PCB用量可以分為四個(gè)主要部分：Compute Node、NV Link Switch、IB leaf Switch和IB spine Switch。這四個(gè)部分的合計(jì)PCB用量大約為21.6萬(wàn)人民幣的價(jià)值量，其中Compute Node部分大約為7萬(wàn)人民幣，NV Link Switch部分大約為10萬(wàn)人民幣，而IB的兩個(gè)Switch部分加起來(lái)大約為3.6萬(wàn)人民幣。

如果將8個(gè)rack連接在一起，由于L2層的連接和spy網(wǎng)絡(luò)帶寬的新增，整體的PCB用量將達(dá)到超過300萬(wàn)元人民幣。按照每個(gè)GPU計(jì)算，相當(dāng)于0.553萬(wàn)元人民幣的PCB用量水平。

Q14：GB200與GH200以及B100與H100的PCB用量有何不同？

答：在比較GB200與GH200，以及B100與H100的PCB用量時(shí)，我們需要注意的是，B100與H100之間的比較主要與帶寬提升和網(wǎng)絡(luò)接口C×8或C×7的使用有關(guān)，因此PCB用量的增加并不會(huì)太大。而GB200的PCB用量則顯著增加，這是因?yàn)殡m然GPU帶寬只增加了兩倍，但連接數(shù)量增加了數(shù)倍。

Q15：GB200的市場(chǎng)滲透率預(yù)期如何？

答：GB200的市場(chǎng)滲透率受到廣泛關(guān)注，因?yàn)轭A(yù)期其滲透率較高。如果滲透率能達(dá)到50%，那么整個(gè)AI服務(wù)器PCB的價(jià)值量有可能會(huì)翻倍增長(zhǎng)。這表明GB200架構(gòu)的市場(chǎng)潛力巨大，對(duì)PCB行業(yè)的影響深遠(yuǎn)。

Q16：對(duì)GB200的GPU和Rack數(shù)量有何預(yù)測(cè)？

答：目前對(duì)GPU方面的預(yù)測(cè)可能有超過百萬(wàn)片，因此對(duì)應(yīng)的rack數(shù)量應(yīng)該有幾萬(wàn)臺(tái)。關(guān)于GB200的數(shù)量及分布預(yù)期，目前看來(lái)大約有100萬(wàn)片GB200，200萬(wàn)片B100，以及一些H系列產(chǎn)品。明年的B100和B200系列的預(yù)期是200萬(wàn)張。

Q17：GB200的機(jī)柜數(shù)量預(yù)估是多少？

答：如果以100多萬(wàn)片CPU計(jì)算，按照每個(gè)機(jī)柜配置18個(gè)GB200，那么能夠出貨的機(jī)柜數(shù)量將是5.8萬(wàn)個(gè)。這只是一個(gè)初步估計(jì)，有信號(hào)顯示這個(gè)數(shù)字可能會(huì)上調(diào)。這表明GB200架構(gòu)的推廣將為PCB行業(yè)帶來(lái)大量需求，對(duì)行業(yè)的發(fā)展具有積極影響。

Q18：根據(jù)計(jì)算，明年的PCB產(chǎn)量預(yù)計(jì)只有三百多萬(wàn)張，這個(gè)數(shù)量是否偏少？

答：盡管這個(gè)數(shù)字可能看起來(lái)較為保守，但我們需要考慮到PCB主要用于推理任務(wù)，而推理需求的增長(zhǎng)速度可能較快。目前還沒有一個(gè)明確的數(shù)字來(lái)預(yù)測(cè)具體的數(shù)量能增長(zhǎng)到多少，但推理用PCB的市場(chǎng)潛力不容忽視。

Q19：如果PCB僅用于訓(xùn)練，三百多萬(wàn)張是否已足夠？

答：實(shí)際上，如果PCB僅用于訓(xùn)練任務(wù)，三百多萬(wàn)張的數(shù)量確實(shí)可能已經(jīng)足夠。然而，由于部分訓(xùn)練用PCB也被用于推理任務(wù)應(yīng)用，這可能導(dǎo)致市場(chǎng)對(duì)PCB的需求增加，從而成為上調(diào)預(yù)期的一個(gè)因素。隨著AI技術(shù)的發(fā)展和應(yīng)用領(lǐng)域的擴(kuò)大，推理任務(wù)應(yīng)用對(duì)PCB的需求也在不斷上升。

Q20：推理用PCB與訓(xùn)練用PCB的價(jià)值有何區(qū)別？

答：推理用PCB與訓(xùn)練用PCB在價(jià)值上存在顯著差異。同規(guī)格的PCB在價(jià)格上可能會(huì)有很大的差距。例如，如果以70美元來(lái)估算H版PCB的價(jià)格，那么L40可能只有十幾到二十美元。從表面上看，推理PCB的價(jià)格并不高。但關(guān)鍵在于，隨著越來(lái)越多的訓(xùn)練用PCB被用于推理任務(wù)，推理PCB的價(jià)值正在逐漸上升。這是當(dāng)前AI硬件市場(chǎng)換代的一個(gè)主要因素，也是推動(dòng)市場(chǎng)對(duì)推理用PCB需求增長(zhǎng)的關(guān)鍵驅(qū)動(dòng)力。

Q21：推理用PCB的市場(chǎng)前景如何？

答：推理用PCB的市場(chǎng)前景非常廣闊。隨著人工智能技術(shù)的不斷進(jìn)步和應(yīng)用領(lǐng)域的不斷擴(kuò)大，推理任務(wù)應(yīng)用在各個(gè)行業(yè)中的作用越來(lái)越重要。從自動(dòng)駕駛到智能家居，從醫(yī)療診斷到金融服務(wù)，推理PCB在支持這些智能應(yīng)用中扮演著關(guān)鍵角色。因此，推理用PCB的需求預(yù)計(jì)將隨著AI技術(shù)的普及而持續(xù)增長(zhǎng)。

Q22：GB200PCB版塊的增長(zhǎng)動(dòng)力是什么？

答：GB200PCB版塊的增長(zhǎng)動(dòng)力主要來(lái)自于幾個(gè)方面。首先是AI技術(shù)的快速發(fā)展，特別是在深度學(xué)習(xí)和機(jī)器學(xué)習(xí)領(lǐng)域，對(duì)高性能計(jì)算硬件的需求不斷增加。其次，隨著AI應(yīng)用在各個(gè)行業(yè)的滲透，推理任務(wù)應(yīng)用對(duì)PCB的需求也在不斷上升。此外，隨著GB200產(chǎn)品的市場(chǎng)滲透率提高，預(yù)計(jì)將帶來(lái)更多的PCB需求。最后，由于訓(xùn)練用PCB也被用于推理任務(wù)，這將進(jìn)一步推動(dòng)GB200PCB版塊的增長(zhǎng)。

審核編輯：黃飛