色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

探索AI軟硬件適配之路,共創(chuàng)算力服務(wù)新未來(lái)

甲子光年 ? 來(lái)源:甲子光年 ? 2023-12-08 16:58 ? 次閱讀

未來(lái)不僅是GPU的市場(chǎng),還是存算融合、存算一體。

11月30日至12月1日,由中國(guó)科技產(chǎn)業(yè)智庫(kù)「甲子光年」主辦的「致追風(fēng)趕月的你」2023甲子引力年終盛典在北京順利舉行!百余位嘉賓齊聚一堂,聚焦產(chǎn)業(yè)前沿話(huà)題,剖析科技產(chǎn)業(yè)風(fēng)口,總結(jié)分享這一年來(lái)的里程碑事件和行業(yè)變量,共同探尋科技產(chǎn)業(yè)融合與落地的方向與思路。

在12月1日的《探索AI硬件適配之路,共創(chuàng)算力服務(wù)新未來(lái)》主題圓桌中,青云科技副總裁&云業(yè)務(wù)部負(fù)責(zé)人沈鷗、億鑄科技創(chuàng)始人&董事長(zhǎng)兼CEO熊大鵬、芯耀輝董事長(zhǎng)&創(chuàng)始人曾克強(qiáng)、善思開(kāi)悟COO余溢、傳智驛芯科技首席戰(zhàn)略官時(shí)昕、憶芯科技副總裁孫唐圍繞“算力服務(wù)的機(jī)遇與挑戰(zhàn)、算力需求滿(mǎn)足、生態(tài)構(gòu)建”等話(huà)題展開(kāi)討論。

以下是本場(chǎng)圓桌的交流實(shí)錄,「甲子光年」整理刪改:

1.AI狂飆下,算力的機(jī)遇與挑戰(zhàn)

沈鷗:謝謝各位嘉賓,也謝謝下面的各位聽(tīng)眾。我們今天上午的最后一個(gè)話(huà)題是談?wù)勊懔Γ舱務(wù)剣?guó)產(chǎn)GPU和***行業(yè),以及如何來(lái)應(yīng)對(duì)大模型以及AI的快速發(fā)展所帶來(lái)的挑戰(zhàn)。現(xiàn)在,我們先請(qǐng)各位嘉賓來(lái)自我介紹一下。

熊大鵬:我是熊大鵬,來(lái)自?xún)|鑄科技。我們公司主要做AI大算力芯片,具體來(lái)說(shuō),我們做的是全數(shù)字化的存算一體,這是一條比較新的技術(shù)路線(xiàn)。到目前為止,不管是從技術(shù)路線(xiàn)本身,還是從工程落地來(lái)講,都比較先進(jìn)且具有優(yōu)勢(shì)。而且,我們的POC(原型概念驗(yàn)證芯片)也已經(jīng)點(diǎn)亮成功了,經(jīng)第三方機(jī)構(gòu)驗(yàn)證,能效比表現(xiàn)超出目前基于先進(jìn)工藝制程、傳統(tǒng)架構(gòu)AI芯片10倍以上。

曾克強(qiáng):大家好,我是芯耀輝董事長(zhǎng)、創(chuàng)始人曾克強(qiáng)。芯耀輝是國(guó)產(chǎn)先進(jìn)工藝接口IP的領(lǐng)先供應(yīng)商,專(zhuān)注于做先進(jìn)工藝的接口IP。我們?cè)谙冗M(jìn)工藝接口IP上,目前已經(jīng)實(shí)現(xiàn)了國(guó)內(nèi)唯一的最先進(jìn)工藝上全線(xiàn)的所有主流接口IP國(guó)產(chǎn)化。我們提供的接口IP已經(jīng)支持了人工智能、高性能計(jì)算、5G通信智能汽車(chē)、消費(fèi)電子所有的核心應(yīng)用。我們的產(chǎn)品已經(jīng)上市,并且被各個(gè)領(lǐng)域的頭部客戶(hù)所采用,也突破了國(guó)內(nèi)的卡脖子技術(shù)。

余溢:大家好,我是善思開(kāi)悟的COO余溢。善思開(kāi)悟依托國(guó)家超算廣州中心英偉達(dá)無(wú)錫AI創(chuàng)新賦能中心兩大核心資源成立,致力于提供HPC+AI的一站式異構(gòu)算力解決方案,并提供一些生態(tài)方面的支持和服務(wù)。期待能夠通過(guò)本次盛典與大家達(dá)成合作,謝謝!

時(shí)昕:大家好,我是時(shí)昕,來(lái)自傳智驛芯。我們主要做芯片設(shè)計(jì)上游IP,同時(shí)提供解決方案。我們的產(chǎn)品和技術(shù)起點(diǎn)來(lái)自于納斯達(dá)克上市公司Arteris的一些片上網(wǎng)絡(luò)互連IP,然后以此為基礎(chǔ),我們提供更多包括子系統(tǒng)IP和芯片設(shè)計(jì)解決方案在內(nèi)的服務(wù)。

稍微解釋一下片上網(wǎng)絡(luò)。我自己過(guò)去從事了很多年做處理器設(shè)計(jì)的工作,包括GPU等等。我之所以加入這家公司,一個(gè)主要原因就是隨著摩爾定律放緩,芯片性能的提升現(xiàn)在更多是要依靠多核、眾核包括異構(gòu)這種方式來(lái)提供更強(qiáng)大的算力。在眾核的時(shí)代,如何把幾百個(gè)甚至幾千個(gè)處理器核組織起來(lái)、調(diào)動(dòng)起來(lái),這就成為一個(gè)關(guān)鍵問(wèn)題。而片上網(wǎng)絡(luò)互連會(huì)成為芯片內(nèi)部非常關(guān)鍵的技術(shù)。因此,我們以片上網(wǎng)絡(luò)(NoC)為起點(diǎn),結(jié)合我們?cè)诟鞣N多核方面的芯片設(shè)計(jì)經(jīng)驗(yàn),實(shí)際上可以幫助芯片設(shè)計(jì)客戶(hù)加快設(shè)計(jì)節(jié)奏,提高產(chǎn)品性?xún)r(jià)比。

過(guò)去,傳統(tǒng)的互連方式可能會(huì)占用到一個(gè)芯片里面1/3甚至更多的面積,而且在后端會(huì)導(dǎo)致?lián)砣蜁r(shí)序等問(wèn)題。而我們通過(guò)NoC可以幫助大家以更低的代價(jià)實(shí)現(xiàn)片內(nèi)更高的帶寬和更低的時(shí)延。謝謝!

孫唐:大家好,我是憶芯科技的孫唐。我們憶芯科技是一家目標(biāo)賦能大數(shù)據(jù)應(yīng)用的芯片集方案的主控設(shè)計(jì)公司。我們的產(chǎn)品有兩個(gè)系列,一個(gè)是高性能的存儲(chǔ)主控,主要面向企業(yè)級(jí)市場(chǎng),目前我們?cè)趪?guó)內(nèi)是信創(chuàng)頭部存儲(chǔ)主控以及存儲(chǔ)模組供應(yīng)商。另一個(gè)系列是存算融合技術(shù),這項(xiàng)技術(shù)主要是為了滿(mǎn)足未來(lái)智算中心算力和存力共同發(fā)展的業(yè)務(wù)需求,我們提供片上存力、算力一體化的業(yè)務(wù)解決方案。目前,我們有一些成熟的產(chǎn)品正在進(jìn)入各地的數(shù)據(jù)中心以及相關(guān)的運(yùn)營(yíng)商市場(chǎng)。我很高興有機(jī)會(huì)和各位專(zhuān)家討論這個(gè)話(huà)題。

沈鷗:今天在座的各位嘉賓來(lái)自不同的專(zhuān)業(yè)領(lǐng)域,有做AI芯片的,有做IP技術(shù)的,也有做管理平臺(tái)的。我來(lái)自青云科技。今年,我們的客戶(hù)發(fā)現(xiàn)AI和大模型讓他們對(duì)業(yè)務(wù)有了很多新的想法和思路。對(duì)于青云科技這樣服務(wù)企業(yè)數(shù)字化的行業(yè)來(lái)說(shuō),我們面臨的挑戰(zhàn)是如何能夠應(yīng)對(duì)客戶(hù)新的業(yè)務(wù)需求發(fā)展,比如,如何在云服務(wù)、云產(chǎn)品這個(gè)領(lǐng)域滿(mǎn)足客戶(hù)的要求。我相信在座的各位領(lǐng)導(dǎo)也遇到過(guò)此種挑戰(zhàn)。今天整個(gè)AI大模型對(duì)相關(guān)產(chǎn)業(yè)都帶來(lái)了一些變化。在這里,我想請(qǐng)余總介紹一下,站在你的角度,你們看到這帶來(lái)了哪些新的機(jī)會(huì)和挑戰(zhàn)?

余溢:我們公司注冊(cè)于今年5月,AI大模型早于公司出現(xiàn),并對(duì)我們的發(fā)展路線(xiàn)造成了很大的影響。作為一家算力供應(yīng)商,我們切身感受到了大模型浪潮帶來(lái)的市場(chǎng)方面算力需求的猛增。于公司而言,算力需求多多益善。

從機(jī)會(huì)角度來(lái)說(shuō),需求的增加促進(jìn)了整個(gè)算力市場(chǎng)及行業(yè)上下游生態(tài)的發(fā)展。

從挑戰(zhàn)角度來(lái)說(shuō),第一個(gè)挑戰(zhàn)是對(duì)計(jì)算速度和性能的挑戰(zhàn),大模型的出現(xiàn),使得大家對(duì)算力的要求提高。例如像CPU計(jì)算這一類(lèi)型的傳統(tǒng)算力,相對(duì)來(lái)說(shuō)只能滿(mǎn)足基本需求。現(xiàn)在大家對(duì)計(jì)算速度和性能有了更高的要求,這就對(duì)卡的配置提出了更高的標(biāo)準(zhǔn)。順便給在座的各位打一個(gè)硬廣,我們也提供高端算力和高端芯片,如果有興趣可以了解一下;第二個(gè)挑戰(zhàn)是從硬件到軟件的挑戰(zhàn),高端芯片的昂貴價(jià)格直接對(duì)企業(yè)提出了更高的要求。從成本控制的角度考慮,企業(yè)需要權(quán)衡如何合理配置資源,包括不同類(lèi)型的卡,用GPU和CPU的配比或者是否有更先進(jìn)的互聯(lián)技術(shù)包括網(wǎng)絡(luò)帶寬設(shè)置、機(jī)房設(shè)置等等。

沈鷗:熊總,從您的角度出發(fā),是如何看待其中的新機(jī)會(huì)的?

熊大鵬:大模型的出現(xiàn)確實(shí)讓存算一體有了更多的機(jī)會(huì)。因?yàn)榇嫠阋惑w主要解決兩個(gè)問(wèn)題。一個(gè)是從架構(gòu)的角度來(lái)看,在相同的工藝和功耗條件下,裸算力確實(shí)比傳統(tǒng)架構(gòu)要高出10倍以上,這一點(diǎn)無(wú)論是從理論上還是工程實(shí)踐上都已經(jīng)得到了證實(shí)。第二個(gè),在大模型時(shí)代,一個(gè)最大的問(wèn)題就是數(shù)據(jù)搬運(yùn)的帶寬不夠,無(wú)論是從外部搬到芯片內(nèi)部,還是芯片內(nèi)部之間的傳輸,以及芯片與芯片之間的連接等方面,都存在帶寬瓶頸。

所以,存算一體的優(yōu)勢(shì)在這種情況下就彰顯出來(lái)了。因?yàn)樵诖嫠阋惑wAI芯片中,很多模型參數(shù)數(shù)據(jù)不需要搬運(yùn),它們本身就是芯片內(nèi)部的一部分。因此,存算一體的實(shí)際運(yùn)算效率會(huì)比傳統(tǒng)架構(gòu)更好,甚至可能高出好幾倍。再加上其對(duì)裸算力的提升,可以說(shuō)在大模型時(shí)代具有非常強(qiáng)的優(yōu)勢(shì)。

沈鷗:我也想問(wèn)下孫總,剛剛我們談到了縮短存儲(chǔ)或者在CPU和GPU之間的連接以增加帶寬的問(wèn)題。我們看到英偉達(dá)使用GPU和NVLink等技術(shù),為其整體性能帶來(lái)了很大的提升。您怎么看這個(gè)問(wèn)題,這給您的企業(yè)帶來(lái)了什么樣的機(jī)會(huì)呢?

孫唐:我們觀察到英偉達(dá)實(shí)際上完成了三件事情。第一個(gè),英偉達(dá)集成了網(wǎng)絡(luò)、存儲(chǔ)和計(jì)算三種資源,收購(gòu)了邁絡(luò)斯并做了片上的NVLink。第二個(gè),英偉達(dá)與IBM聯(lián)合開(kāi)發(fā)了BaM大型加速器存儲(chǔ)技術(shù),相當(dāng)于說(shuō)GPU和存儲(chǔ)能夠直通。第三件事,他們還投資了一些以色列公司,以解決小數(shù)據(jù)的存儲(chǔ)和檢索加速問(wèn)題,這主要是為了應(yīng)對(duì)當(dāng)前智算和超算領(lǐng)域中大模型的訓(xùn)練問(wèn)題。

大家可能都知道單張GPU卡的故障率只有萬(wàn)分之幾,但在大規(guī)模使用千卡萬(wàn)卡進(jìn)行大模型訓(xùn)練時(shí),平均故障時(shí)間小于兩天。為了解決這個(gè)問(wèn)題,目前引入了一種在超算中心中使用的DDN技術(shù)。這種技術(shù)可以通過(guò)不斷記錄、存儲(chǔ)快照,并在出現(xiàn)故障時(shí)以回款方式進(jìn)行錯(cuò)誤修復(fù),從而確保大模型的效率。這種技術(shù)實(shí)際上帶來(lái)了存儲(chǔ)領(lǐng)域20倍以上的數(shù)據(jù)增長(zhǎng)。

大家都知道最近六部委聯(lián)合發(fā)布了關(guān)于算力、存力共同發(fā)展的指導(dǎo)性意見(jiàn),要求未來(lái)的智算中心30%以上的部分必須是全國(guó)產(chǎn)。為什么?這其實(shí)是為了解決算力、存力發(fā)展不平衡的問(wèn)題。對(duì)于憶芯來(lái)說(shuō),這是一個(gè)巨大的機(jī)會(huì)。

首先,我們本身就是做高性能企業(yè)級(jí)存儲(chǔ)的,我們的目標(biāo)是替代DDN這樣的超算中心中的存儲(chǔ)單柜。其次,我們?cè)谄线€內(nèi)置了一些數(shù)據(jù)庫(kù)和向量加速能力,這對(duì)整個(gè)智算中心來(lái)說(shuō)具有巨大的價(jià)值。因此,從目前來(lái)看,我們的方案和產(chǎn)品在未來(lái)市場(chǎng)上有著良好的前景和預(yù)期。

沈鷗:我自己在實(shí)際項(xiàng)目中注意到DDN的存儲(chǔ)價(jià)格相當(dāng)高昂。如果有非常好的國(guó)產(chǎn)替代產(chǎn)品和解決方案,我相信在國(guó)內(nèi)建立新的智算中心和大數(shù)據(jù)中心時(shí),肯定會(huì)更加傾向于考慮使用國(guó)產(chǎn)的相關(guān)設(shè)備和技術(shù)能力。

我們剛剛談到了英偉達(dá),其實(shí)英偉達(dá)除了硬件能力外,還有軟件方面的生態(tài),這對(duì)整個(gè)業(yè)態(tài)構(gòu)成了巨大的挑戰(zhàn)。在國(guó)內(nèi)討論AI算力的時(shí)候,我們常常會(huì)提到是否能夠與CUDA對(duì)接,以及是否能夠與下方的多個(gè)開(kāi)發(fā)平臺(tái)對(duì)接。下面我想繼續(xù)問(wèn)一下孫總,從您的觀點(diǎn)來(lái)看,這種軟硬件的結(jié)合或者生態(tài)的結(jié)合,并不僅僅是談一個(gè)技術(shù),而是涉及到整個(gè)生態(tài)建設(shè)。在這方面,您認(rèn)為您的公司或者您個(gè)人來(lái)看,我們應(yīng)該做些什么樣的工作呢?

孫唐:非常感謝您的提問(wèn),也讓我有機(jī)會(huì)給各位報(bào)告一下我的背景。我原先在AMD做GPU的,所以與國(guó)內(nèi)現(xiàn)有的這些GPU公司保持著相當(dāng)多的溝通和協(xié)同合作。從這個(gè)角度來(lái)看,為什么CUDA生態(tài)能夠成功建立起來(lái),是因?yàn)樗麄儓?jiān)持了整整十年的投入。相對(duì)來(lái)說(shuō),如果國(guó)內(nèi)的GPU公司、網(wǎng)絡(luò)公司以及存儲(chǔ)公司想要與英偉達(dá)同臺(tái)競(jìng)技的話(huà),其實(shí)我們最主要的訴求應(yīng)該是要進(jìn)行能力協(xié)同。簡(jiǎn)單來(lái)說(shuō),就像剛才提到的英偉達(dá)與IBM合作收購(gòu)了邁絡(luò)斯,投資了POI Apps,都是為了構(gòu)建一個(gè)完整的生態(tài)鏈,以確保在市場(chǎng)上具備足夠的競(jìng)爭(zhēng)力。

對(duì)于我們來(lái)說(shuō),關(guān)于CUDA生態(tài),我們的第一個(gè)目標(biāo)肯定是在不侵犯專(zhuān)利的前提下,實(shí)現(xiàn)生態(tài)的兼容。第二個(gè)則是需要針對(duì)國(guó)內(nèi)實(shí)際的大型模型現(xiàn)狀,確保數(shù)據(jù)的安全性、隱私性,以及符合當(dāng)前網(wǎng)絡(luò)信息安全的要求。實(shí)現(xiàn)數(shù)據(jù)可用但不可見(jiàn)的一體化能力需要存儲(chǔ)和計(jì)算的共同協(xié)同合作。

在這方面我們已經(jīng)有了一些預(yù)先的布局和規(guī)劃,希望能夠?yàn)槲磥?lái)的國(guó)產(chǎn)大型模型和國(guó)產(chǎn)智能計(jì)算中心提供一個(gè)更具先進(jìn)性、安全性和可靠性的能力基礎(chǔ)。當(dāng)然,我們的最大訴求是希望將這些技術(shù)和解決方案變得更加便宜一些。謝謝大家。

2.國(guó)內(nèi)做生態(tài)配合,需要蟻群戰(zhàn)術(shù)

沈鷗:我認(rèn)為現(xiàn)在變得便宜可能不是最緊急的,主要還是在國(guó)內(nèi)我們需要建立自己的完整軟件生態(tài)。其實(shí)前面一個(gè)圓桌討論中,我們聽(tīng)到了很多關(guān)于開(kāi)源社區(qū)的話(huà)題,我相信如果國(guó)內(nèi)有完善的開(kāi)源生態(tài)和軟件生態(tài),我們整個(gè)國(guó)內(nèi)的硬件體系將會(huì)有更好的發(fā)展。熊總,從您的角度看,你們企業(yè)如何看待與其他軟件公司或硬件公司進(jìn)行生態(tài)配合的問(wèn)題?有什么經(jīng)驗(yàn)和心得可以與在座各位分享的嗎?”

熊大鵬:前面有很多專(zhuān)家談到了開(kāi)源和開(kāi)源社區(qū),當(dāng)然,我們做的話(huà),肯定也是基于開(kāi)源先去做。剛剛提到的CUDA問(wèn)題,這是一個(gè)很有意思也很復(fù)雜的話(huà)題。我從兩個(gè)方面來(lái)談一下我的看法:

第一方面,對(duì)于大型模型來(lái)說(shuō),由于其泛化性能較好,這在一定程度上削弱了英偉達(dá)和CUDA在這一領(lǐng)域的生態(tài)墻。第二方面,走不同的技術(shù)路線(xiàn),例如我們采用的存算一體技術(shù)路線(xiàn),由于我們芯片架構(gòu)技術(shù)路線(xiàn)的特殊性,能夠?qū)崿F(xiàn)一鍵生成和一鍵遷移等功能。我們利用開(kāi)源架構(gòu),在上層能夠與CUDA兼容,這一點(diǎn)我相信相對(duì)容易實(shí)現(xiàn)。在編譯器層面,通過(guò)我們的一鍵生成工具,可以自動(dòng)基于一些經(jīng)典算子生成優(yōu)化過(guò)的可執(zhí)行代碼。所以從這個(gè)角度來(lái)說(shuō),盡管我們不能完全推翻它的生態(tài)壁壘,但至少可以在它的生態(tài)墻上打一個(gè)洞,讓我們能夠有所獲取。

沈鷗:余總,貴司今年雖然剛剛成立,但已經(jīng)看到了很多異構(gòu)的情況,比如國(guó)產(chǎn)GPU。我知道現(xiàn)在有很多廠(chǎng)商也在從事這一領(lǐng)域的研究工作。站在您公司的角度,你們?nèi)绾慰朔@些技術(shù)難題,去解決所遇到的軟件生態(tài)和整體的適配工作呢?

余溢:關(guān)于異構(gòu)的話(huà)題,我有三點(diǎn)想說(shuō)。

首先,我們與一些國(guó)產(chǎn)廠(chǎng)商共同探索過(guò)***異構(gòu)的問(wèn)題。但在這些廠(chǎng)商中,只有少數(shù)的會(huì)積極地兼容適配CUDA的整個(gè)生態(tài),以確保現(xiàn)有的能夠使用,這是非常重要的。說(shuō)得直白一點(diǎn),現(xiàn)在大部分的國(guó)產(chǎn)廠(chǎng)商,如果他們自己去開(kāi)發(fā)自己的生態(tài)或軟件,可能很多軟件都不會(huì)用,研發(fā)人員也不會(huì)用,不知道該怎么用。所以首先得滿(mǎn)足這個(gè)需求;

其次,我們也知道現(xiàn)在有很多的廠(chǎng)商,比如華為昇騰,他們自建生態(tài),我認(rèn)為這對(duì)于整個(gè)行業(yè)的發(fā)展來(lái)說(shuō),是一個(gè)比較好的方向;

最后,我們會(huì)慢慢地走向國(guó)產(chǎn)自研的方向。我們發(fā)現(xiàn)了CPU雖然可以用,但它就是不好用,就是慢。在某些特定場(chǎng)景里,比如科學(xué)計(jì)算中,確實(shí)也會(huì)使用到CPU。所以我覺(jué)得我們也可以去探索一下CPU+GPU的方式。

善思開(kāi)悟與中山大學(xué)聯(lián)合建立了一個(gè)AI創(chuàng)新賦能聯(lián)合實(shí)驗(yàn)室,我們會(huì)有很多***的公司把他們的芯片給我們?nèi)プ鲂阅軠y(cè)試。我知道在場(chǎng)有一些可以合作的公司,做測(cè)試、做適配和優(yōu)化,我們能去做一些算法移植等等。我覺(jué)得這些都是很好的一些探索,未來(lái)肯定還是很有突破的空間的。

沈鷗:所謂的突破,我相信這不僅僅是企業(yè)的努力,昨天我正好參加了一個(gè)政府的算力中心的開(kāi)業(yè),談到政府其實(shí)也在扶持國(guó)產(chǎn)的很多芯片和廠(chǎng)商,要一起去打造這個(gè)生態(tài)。但是我們?cè)谂c他們交流的時(shí)候,也會(huì)看到一個(gè)問(wèn)題,在算力領(lǐng)域要彎道超車(chē),其實(shí)離不開(kāi)芯片設(shè)計(jì)的行業(yè)。我們看到美國(guó)與中國(guó)的競(jìng)爭(zhēng)中,還有CAD的設(shè)計(jì)、很多的設(shè)計(jì)軟件以及整個(gè)的IP。剛才也聽(tīng)到了這是芯片設(shè)計(jì)的一個(gè)基石。

國(guó)內(nèi)整個(gè)IP國(guó)產(chǎn)化率可能相對(duì)還比較低。我們應(yīng)該怎么去做這塊的創(chuàng)新和加速呢?時(shí)博士,從你們的角度來(lái)說(shuō),您認(rèn)為我們應(yīng)該在哪些地方努力去做一些創(chuàng)新和突破?對(duì)你們企業(yè)來(lái)說(shuō),在這個(gè)領(lǐng)域要怎樣去滿(mǎn)足今天大模型和AI算力帶來(lái)的一些新需求呢?

時(shí)昕:您提的問(wèn)題真的非常好,讓我有很多話(huà)想說(shuō),但可能有些零散。首先,您提到了IP作為芯片設(shè)計(jì)的基石。我想先分享一下半導(dǎo)體行業(yè)協(xié)會(huì)的數(shù)據(jù)。在中國(guó),只有大約3%的企業(yè)規(guī)模是超過(guò)500人的。但看看國(guó)際企業(yè),無(wú)論是NVIDIA、高通等,他們的員工規(guī)模都是幾萬(wàn)人。因此,我個(gè)人的結(jié)論是,中國(guó)的企業(yè)或芯片設(shè)計(jì)企業(yè)對(duì)于IP的依賴(lài)性可能會(huì)更強(qiáng)。像NVIDIA、高通這樣的公司,他們的員工規(guī)模要大很多倍,而且已經(jīng)存在了很多年,所以他們有很多自己的積累。

在中國(guó)很多小一點(diǎn)的企業(yè),大概有超過(guò)90%的企業(yè)員工人數(shù)在200人以下。他們要想快速推出一個(gè)產(chǎn)品,可能對(duì)IP的依賴(lài)性會(huì)更強(qiáng)。這還只是硬件方面。在軟件方面,如果是處理器的話(huà),無(wú)論是NVIDIA還是高通,他們其實(shí)有更多的工程師是做軟件的。包括NVIDIA的創(chuàng)始人,他曾經(jīng)兩次說(shuō)過(guò),一次說(shuō)NVIDIA是一家軟件公司,后來(lái)又改口說(shuō)NVIDIA是一家AI公司。

在這些處理器公司里,你會(huì)發(fā)現(xiàn)他們的軟件工程師數(shù)量也是非常多的,包括CUDA生態(tài)為什么做得這么好,是因?yàn)樗麄冊(cè)缙诳赡苡猩锨У能浖こ處煂?xiě)CUDA相關(guān)的底層庫(kù),到現(xiàn)在每年有幾千個(gè)軟件工程師投入。這方面會(huì)導(dǎo)致我們真想要突破這個(gè)生態(tài)的壟斷地位,我們需要做的工作還是非常多的。

在國(guó)內(nèi),目前像華為這樣的公司有很多底層的人才,包括硬件和軟件方面。他們很有機(jī)會(huì)自建一套生態(tài)。但對(duì)于大多數(shù)的公司來(lái)說(shuō),只有幾百人的公司靠自己的力量其實(shí)是非常難的。要想做到這一點(diǎn),我們可以采用開(kāi)源、社區(qū)、聯(lián)盟等方式。我們可能用蟻群的戰(zhàn)術(shù),一個(gè)500人的公司可能突破不了,但是如果我們有一百個(gè)500人的公司是不是就有5萬(wàn)人了。當(dāng)然這5萬(wàn)人怎么能夠協(xié)調(diào)好就類(lèi)似于一個(gè)芯片里面有1000個(gè)處理器核你需要一個(gè)NoC組織起來(lái)。NoC就是讓芯片里面的數(shù)百個(gè)核能夠協(xié)同工作的中心樞紐,能夠讓每個(gè)核心IP的價(jià)值疊加起來(lái),協(xié)作起來(lái)。如果將一個(gè)高性能的SoC比喻成一個(gè)人,那么NoC就是這個(gè)人的血管網(wǎng)絡(luò),重要性不言而喻。傳智驛芯可以提供業(yè)界最先進(jìn)的NoC解決方案,為中國(guó)的高性能計(jì)算產(chǎn)品提供最優(yōu)質(zhì)的片上網(wǎng)絡(luò)通信

曾克強(qiáng):感謝主持人的提問(wèn)。國(guó)內(nèi)要在AI大算力領(lǐng)域?qū)崿F(xiàn)彎道超車(chē),芯片設(shè)計(jì)是不可缺少的一環(huán),而芯片IP是芯片設(shè)計(jì)的基石。但國(guó)內(nèi)芯片在IP領(lǐng)域國(guó)產(chǎn)化率還是非常低,尤其在高性能、高價(jià)值的CPU和高速接口IP領(lǐng)域。例如,全球高性能的CPU主要由Arm公司壟斷,但近年來(lái)國(guó)際上興起了開(kāi)源的RISC-V技術(shù),國(guó)內(nèi)也有不少公司在做RISC-V的IP。而在高速接口IP方面,國(guó)際上主要由新思科技占據(jù)絕大部分市場(chǎng)份額,國(guó)內(nèi)在這塊還是非常薄弱的。

我在創(chuàng)立芯耀輝之前,在新思科技工作了21年,并擔(dān)任中國(guó)區(qū)副總裁。正是看到國(guó)內(nèi)這個(gè)薄弱環(huán)節(jié),我們?cè)?018、2019年開(kāi)始籌劃,于2020年創(chuàng)立了芯耀輝,致力于解決國(guó)內(nèi)“卡脖子”技術(shù)。傳統(tǒng)的國(guó)內(nèi)友商在高速接口IP領(lǐng)域雖然有所嘗試,但產(chǎn)品比較單一、不完整,主要集中在40納米及以上的傳統(tǒng)工藝。而先進(jìn)工藝的高速接口技術(shù)門(mén)檻相當(dāng)高,需要針對(duì)先進(jìn)工藝不斷升級(jí)迭代,同時(shí)緊跟協(xié)議標(biāo)準(zhǔn)的快速演進(jìn),如DDR3到DDR5、PCIe3、4到PCIe 5,不同的協(xié)議都要能夠快速演進(jìn),還要能針對(duì)不同外設(shè)實(shí)現(xiàn)良好的兼容性和可靠性。這需要整個(gè)團(tuán)隊(duì)與下游應(yīng)用廠(chǎng)商有十幾二十年的共同迭代產(chǎn)品量產(chǎn)打磨經(jīng)驗(yàn)。芯耀輝的核心團(tuán)隊(duì)來(lái)自新思、紫光展銳、華為海思以及高通等國(guó)際國(guó)內(nèi)頂尖大廠(chǎng),積累了十幾二十年的相關(guān)經(jīng)驗(yàn)。因此,我們?cè)诔闪⒑蟮亩潭倘陜?nèi)實(shí)現(xiàn)了國(guó)內(nèi)最先進(jìn)工藝的線(xiàn)上全套主流接口IP的自研并推向市場(chǎng)。去年我們實(shí)現(xiàn)了上市上量,今年在高性能計(jì)算、人工智能、5G、汽車(chē)電子等各個(gè)領(lǐng)域都實(shí)現(xiàn)了全套接口IP的量產(chǎn)交付,幫助國(guó)內(nèi)解決“卡脖子”問(wèn)題,也支持AI產(chǎn)業(yè)實(shí)現(xiàn)彎道超車(chē)。

沈鷗:我再問(wèn)一個(gè)問(wèn)題,你們談到了這種合作需要上下游十幾年甚至更長(zhǎng)時(shí)間的合作。我想知道在這個(gè)領(lǐng)域里,是否有一些相應(yīng)的新的標(biāo)準(zhǔn)需要重新適應(yīng)今天整個(gè)AI大模型的要求?電子和軟件的結(jié)合是一個(gè)自然的過(guò)程,整體上一定會(huì)遵循一些標(biāo)準(zhǔn)。在標(biāo)準(zhǔn)方面,你們企業(yè)是否觀察到這個(gè)業(yè)態(tài)在中國(guó)自主的標(biāo)準(zhǔn)或設(shè)計(jì)上有一些工作要做?

曾克強(qiáng):這個(gè)問(wèn)題很好。IP,尤其是接口IP,是有國(guó)際標(biāo)準(zhǔn)的。我先講一下大模型對(duì)于接口IP帶來(lái)的機(jī)會(huì)和挑戰(zhàn)。首先,大模型對(duì)接口IP的第一個(gè)要求是更高的數(shù)據(jù)吞吐量、更復(fù)雜的接口和更多協(xié)議的支持。這需要我們?cè)陉P(guān)鍵的協(xié)議標(biāo)準(zhǔn)上能夠達(dá)到最高性能。例如,傳統(tǒng)上,我們和大家都在使用的是DDR4,但目前國(guó)際上最新的標(biāo)準(zhǔn)已經(jīng)到了DDR5,要實(shí)現(xiàn)6.4G的最高速率。我們已經(jīng)是國(guó)內(nèi)第一家實(shí)現(xiàn)并交付這個(gè)速率的公司,并且已經(jīng)在國(guó)內(nèi)高性能計(jì)算領(lǐng)域的頭部客戶(hù)中量產(chǎn)使用。

PCIe外設(shè)上同樣也是,同樣需要達(dá)到最高速率標(biāo)準(zhǔn),如PCIe5。雖然國(guó)際上最新的標(biāo)準(zhǔn)還沒(méi)有出來(lái),但很快就會(huì)出來(lái)到PCIe6。雖然以前國(guó)內(nèi)在這塊比國(guó)外要滯后幾年,但由于大模型的出現(xiàn),我們看到未來(lái)1-2年這個(gè)需求很快就會(huì)出來(lái),我們也已經(jīng)開(kāi)始研發(fā)下一代的PCIe6,這是一方面。

第二方面,大模型對(duì)于大算力有很大的需求,這需要的是更先進(jìn)工藝的接口IP支持。這也是我剛剛提到的,我們傳統(tǒng)的國(guó)內(nèi)IP設(shè)計(jì)往往都是在28納米以上的成熟工藝,但我們已經(jīng)實(shí)現(xiàn)了國(guó)內(nèi)最先進(jìn)的12、14納米工藝的最先進(jìn)IP研發(fā)。

除此之外,我們?cè)诮衲臧雽?dǎo)體協(xié)會(huì)廣州ICCAD上講到的,不僅是先進(jìn)工藝上的實(shí)現(xiàn),因?yàn)楝F(xiàn)在大家都知道,國(guó)內(nèi)的先進(jìn)工藝實(shí)際上受到了一些國(guó)際政治的影響,我們能否在相對(duì)成熟的工藝上實(shí)現(xiàn)國(guó)際上下一代工藝的性能,這個(gè)也是很考驗(yàn)技術(shù)的。目前來(lái)說(shuō),我們的DDR5就是在國(guó)內(nèi)12納米的工藝上實(shí)現(xiàn)了6.4G的吞吐最高性能速率,而在這個(gè)速率上,國(guó)際上所有頭部廠(chǎng)商都是在下一個(gè)工藝節(jié)點(diǎn)7納米上實(shí)現(xiàn)的,所以這個(gè)需要有新的技術(shù)。

第三點(diǎn)是大模型對(duì)于算力的需求。今天大家都看到了出臺(tái)的各種限制措施,國(guó)內(nèi)的算力在最新的芯片密度上受到一定程度的制約。而且另一方面也是摩爾定律失效以后進(jìn)入后摩爾時(shí)代,實(shí)際上通過(guò)工藝得到性能提升的效能已經(jīng)逐漸減弱了,這個(gè)更需要我們通過(guò)新興的技術(shù)路徑,通過(guò)Chiplet異構(gòu)集成去實(shí)現(xiàn)算力堆疊,而Chiplet技術(shù)落地最核心的就是需要片間互連。如何把不同的原來(lái)一個(gè)完整的SoC的芯片根據(jù)不同的功能、不同的工藝需求劃分成不同的芯片Die,然后用不同的工藝生產(chǎn)把他們?cè)龠B接起來(lái)。其實(shí),最核心的就是芯片Die和Die之間的互聯(lián),這也是您剛提到國(guó)內(nèi)有沒(méi)有最新的標(biāo)準(zhǔn)。

國(guó)際上最新的標(biāo)準(zhǔn)叫UCIe,我們是國(guó)內(nèi)首批加入U(xiǎn)CIe組織的,但我們也知道國(guó)際的標(biāo)準(zhǔn)往往需要的產(chǎn)業(yè)鏈?zhǔn)歉鶕?jù)國(guó)外的技術(shù)生態(tài)實(shí)現(xiàn)的。我們國(guó)內(nèi)的一些生態(tài)鏈和這個(gè)還有差距,如何做自己的標(biāo)準(zhǔn)是要符合國(guó)內(nèi)的生態(tài)來(lái)做的。

在中國(guó),我們積極參與首個(gè)Chiplet原生產(chǎn)業(yè)聯(lián)盟,并成為主要的貢獻(xiàn)單位之一,參與并制定了相關(guān)標(biāo)準(zhǔn)。不僅如此,我們還是國(guó)家科技部相關(guān)重點(diǎn)專(zhuān)項(xiàng)的唯一落地實(shí)施單位。針對(duì)片間互聯(lián),我們成功實(shí)現(xiàn)了Die to Die UCIe標(biāo)準(zhǔn),并同時(shí)兼容國(guó)內(nèi)標(biāo)準(zhǔn)。作為國(guó)內(nèi)首家成功研發(fā)出相應(yīng)Die to Die IP并推向市場(chǎng)使用的公司,我們?cè)谕苿?dòng)行業(yè)發(fā)展方面走在了前列。傳統(tǒng)上,這一標(biāo)準(zhǔn)需要支持2.5D和3D的先進(jìn)封裝技術(shù),但由于國(guó)內(nèi)實(shí)際上在封裝方面還有一些滯后,我們將密切關(guān)注在保證性能的同時(shí)支持國(guó)內(nèi)產(chǎn)業(yè)鏈的發(fā)展。我們的技術(shù)可以不僅能夠支持2.5D的封裝,同時(shí)也與國(guó)內(nèi)傳統(tǒng)的封裝方式兼容,為大算力產(chǎn)業(yè)的進(jìn)一步發(fā)展提供了強(qiáng)有力的支撐。

沈鷗:介紹非常完整。我們能了解到,新的標(biāo)準(zhǔn)正在使用今天所擁有的技術(shù)來(lái)支持一些新的技術(shù)和標(biāo)準(zhǔn)。我想問(wèn)一下時(shí)總,鑒于今天我們所看到的算力需求的暴漲,從芯片設(shè)計(jì)的角度來(lái)看,你們的企業(yè)以及產(chǎn)業(yè)上下游的企業(yè)是如何應(yīng)對(duì)這種暴漲的算力需求的?包括在汽車(chē)電子、智能駕駛等各個(gè)領(lǐng)域。我相信不僅僅是在大模型這樣的領(lǐng)域,其實(shí)AI在方方面面都有需求,那么你們是如何進(jìn)行構(gòu)建的呢?

時(shí)昕:剛才余總提到了一個(gè)詞——“異構(gòu)”。這個(gè)詞也被其他幾位嘉賓提到過(guò)。我認(rèn)為,多核和異構(gòu)將是未來(lái)的一個(gè)重大趨勢(shì)。曾總也提到過(guò)摩爾定律正在放緩,因此,要提升算力可能更多地需要依賴(lài)增加更多的核,甚至更多的硬件資源來(lái)承載這些核。同時(shí),這些核并不都是完全相同的架構(gòu),可能包括CPU、GPU、NPU等。如何協(xié)調(diào)它們,包括在軟件方面,可能是我們未來(lái)應(yīng)對(duì)AI或自動(dòng)駕駛帶來(lái)的算力需求的方向。

當(dāng)然,還有一些更前沿的,例如熊博士和孫總正在研究的存內(nèi)或近存計(jì)算。雖然目前這些技術(shù)可能還稍微前沿了一點(diǎn),但在某些特定的細(xì)分場(chǎng)景中,它們具有非常好的優(yōu)勢(shì)。而目前基于處理器的方式,無(wú)論是CPU還是GPU,可能在通用性和適配性方面會(huì)稍微好一些。將基于邏輯的矩陣運(yùn)算的核與近存或存內(nèi)計(jì)算結(jié)合起來(lái),也是一種異構(gòu)的概念。在駕駛中,對(duì)于某些特定的算子,我們可以使用非常高效的方式進(jìn)行計(jì)算,實(shí)現(xiàn)低性能、低功耗。對(duì)于其他不太適合內(nèi)存計(jì)算的場(chǎng)景,我們還是可以使用傳統(tǒng)的方式來(lái)進(jìn)行計(jì)算。這種分工可能是未來(lái)的一種方式。

3.GPU不是為AI而生的

沈鷗:相當(dāng)于是在用不同的芯片適應(yīng)不同的場(chǎng)景,以實(shí)現(xiàn)芯片利用的最大化。今年我們都在討論算力,算力其實(shí)就是一種服務(wù)。在整個(gè)算力服務(wù)的層面上,為什么大家都在爭(zhēng)奪GPU資源呢?因?yàn)榍懊?a href="http://www.1cnz.cn/article/bbs/" target="_blank">論壇的嘉賓也提到了,沒(méi)有算力,我們只能去租用一些相應(yīng)的算力。在國(guó)內(nèi)的西北地區(qū),有很多算力中心的建設(shè)。這些算力中心的建設(shè)其實(shí)是國(guó)家“十四五”規(guī)劃的一部分,包括國(guó)家在談到2035年的一些計(jì)劃制訂時(shí),都會(huì)把算力、整個(gè)深度計(jì)算視為國(guó)家數(shù)字經(jīng)濟(jì)發(fā)展中非常重要的一個(gè)部分。

所以,我想和熊總討論一個(gè)問(wèn)題,在整個(gè)算力服務(wù)中,作為芯片制造商,應(yīng)該如何服務(wù)于整個(gè)算力服務(wù)?你們?nèi)绾文軌驅(qū)⑦@一塊打通?或者說(shuō)如何讓國(guó)產(chǎn)的算力與你們的場(chǎng)景更好地結(jié)合呢?

熊大鵬:我想補(bǔ)充一點(diǎn),前面曾總講得很好,片間互聯(lián)等方面確實(shí)是一個(gè)短板,因?yàn)檫@方面的性能直接影響到整個(gè)系統(tǒng)的性能。時(shí)總也提到了異構(gòu),我覺(jué)得他說(shuō)得非常對(duì)。首先,GPU肯定是AI算力的一個(gè)基礎(chǔ),這樣一個(gè)系統(tǒng)不可避免地會(huì)是一個(gè)異構(gòu)的系統(tǒng)。盡管我們現(xiàn)在做的是存算一體,但我們最終做的是存算一體超異構(gòu)芯片。這個(gè)設(shè)計(jì)其實(shí)相當(dāng)復(fù)雜,因?yàn)樗婕暗胶脦讉€(gè)異構(gòu)融合在一起。從芯片設(shè)計(jì)的角度來(lái)說(shuō),我們采用的是統(tǒng)一的設(shè)計(jì),從指令集開(kāi)始就把這幾個(gè)異構(gòu)統(tǒng)一在一起來(lái)設(shè)計(jì),希望最終做出來(lái)的芯片在整體性能、可編程性等方面都能做得比較好。

另外,關(guān)于GPU對(duì)中國(guó)的算力,我有一個(gè)不一定對(duì)的觀點(diǎn),但我始終有這個(gè)疑慮。目前的GPU并不是為大模型而誕生的,甚至最初都不是為了AI而生的,而是為了圖形渲染。因此,從技術(shù)根上來(lái)說(shuō),它并不是特別適合大模型的AI計(jì)算。從這個(gè)意義上來(lái)說(shuō),將來(lái)一定會(huì)有更好的技術(shù)、更好的解決方案在大模型和AI上解決得更好。這些新技術(shù)出來(lái)后,其能效比和性能肯定會(huì)比現(xiàn)有的技術(shù)要好很多。我們現(xiàn)在建設(shè)比如A100、H100這樣的智算中心,將來(lái)如果和新的技術(shù)比起來(lái)真的差很多怎么辦?今天投下去的這么多錢(qián)怎么辦?

沈鷗:這是一個(gè)非常實(shí)際的問(wèn)題。我相信很重要的一點(diǎn)是,大家都看到了未來(lái)。我們今天之所以投入這么多資金,是因?yàn)槲覀兛吹搅苏麄€(gè)大模型和AI將成為我們未來(lái)所有工作和應(yīng)用的基礎(chǔ)。可能你手機(jī)上的應(yīng)用背后都需要一個(gè)大模型的支持,才能讓它們變得更加智能。我也想請(qǐng)教一下各位嘉賓,從你們的角度來(lái)看,今天可能只是一個(gè)起點(diǎn),那么在接下來(lái)的3-5年里,你們?nèi)绾慰创鼳I和大模型對(duì)你們所處行業(yè)的挑戰(zhàn)和機(jī)遇?3-5年后會(huì)是一個(gè)什么樣的情況?

孫唐:我這邊其實(shí)有兩個(gè)觀點(diǎn)。目前大模型的落地非常熱門(mén),但就像熊總所說(shuō),能不能賺到錢(qián)現(xiàn)在是一個(gè)問(wèn)號(hào)。第一個(gè)挑戰(zhàn)肯定是資源匹配度的問(wèn)題,誰(shuí)來(lái)買(mǎi)單。這里的機(jī)遇非常大,我與熊總的觀點(diǎn)一致,未來(lái)可能不是GPU的市場(chǎng),而是存算融合、存算一體,可能會(huì)有更大的空間讓大家賺到錢(qián)。

它會(huì)落地的方向可以分為兩塊來(lái)看,第一塊是目前海量的推理市場(chǎng),即針對(duì)應(yīng)用的市場(chǎng),如何降本增效。第二塊是目前剛剛興起的具身智能,也就是機(jī)器人這個(gè)領(lǐng)域。因?yàn)樵谥袊?guó),具身智能未來(lái)應(yīng)該有很大的潛在發(fā)揮空間。未來(lái)這個(gè)大模型是否能進(jìn)入大家的手機(jī)、進(jìn)入大家的家用機(jī)器人,可能是一個(gè)非常有意義的場(chǎng)景。我們也會(huì)在這塊進(jìn)行學(xué)習(xí)和研究,看是否能在這個(gè)市場(chǎng)上做更多的拓展。

沈鷗:我個(gè)人觀察到,比如國(guó)家在11月發(fā)布的《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》中提到,人形機(jī)器人將變得更智能,其背后有類(lèi)似的大模型部分。再回到今天的主題元宇宙,元宇宙里的虛擬世界是否背后有AI模型的支撐,讓元宇宙中的虛擬世界變得更加智能。我也想請(qǐng)教一下余總,你們公司剛剛成立,為什么有勇氣介入這樣一個(gè)新的市場(chǎng)?在接下來(lái)的3-5年里,你們?nèi)绾慰创约旱臋C(jī)會(huì)或者說(shuō)整個(gè)大模型的機(jī)會(huì)在哪里?

余溢:首先,我個(gè)人認(rèn)為這股“大模型熱”可能會(huì)在明年有所冷卻。我曾經(jīng)在大廠(chǎng)里工作,所以我明白,之所以現(xiàn)在算力這么火,是因?yàn)榇髲S(chǎng)都在使用自己的GPU算力。而外面的人只看到了熱鬧的表象就開(kāi)始哄搶算力,逐漸才發(fā)現(xiàn)事實(shí)上的供給并不多,還要面臨貿(mào)易禁運(yùn)的問(wèn)題。但從長(zhǎng)期看來(lái),我對(duì)此持樂(lè)觀態(tài)度,有了這樣的一個(gè)熱點(diǎn),能吸引更多的公司一起努力,在未來(lái)實(shí)現(xiàn)生態(tài)的搭建和完善。我相信隨著生態(tài)的發(fā)展,下游會(huì)出現(xiàn)實(shí)際的應(yīng)用。

其次,從目前來(lái)看,大眾對(duì)于大語(yǔ)言模型的使用更多偏向娛樂(lè)化。雖然有過(guò)如前面嘉賓提到的生物醫(yī)藥領(lǐng)域、三甲醫(yī)院醫(yī)生問(wèn)診等很多領(lǐng)域的嘗試,但實(shí)際上這些應(yīng)用中存在著很多實(shí)際問(wèn)題,如數(shù)據(jù)隱私、醫(yī)療責(zé)任、安全問(wèn)題、法務(wù)合規(guī)等。這些問(wèn)題在當(dāng)前看起來(lái)很美好的過(guò)程中,是必須要克服的。但我堅(jiān)信,長(zhǎng)期來(lái)看在各個(gè)細(xì)分領(lǐng)域和下游行業(yè)中,會(huì)有人克服這些困難,實(shí)現(xiàn)真正的落地并產(chǎn)生商業(yè)價(jià)值。

最后,我認(rèn)為整個(gè)AIGC行業(yè)、算力行業(yè)最終肯定會(huì)走向國(guó)產(chǎn)化。我們需要解決“卡脖子”的問(wèn)題,發(fā)展自己的國(guó)產(chǎn)生態(tài)和硬件建設(shè)。因此,我們應(yīng)該由整個(gè)行業(yè)上下游的所有公司、軟件和硬件等生態(tài)共同努力,完成這項(xiàng)對(duì)國(guó)家發(fā)展具有重要意義的使命。

沈鷗:因?yàn)闀r(shí)間原因,我們不能再繼續(xù)討論了。如果大家看到今年國(guó)家發(fā)布的《中國(guó)綜合算力評(píng)價(jià)白皮書(shū)(2023)》,就會(huì)了解到中國(guó)整體算力增長(zhǎng)差不多是20%多。隨著中國(guó)包括綠電、東數(shù)西算、國(guó)家算網(wǎng)等全部建立起來(lái)以后,以AI為業(yè)務(wù)先導(dǎo)、需求先導(dǎo)、算力中心為基礎(chǔ)的整體國(guó)家算力平臺(tái)一定能夠更好地服務(wù)于中國(guó)整個(gè)人工智能產(chǎn)業(yè)鏈的發(fā)展。這其中離不開(kāi)各位公司,包括今天所提到的從IP到芯片到整個(gè)算力平臺(tái)方方面面、一環(huán)扣一環(huán)的需求,而且都要滿(mǎn)足中國(guó)國(guó)產(chǎn)化的各種要求。由于時(shí)間原因,我們就不再展開(kāi)了。

曾克強(qiáng):我其實(shí)想說(shuō)一句話(huà)。您問(wèn)到關(guān)于大算力的問(wèn)題,大家都覺(jué)得現(xiàn)在是追熱點(diǎn),不管是做AI還是大算力、大模型,真正規(guī)模化的商業(yè)落地還比較少,大家都覺(jué)得好像隔了一層,本來(lái)想做To B的,后來(lái)卻做成了To G的行業(yè)。

我有兩個(gè)觀點(diǎn)想和大家分享一下,第一個(gè)觀點(diǎn)是,大家都在追求算力的堆疊,但從當(dāng)前的技術(shù)發(fā)展和國(guó)際形勢(shì)來(lái)看,我認(rèn)為很快就會(huì)出現(xiàn)一個(gè)瓶頸,這個(gè)瓶頸很有可能很快從計(jì)算轉(zhuǎn)向互聯(lián),反而互聯(lián)會(huì)成為更緊迫的瓶頸。第二個(gè)觀點(diǎn)是,我們現(xiàn)在處于經(jīng)濟(jì)下行和半導(dǎo)體產(chǎn)業(yè)下行的周期中,在下行的周期中,沒(méi)法再盲目追求熱點(diǎn)。大家應(yīng)該思考什么是行業(yè)真正需要的。

剛剛熊總提到的現(xiàn)在的GPU并不是從原生就能解決問(wèn)題的,但我們要考慮什么是這個(gè)產(chǎn)業(yè)從長(zhǎng)遠(yuǎn)來(lái)說(shuō)真正需要的,并去做產(chǎn)業(yè)真正需要的事情,而不是當(dāng)前熱點(diǎn)的事情。我也相信在這個(gè)下行的周期里面,每個(gè)企業(yè)都專(zhuān)注于做好本質(zhì)的東西,修煉好內(nèi)功,做好產(chǎn)品,一定會(huì)迎來(lái)未來(lái)大模型真正繁榮的時(shí)候。

沈鷗:我非常同意曾總說(shuō)的觀點(diǎn),我們要做好自己的產(chǎn)品,把自己的工作做得更扎實(shí),才能讓每個(gè)企業(yè)在整個(gè)發(fā)展競(jìng)爭(zhēng)激烈的環(huán)境中立足。

曾克強(qiáng):所以這也是我們芯耀輝專(zhuān)注于做好高速接口IP的原因,我們希望為大家提供最好的IP賦能?chē)?guó)產(chǎn)半導(dǎo)體互聯(lián)技術(shù)。

沈鷗:也謝謝各位嘉賓和現(xiàn)場(chǎng)的各位聽(tīng)眾的參與和支持,謝謝大家!

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 半導(dǎo)體
    +關(guān)注

    關(guān)注

    334

    文章

    27293

    瀏覽量

    218106
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4729

    瀏覽量

    128892
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30745

    瀏覽量

    268896
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2425

    瀏覽量

    2645

原文標(biāo)題:探索AI軟硬件適配之路,共創(chuàng)算力服務(wù)新未來(lái)|甲子引力

文章出處:【微信號(hào):jazzyear,微信公眾號(hào):甲子光年】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    星融元與焱融科技AI分布式存儲(chǔ)軟硬件完成兼容性互認(rèn)證

    星融元與焱融科技AI分布式存儲(chǔ)軟硬件完成兼容性互認(rèn)證
    的頭像 發(fā)表于 11-20 16:36 ?164次閱讀
    星融元與焱融科技<b class='flag-5'>AI</b>分布式存儲(chǔ)<b class='flag-5'>軟硬件</b>完成兼容性互認(rèn)證

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過(guò)互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計(jì)算資源,以滿(mǎn)足其AI應(yīng)用的需求。
    的頭像 發(fā)表于 11-14 09:30 ?503次閱讀

    GPU開(kāi)發(fā)平臺(tái)是什么

    隨著AI技術(shù)的廣泛應(yīng)用,需求呈現(xiàn)出爆發(fā)式增長(zhǎng)。AI租賃作為一種新興的
    的頭像 發(fā)表于 10-31 10:31 ?166次閱讀

    青云科技強(qiáng)化AI架構(gòu),升級(jí)產(chǎn)品與服務(wù)體系

    10月9日,青云科技正式揭曉了其升級(jí)版的產(chǎn)品與服務(wù)陣容、行業(yè)及場(chǎng)景定制化解決方案,以及全新的生態(tài)戰(zhàn)略。該公司旨在通過(guò)AI平臺(tái)、AI
    的頭像 發(fā)表于 10-10 16:42 ?469次閱讀

    研華產(chǎn)品通過(guò)統(tǒng)信及兆芯通用軟硬件適配互認(rèn)測(cè)試

    近日,研華自主研發(fā)的iEMS智慧能源、iMachine設(shè)備云智聯(lián)以及InsightAPM軟件通過(guò)了統(tǒng)信及兆芯通用軟硬件適配互認(rèn)測(cè)試,順利取得了“通用軟硬件適配認(rèn)證中心”聯(lián)合認(rèn)證證書(shū)。這
    的頭像 發(fā)表于 09-14 17:58 ?1122次閱讀

    中科曙光入選2024服務(wù)產(chǎn)業(yè)圖譜及服務(wù)產(chǎn)品名錄

    近日,中國(guó)信通院公布首個(gè)《服務(wù)產(chǎn)業(yè)圖譜(2024年)》及《服務(wù)產(chǎn)品名錄(2024年)》。
    的頭像 發(fā)表于 08-06 14:23 ?676次閱讀

    摩爾線(xiàn)程攜手東華軟件完成AI大模型推理測(cè)試與適配

    先進(jìn)技術(shù),并結(jié)合大模型智加速卡MTT S4000的高性能,不僅助力東華軟件完成了政企客戶(hù)多種業(yè)務(wù)系統(tǒng)的AI升級(jí),同時(shí)也為東華軟件在醫(yī)療、金融、智慧城市、水利等多個(gè)關(guān)鍵行業(yè)提供了強(qiáng)
    的頭像 發(fā)表于 07-31 10:51 ?733次閱讀

    英特爾軟硬件構(gòu)建模塊如何幫助優(yōu)化RAG應(yīng)用

    軟硬件構(gòu)建模塊如何幫助優(yōu)化RAG應(yīng)用,在簡(jiǎn)化部署和支持?jǐn)U展的同時(shí),增強(qiáng)其上下文感知能力和實(shí)時(shí)響應(yīng)性能。 1 為您的應(yīng)用量身定制GenAI ChatGPT的面世改變了AI的發(fā)展格局。企業(yè)爭(zhēng)相利用這項(xiàng)新技術(shù)
    的頭像 發(fā)表于 07-24 15:12 ?410次閱讀
    英特爾<b class='flag-5'>軟硬件</b>構(gòu)建模塊如何幫助優(yōu)化RAG應(yīng)用

    AI中心算服務(wù)探索智造完成A輪融資

    近日,領(lǐng)先的AI中心算服務(wù)探索智造宣布成功完成A輪融資。本輪融資由無(wú)錫云林產(chǎn)業(yè)發(fā)展投資基金領(lǐng)投,旨在為公司提供強(qiáng)大的資金支持,助力其
    的頭像 發(fā)表于 05-30 09:33 ?434次閱讀

    磐啟XNS1042軟硬件資料

    電子發(fā)燒友網(wǎng)站提供《磐啟XNS1042軟硬件資料.zip》資料免費(fèi)下載
    發(fā)表于 05-06 10:35 ?4次下載

    DPU技術(shù)賦能下一代AI基礎(chǔ)設(shè)施

    4月19日,在以“重構(gòu)世界 奔赴未來(lái)”為主題的2024中國(guó)生成式AI大會(huì)上,中科馭數(shù)作為DPU新型基礎(chǔ)設(shè)施代表,受邀出席了中國(guó)智中心創(chuàng)
    的頭像 發(fā)表于 04-20 11:31 ?842次閱讀

    電池管理系統(tǒng)(BMS)軟硬件介紹

    電子發(fā)燒友網(wǎng)站提供《電池管理系統(tǒng)(BMS)軟硬件介紹.pdf》資料免費(fèi)下載
    發(fā)表于 03-27 09:20 ?9次下載

    弘信電子與AI服務(wù)器合資,助力國(guó)產(chǎn)芯片落地

    此外,弘信電子近期在AI業(yè)務(wù)上取得了突破性進(jìn)展,這并非源自本土化的積累,而是依賴(lài)于團(tuán)隊(duì)敏銳的戰(zhàn)略眼光和強(qiáng)烈的創(chuàng)新動(dòng)力。此次投資是弘信電子在AI
    的頭像 發(fā)表于 12-25 09:30 ?959次閱讀
    主站蜘蛛池模板: 特级黑人三人共一女| 免费精品一区二区三区AA片| 国语自产一区视频| 激情丛林电影完整在线| 久久精品国产在热亚洲完整版| 久久热在线视频精品店| 美女被撕开胸罩狂揉大乳| 日本XXXXZZX片免费观看| 挺进老师的紧窄小肉六电影完整版 | 日本毛片久久国产精品| 日本漫画大全无翼乌| 亚洲不卡高清免v无码屋| 一本色道久久88综合日韩精品| 538prom国产在线视频一区| yellow视频免费观看高清在线| 国产高清亚洲| 久久精选视频| 秋霞鲁丝片Av无码| 亚洲国产精品免费观看| 67194成在线观看免费| 攻把受做哭边走边肉楼梯PLAY| 国产中文字幕一区| 奶头从情趣内衣下露了出来AV| 四虎国产精品高清在线观看| 亚洲欧美中文日韩视频| bbwvideoa欧美老妇| 琪琪热热色原日韩在线| 我的美女奴隶| 2017必看无码作品| 国产精品AV色欲蜜臀在线| 久久国产香蕉| 色AV色婷婷97人妻久久久| 野草在线视频完整视频| 补课H湿 1V1 PLAY| 亚洲AV精品乱码专区| 在线伦理电影网| 2021精品高清卡1卡2卡3麻豆| 2019香蕉在线观看直播视频 | 精品人妻伦一二三区久久AAA片| 草莓视频在线看免费高清观看 | 久久久久久久尹人综合网亚洲|