AI已經(jīng)存在了一段時(shí)間，其影響也相當(dāng)巨大。生成式AI剛開(kāi)始嶄露頭角，對(duì)于其如何顛覆世界的種種預(yù)言已經(jīng)迅速成為熱門(mén)話(huà)題，影響之深廣，令人深思。

這項(xiàng)技術(shù)已經(jīng)對(duì)數(shù)據(jù)中心產(chǎn)生了重大影響。基于必須在云端訓(xùn)練和運(yùn)行的模型的大小，生成式AI的基礎(chǔ)設(shè)施需求預(yù)計(jì)將比早期AI模型高出10到100倍。事實(shí)上，所有數(shù)據(jù)中心基礎(chǔ)設(shè)施都受到這一趨勢(shì)的影響，包括電力、HVAC、網(wǎng)絡(luò)和物理布局。數(shù)據(jù)中心將如何擴(kuò)展規(guī)模以適應(yīng)呈指數(shù)級(jí)增長(zhǎng)的生成式AI大型語(yǔ)言模型？

生成式AI的成功可能取決于半導(dǎo)體行業(yè)對(duì)以下幾個(gè)方面的關(guān)注，一是先進(jìn)的AI處理器，二是如何存儲(chǔ)和處理所有這些數(shù)據(jù)，最后是確保數(shù)據(jù)中心散熱更佳、更高效且更安全。

我們已經(jīng)解決了這類(lèi)問(wèn)題，以便數(shù)據(jù)中心運(yùn)營(yíng)商能夠?yàn)?a href="http://www.1cnz.cn/v/tag/1225/" target="_blank">5G、云服務(wù)和新一代的AI/ML應(yīng)用提供支持。我們的單片機(jī)、存儲(chǔ)器、PCIe開(kāi)關(guān)、安全解決方案和其他產(chǎn)品提供了各種解決方案，以應(yīng)對(duì)從連接AI處理卡到優(yōu)化數(shù)據(jù)訪(fǎng)問(wèn)、存儲(chǔ)、安全和保護(hù)等一系列AI挑戰(zhàn)，同時(shí)提供必要的帶寬、端口密度和連接能力，從而處理不斷增加的流量。

類(lèi)似的挑戰(zhàn)也適用于數(shù)據(jù)中心和本地服務(wù)器中的生成式AI，其應(yīng)對(duì)難度也進(jìn)一步放大。生成式AI似乎也存在一種途徑，能夠擴(kuò)展到物聯(lián)網(wǎng)應(yīng)用中的網(wǎng)絡(luò)邊緣，如患者監(jiān)測(cè)和汽車(chē)交通違規(guī)檢測(cè)。有些人認(rèn)為，如果生成式AI產(chǎn)生的海量數(shù)據(jù)必須在云端而不是在邊緣處理，那么這些應(yīng)用便無(wú)法取得成功。

如今的邊緣AI解決方案可能為生成式AI提供了一種路線(xiàn)圖。語(yǔ)音識(shí)別系統(tǒng)和AI攝像頭等計(jì)算機(jī)視覺(jué)產(chǎn)品可在邊緣提供許多優(yōu)勢(shì)，包括消除網(wǎng)絡(luò)延遲和將隱私控制權(quán)交還給用戶(hù)。它們有助于降低功耗，因?yàn)橹挥性?a target="_blank">檢測(cè)到不規(guī)則的變化后才會(huì)將視頻流傳輸?shù)皆贫耍皇窍瘛吧倒稀睌z像頭那樣連續(xù)不斷地傳輸。可以預(yù)計(jì)，未來(lái)的邊緣設(shè)備也會(huì)采用這種方案。

但是，將生成式AI引入到邊緣將比引入傳統(tǒng)AI更加困難。由于數(shù)據(jù)量更大，電力問(wèn)題將變得更具挑戰(zhàn)性。硬件需求將遠(yuǎn)遠(yuǎn)超過(guò)傳統(tǒng)AI所需，并且解決方案還需要為智能邊緣的電池供電、深度嵌入式設(shè)備提供必要的安全性和其他獨(dú)特功能。

我們已經(jīng)關(guān)注到這些挑戰(zhàn)。例如，我們正在探索如何利用當(dāng)前的Wi-Fi設(shè)備實(shí)現(xiàn)串行端口到生成式AI的橋接。在這種情況下，生成式AI并非在邊緣實(shí)現(xiàn)，而是通過(guò)8位單片機(jī)的UART訪(fǎng)問(wèn)。單片機(jī)會(huì)產(chǎn)生一個(gè)實(shí)時(shí)傳感器數(shù)據(jù)穿插其中的預(yù)定義提示語(yǔ)，將其發(fā)送到生成式AI解決方案，然后根據(jù)回答采取行動(dòng)。目前，尚不明確端點(diǎn)能否在邊緣獨(dú)立運(yùn)行生成式AI而不回調(diào)至數(shù)據(jù)中心，但我們正處于創(chuàng)新的早期階段。

與我們服務(wù)的任何市場(chǎng)一樣，Microchip的目標(biāo)是盡可能簡(jiǎn)化解決行業(yè)中一些最基本的系統(tǒng)設(shè)計(jì)挑戰(zhàn)。這包括提供豐富的產(chǎn)品組合，以便客戶(hù)能夠采用全面系統(tǒng)解決方案的方法實(shí)現(xiàn)創(chuàng)新。我們會(huì)幫助解決在需要新功能的成熟應(yīng)用中遇到的挑戰(zhàn)，同時(shí)也為長(zhǎng)期的安全性、保護(hù)性和可靠性要求提供支持。針對(duì)生成式AI等最新的新興技術(shù)，我們也會(huì)采取同樣的做法，這些技術(shù)描繪了令人期待的未來(lái)，但在兌現(xiàn)承諾之前，這些技術(shù)仍然面臨著相同的基本系統(tǒng)設(shè)計(jì)挑戰(zhàn)。