在洛杉磯世界移動通信大會(MWC)上,NVIDIA首席執行官黃仁勛在主題演講中提到:過去十年,席卷全球的智能手機革命只是一個開始。接下來,將是“萬物智能革命”時代的到來。他表示:“NVIDIA將為企業網絡邊緣和虛擬無線接入網(vRANs)的AI賦能,助力新一代5G無線服務。”
六個“寶石”的邊緣智能需求
黃仁勛表示,如今CPU的性能提升速度已經放緩,為了迎接挑戰,GPU的計算能力已經比2013年增長了30萬倍,而且每萬億次計算能力成本也明顯降低了。AI算法、強大的GPU、智能NIC或網絡接口卡、云原生技術,NVIDIA EGX加速邊緣計算平臺,以及充分釋放GPU計算潛力的5G高速無線網絡——所有這些元素,黃仁勛將它們比作漫威電影中強大的無限寶石。
“您正在尋找的這六個‘寶石’,會把5G置于邊緣之上,進而虛擬化5G數據中心并創建一個智能世界,而這反過來將智能添加到我們周圍的一切事物之中,”黃仁勛說,“這將成為一切智能革命的支柱和基礎。”
NVIDIA EGX為邊緣融入AI、IoT、5G能力
邊緣計算是通過使用位于用戶邊緣終端附近的服務器提供的分布式計算環境。例如,要使用智能手機,需要一組向智能手機提供各種服務的服務器。對于語音通信,交換功能是必需的,并且要使用SMS服務器。這些服務器已實現為固定硬件,具有4G代基站附近的特定功能。邊緣計算獲得關注的一個原因很大程度上與AI的實現有關。以自動駕駛為例,當在云端執行自動駕駛車輛處理的一部分任務時,等待時間(響應速度)成為問題。即使等待時間只有幾秒鐘,汽車也會同時行駛數十米。
因此,現在使用安裝在汽車上的AI芯片執行所有基本判斷,例如方向盤、加速器和制動操作。在這種情況下,為了進行更高級的自動駕駛,有必要將汽車制造商的邊緣服務器放置在通信運營商的基站處并且在汽車之間交換數據。
NVIDIA EGX邊緣超級計算平臺,定位于高性能的云原生邊緣計算平臺,經過優化,可以充分利用AI、IoT和5G這三次關鍵性革命,為全球領先公司提供構建下一代服務的能力。黃仁勛表示:“邊緣計算的‘智能手機時代’已經到來,我們必須創造一種新型的計算機來提供這些應用,如果全球經濟能在如此普及的技術幫助下,哪怕只是稍稍提高一點效率,那么此機遇所帶來的價值就可以用‘每年數萬億美元’來衡量。”
NVIDIA希望通過EGX邊緣超級計算平臺,讓計算能夠超越個人和云,在全球范圍內運行。該平臺將NVIDIA CUDA-X軟件與NVIDIA認證的GPU服務器和設備相結合。
EGX平臺的軟件可支持較為廣泛的應用,包括用于構建智能視頻分析應用的NVIDIA Metropolis,以及剛剛發布的NVIDIA Aerial 軟件開發者套件。Aerial讓電信公司能夠構建完全虛擬化且高度可編程、可擴展、高能效的5G無線接入網絡,終極目標是助力其打造智能工廠、AR/VR和云游戲等新服務。
邊緣設備的實時AI能力得以提升
人工智能、物聯網、云游戲、增強現實和5G網絡加速帶來大量機會。根據行業預估,從現在起到2035年,將新增一萬億臺全新的物聯網設備。設想一下,當數據從傳感器(工廠車間、商店貨架等場景)流出時,邊緣設備通過加速AI計算的性能,將使得智能零售、智能醫療保健、智能制造、智能運輸和智慧城市等一切任務皆有可能實現。在這一進程中,需要強大的邊緣計算能力處理海量數據,從而快速制定人工智能增強型決策以驅動業務發展。NVIDIA希望通過EGX超級計算平臺,滿足對即時、高吞吐量的邊緣人工智能——即數據產生之處不斷增長的需求,在確保反饋時間的同時減少需要發送至云端的數據量。那么,EGX的優勢是什么?
EGX 采用小型NVIDIAJetson Nano,可以為圖像識別等任務提供每秒 0.5 萬億次運算 (TOPS) 的處理速度。該平臺可以擴展為一套完整的NVIDIA T4 服務器,提供超過 10,000 TOPS 的處理速度,為數百名用戶提供實時語音識別和其他復雜的 AI 體驗。
在體系結構上,EGX與由主要云提供的 NVIDIA AI 計算相兼容。在云端開發的 AI 應用程序可以在 NVIDIA EGX 上運行,反之亦然。NVIDIA Edge Stack 可以連接主要云物聯網服務,客戶可以從 AWS IoT Greengrass 和 Microsoft Azure IoT Edge 遠程管理其服務。
此外,NVIDIA Edge Stack 已在 Red Hat OpenShift(企業級 Kubernetes 容器協調平臺)上進行了優化。Mellanox 智能網卡 (Smart NIC) 可以減輕軟件定義網絡的負擔并實現其加速,從而可實現更高級別的隔離和安全性,而不會影響 CPU 的性能。
不斷擴展的EGX生態系統
沃爾瑪是全球率先采用EGX的用戶,在位于紐約萊維頓的智能零售實驗室部署了EGX,該實驗室是一個獨特的、全面運營的雜貨店,致力于探索AI如何進一步改善店內購物體驗。利用EGX的AI和邊緣功能,沃爾瑪能夠對每秒產生的超過1.6TB的數據進行實時計算,并能夠使用AI自動提醒員工補貨,開放新的結賬通道,回收購物車,并確保肉類和生產部門產品的新鮮度。三星電子也開展了早期EGX部署,致力于將AI應用于高度復雜的半導體設計和制造流程。
BMW正在其位于南卡羅來納州的制造工廠使用智能視頻分析技術來實現自動化檢測。借助EGX,通過檢測線上的多個攝像頭和其他傳感器收集數據,可助力確保出廠的汽車均為最高品質。
日本電信服務巨頭NTTEast正在其數據中心使用EGX;寶潔基于EGX平臺開發支持AI的應用程序,以用于產品和包裝的檢查;拉斯維加斯市使用EGX捕捉車輛和行人數據,以確保街道更加安全;舊金山市聯合廣場商業改善區(UnionSquareBusinessImprovementDistrict)正在使用EGX為當地零售商捕捉實時行人數量,提升商業工具的智能性……這些都是早期部署EGX的案例。
NVIDIA EGX生態系統包括全球100多家技術公司,從初創公司到成熟的軟件供應商、云服務提供商、以及全球服務器和設備制造商。
為加速向邊緣計算的邁進,NVIDIA對其服務器認證計劃進行了擴展,采用了新名稱NGC-Ready for Edge,即基于NVIDIA T4、Quadro RTX 8000和V100 Tensor Core GPU的系統,這些系統能夠在邊緣運行要求嚴苛的AI工作負載。Dell Technologies、HPE、聯想、QCT和Supermicro等是首批與NVIDIA合作對系統進行認證的公司。如今,來自全球十幾家制造商的20多款服務器已經過驗證。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
AI
+關注
關注
87文章
31133瀏覽量
269460 -
5G
+關注
關注
1355文章
48479瀏覽量
564796 -
IOT
+關注
關注
187文章
4216瀏覽量
197058 -
邊緣計算
+關注
關注
22文章
3103瀏覽量
49134
發布評論請先 登錄
相關推薦
萬物智聯時代,OpenHarmony何以「無處不在」?
的超級融合能力,輕松實現教室設備的智能管控和智慧課堂教學……當設備學會感知環境、數據開始跨域流動,連接將變得無處不在,過去被認為是天馬行空的許多構想,今天看來也已
引領智能邊緣未來,2024高通與移遠邊緣智能技術進化日圓滿落幕
日,由移遠通信和高通公司聯合舉辦的“2024高通&移遠邊緣智能技術進化日”在深圳順利開展。本次活動以“讓智能計算無處不在”為主題,聚焦
發表于 08-29 13:48
?425次閱讀
銳寶智聯亮相2024英特爾網絡與邊緣計算行業大會
2024年7月23日至24日,“2024英特爾網絡與邊緣計算行業大會”在天津于家堡洲際酒店隆重舉辦。本屆大會以“芯所及 AI無處不在”為主題,邀請了400余位企業高管代表參加。會議將聚
邊緣AI需求爆發,邊緣計算網關亟待革新
CAGR為17.4%,到2030年達到8004.3百萬美元。如果將范圍擴大到整個邊緣AI市場,根據英特爾公司高級副總裁兼網絡與邊緣事業部總經理Sachin Katti在分享中提到的數據,2030年全球
“從無處不在到無人不用”,大模型推動邊緣計算變革的機遇與挑戰
《從云到端 AI觸手可及》2024年芯原AI專題技術研討會上,芯原執行副總裁、IP事業部總經理戴偉進作了“大模型推動邊緣計算變革的機遇與挑戰”的主題演講,他介紹了目前大模型在邊緣計算的
2024高通與美格智能邊緣智能技術進化日圓滿舉行
近日,高通技術公司與美格智能在深圳共同舉辦了盛大的“2024高通&美格智能邊緣智能技術進化日”活動。此次大會以“讓智能
評論