公有云計算平臺使企業能夠使用全球服務器補充其私有數據中心，將基礎設施擴展到任何位置，并根據自身需求擴展和縮減計算資源。這些公私混合云為企業計算應用提供了前所未有的靈活性、價值和安全性。

但在全球各地實時運行的AI應用可能需要巨大的本地處理能力，而且往往是在遠離中央云服務器的偏遠地區。由于低時延或數據駐留要求，一些工作負載需要保留在本地或特定地點。

這就是為什么許多企業使用邊緣計算部署AI應用，邊緣計算能夠在產生數據的地點處理數據，在本地邊緣設備中處理和存儲數據，而不是在遙遠的中央數據存儲庫中進行云處理。因此，此類設備無需聯網就能作為一個獨立的網絡節點運行。

云和邊緣計算有許多優點和用例，并且可以一起使用。

什么是云計算

根據研究機構Gartner的定義，“云計算是一種使用網絡技術以服務形式提供可擴展、彈性IT功能的計算方式。”

云計算有許多優點。《哈佛商業評論》中的“云轉型狀況”報告，83%的受訪者表示，云對企業機構的未來戰略和增長極其重要。

云計算必定會日益普及。企業采用云基礎設施并將繼續這樣做的原因包括：

更低的前期成本：省去了購買硬件、軟件、IT管理以及24小時供電和冷卻的資本支出。云計算使企業機構能夠迅速將應用推向市場并降低進入市場的財務門檻。

靈活的定價：企業只需為所使用的計算資源付費，因此可以更好地控制成本，減少意外情況。

無限的按需計算：云服務能夠通過自動配置和刪除資源來即時應對和適應不斷變化的需求，從而降低成本，提高企業機構的整體效率。

簡化的IT管理：云供應商為其客戶提供IT管理專家服務，使員工能夠專注于企業的核心需求。

易于更新：只需點擊一次就可以獲得最新的硬件、軟件和服務。

穩定可靠：由于可以在云供應商網絡上的多個冗余站點建立數據鏡像，因此能夠以更低的成本輕松地實現備份、災難恢復和業務連續性。

節省時間：企業在配置私有服務器和網絡時會浪費時間。有了按需提供的云基礎設施，企業能夠在很短的時間內部署應用并更快進入市場。

什么是邊緣計算

邊緣計算將算力移動到產生數據的硬件附近(通常是物聯網設備或傳感器)，它因將算力移動到網絡或設備邊緣而得名，能加快數據處理速度、增加帶寬并確保數據主權。

通過在網絡邊緣處理數據，邊緣計算減少了大量數據在服務器、云和設備或邊緣位置之間傳輸的需求。這對于數據科學和AI等現代化應用尤為重要。

邊緣計算的優點

Gartner預測：“在生產中部署邊緣用例的企業數量將從2019年的約5%增長至2024年的約40%。”許多高性能計算應用已經成為現代生活的支柱，例如深度學習和推理、數據處理和分析、模擬以及視頻流等。隨著企業逐漸意識到這些應用由邊緣計算驅動，生產中的邊緣用例數量也將會增加。

投資于邊緣技術的企業可以獲得以下優勢：

減少時延：邊緣數據處理避免或減少了數據的傳輸，因此可以更快洞悉具有低時延要求的復雜AI模型用例，例如全自動駕駛汽車和增強現實等。

降低成本：與云計算相比，使用局域網進行數據處理可以讓企業以更低的成本獲得更高的帶寬和存儲。此外，由于在邊緣進行處理，因此需要發送到云或數據中心進行進一步處理的數據變得更少，這減少了需要傳輸的數據量，同時也降低了成本。

模型精度：AI依賴高精度模型，尤其是對于需要實時響應的邊緣用例。當網絡帶寬過低時，一般會通過降低輸入模型的數據大小來緩解。這會導致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當部署在邊緣時，數據反饋回路可提高AI模型的精度，并且可以同時運行多個模型。

更廣泛的覆蓋范圍：互聯網接入是傳統云計算的必備條件。但邊緣計算可以在本地處理數據并且無需連接網絡，這將計算范圍擴大到了以前無法接入或遠程的位置。

數據主權：當數據在采集地點得到處理時，企業機構就可以通過邊緣計算將所有敏感數據和計算保留在局域網和公司防火墻內。這能降低云端遭受網絡安全攻擊的風險，并使企業能夠更好地遵守嚴格而不斷變化的數據法律。

云計算在邊緣AI中扮演什么角色

邊緣和云計算都可以充分使用容器化的應用。容器是一種易于部署的軟件包，可以在任何操作系統上運行應用。這些軟件包從主機操作系統中提取，因此它們可以在任何平臺或云端運行。

云和邊緣容器的主要區別在于位置。邊緣容器位于網絡的邊緣，更接近數據源，而云容器則在數據中心運行。

已實施容器化云解決方案的企業機構可以十分輕松地將它們部署在邊緣。

企業機構一般會使用云原生技術來管理他們的邊緣AI數據中心。這是因為邊緣AI數據中心的服務器常常分布在成千上萬個地點，而且這些地點無法既沒有物理安全保障也沒有受過培訓的人員。因此邊緣AI服務器必須是安全、有彈性并且易于大規模管理的。

何時使用邊緣計算和云計算?

邊緣計算和云計算具有不同的特點，大多數企業機構最終會同時使用這兩種計算。下面是您部署不同工作負載時需要考慮的一些因素。

云計算

非時延敏感型數據處理

可靠的網絡連接

動態工作負載

存儲在云端的數據

邊緣計算

實時數據處理

網絡連接受限或無網絡連接的遠程地點

大型數據集的成本太高，無法發送到云

高度敏感的數據和嚴格的數據法律

邊緣計算優于云計算的應用示例之一是醫療機器人。外科醫生需要訪問實時數據，而這些系統包含了大量可以在云中執行的軟件，但手術室中日益增加的智能分析和機器人控制系統無法容忍時延、網絡可靠性問題或帶寬限制。在該應用示例中，邊緣計算直接關乎病人的生死。

兩全其美的選擇：混合云架構

許多企業機構必須融合云和邊緣，他們會盡可能采取集中式管理并在必要時采取分散式管理。混合云架構使企業能夠發揮本地系統的安全性和可管理性，同時充分運用服務供應商的公有云資源。

不同的企業機構所采用的混合云解決方案也有所不同，例如在云端訓練+在邊緣部署、在數據中心訓練+在邊緣使用云管理工具、在邊緣訓練+將模型集中到云端進行聯合學習等。云與邊緣的結合可以創造無限的可能性。

原文標題：一文了解邊緣計算與云計算

文章出處：【微信公眾號：NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

審核編輯：湯梓紅