到2023年,物聯網(IoT)預計將包含近300億個互聯設備。這些物聯網設備可在網絡上創建和傳輸大量數據。但是數據所有者如何從傳輸的數據中獲得情報?那就是AIoT誕生的地方,即人工智能(AI)和IoT的結合。
AIoT將智能處理功能添加到IoT設備收集的各種大型數據集中。它使企業能夠分析數據并提供見解。如今,AIoT在互聯用例(例如用于遠程患者監控和預防醫學的醫療保健)中仍然存在;在制造業中的機器人領域;在自動駕駛汽車中;在網絡監控中;并在諸如C3.ai數字轉化研究所的研究中努力減輕流行病并防止未來的傳染病爆發。對于需要深度篩選大量數據以執行深度學習算法的任何用例,AIoT是一種功能強大的工具。它是自我學習,自我監控和自我修復。AIoT使預測決策具有很高的預測精度,遠遠超過了人類。
AIoT面臨的挑戰是系統涉及具有多個階段的復雜數據管道。企業不僅需要處理來自物聯網的數據的數量,種類,速度和準確性,還需要在實現AI解決方案時保持模型質量,數據訪問延遲,吞吐量和數據緩存功能。如果優化了計算系統以快速處理數據,那么除非建立正確的計算,存儲和內存組合,否則將數據導入這些系統可能會成為瓶頸。
存儲是關鍵基礎,需要解決AIoT數據管道的所有階段,從攝取到數據準備再到模型訓練和推理,并仔細考慮TCO,性能和功耗要求。它還需要滿足AI工作負載不斷變化的需求。企業正在轉向NVMe閃存來滿足AI所需的高吞吐量和低延遲,但是讓我們通過基于結構的NVMe(NVMe-oF)進一步邁出一步
一種新方法–共享存儲
一種新方法是將可組合的分解基礎架構(CDI)與NVMe閃存,GPU池和大容量存儲系統結合使用,以在動態的,軟件定義的應用程序環境中實現快速響應時間和AI的擴展需求。
CDI會從物理上分解資源(計算,網絡,存儲和GPU),并根據特定應用程序的需要將它們匯總在一起。這樣可以靈活,獨立地擴展資源,以滿足AI工作負載不斷變化的需求。
可組合存儲將大大提高企業調配和優化其數據基礎架構以滿足動態應用程序需求的靈活性和靈活性。
CDI允許在許多主機之間共享和擴展存儲,網絡和計算資源。與融合系統不同,當數據隨著服務器容量的增長而增長時,它避免了后續數據進出GPU服務器本地SSD的延遲。它可以立即訪問共享閃存中經過訓練的模型和數據,并可以快速響應。
選擇存儲解決方案時,具有NVMe閃存的開放式可組合基礎架構可以跨團隊無縫分配共享存儲池,以提高效率,成本和CIO關心的KPI指標。
如何跨AIoT數據管道實施NVMe-oF共享存儲
實施AI計劃時,重要的是設計一種存儲基礎架構,以支持前所未有的AIoT數據量。優化TCO和效率的一種方法是查看AI工作負載的每個階段,以確定哪種存儲類型最適合每個階段。NVMe-oF共享存儲幾乎適用于AIoT工作流程的所有階段:
接收 – 接收階段需要具有速度和規模,以維持從IoT系統傳入的數據的數量和速度。要提取到臨時著陸區,可以使用NVMe存儲平臺或大容量存儲系統(基于HDD,對象或云存儲),而要提取到集中式,全局可訪問的容量層,則可以使用大容量存儲系統。為了吸收到高性能層(無論是在本地還是在云上部署),都需要NVMe閃存來進行實時分析。
數據準備 –數據準備階段的主要重點應該放在數據質量上。就成本和性能而言,NVMe存儲平臺也是一個不錯的選擇。或者,您可以選擇閃存和HDD的混合選件,以提供性能和更高容量的好處。
模型訓練 -模型訓練階段對已實現的AI解決方案的模型質量,數據訪問延遲,吞吐量和數據緩存功能敏感。這需要低延遲,面向吞吐量,可擴展的高性能存儲層,并且NVMe-oF存儲平臺非常適合滿足這些需求。
推論 –推論階段同樣需要低數據訪問延遲,吞吐量響應時間和數據緩存功能。當模型訓練和推理階段訪問分解架構中的一個共享存儲時,它們在很大程度上是相互依賴的。例如,如果推理評分較差,則需要對模型進行重新訓練,并且在模型訓練結束之前,無法生成推理。因此,對兩者使用相同類型的共享存儲池是有意義的。
備份/還原 –在備份階段,大容量HDD,對象存儲或云存儲最適合存儲和按需訪問舊模型和數據。通常需要從備份中還原舊模型以進行推理或重新訓練,以滿足新的傳入IoT數據的需求,因此最好利用近線或在線備份解決方案。
適用于AIoT的NVMe-oF可組合分解基礎架構
NVMe-oF正在統一如何大規模共享,組合和管理存儲,以滿足不斷變化的應用程序和工作負載的需求。使用NVMe閃存的可組合分解基礎架構允許IT即時分配存儲,以支持AI每個階段的AIoT實施。
我們將繼續看到越來越多地采用可組合的分布式存儲解決方案,這些解決方案可以有效地在以太網結構上擴展,并為各種數據中心應用程序提供NVMe設備的全部性能潛力。可組合存儲將大大提高企業配置和優化其數據基礎架構的靈活性和靈活性,以滿足AIoT及其數據中心KPI的動態應用需求。
-
數據集
+關注
關注
4文章
1208瀏覽量
24726 -
物聯網設備
+關注
關注
1文章
235瀏覽量
19757 -
AIoT
+關注
關注
8文章
1411瀏覽量
30739
發布評論請先 登錄
相關推薦
評論