作者：DEEPAK BOPPANA，產品和細分市場營銷高級總監Lattice Semiconductor

從智能家居到自動駕駛汽車再到醫療設備，人工智能 (AI) 和邊緣計算一直是中心舞臺，毫無疑問，人工智能正在多個行業迅速蔓延。物聯網和連接設備的持續發展正在推動系統架構和新應用的轉變，不僅歡迎人工智能的興起，也歡迎邊緣智能的增加。

在邊緣構建計算解決方案的設計人員面臨著滿足靈活、低功耗、小尺寸和低成本的新要求，同時又不影響功耗和性能的挑戰。這些新應用將需要基于人工智能和機器學習的計算解決方案，而不是云計算更接近物聯網傳感器數據的來源。

圖 1：新一代基于 AI 的邊緣計算應用程序需要獨特的需求組合。

那么，開發人員如何才能在不影響性能的情況下以低成本構建低功耗的邊緣解決方案呢？首先，設計師需要保持低成本解決方案與大批量邊緣解決方案競爭。其次，他們需要現場可編程門陣列 (FPGA)，以在神經網絡架構和算法快速發展的市場中提供最大的設計靈活性并支持廣泛的 I/O 接口。此外，還需要通過自定義量化來權衡精度和功耗的解決方案。事實證明，使用針對低功耗運行進行優化的低密度 FPGA 可以滿足網絡邊緣嚴格的性能和功耗限制，并具有上市時間優勢。

設計人員還需要 FPGA，讓他們能夠構建緊湊的 AI 設備，在不違反封裝或熱管理限制的情況下提供高性能。最后，那些首先將解決方案推向市場的人將獲得巨大的優勢。任何預期的解決方案都必須能夠訪問適當的資源來定制解決方案并相應地縮短開發周期——無論是演示、參考設計還是設計服務。

鑒于此，FPGA 如何在邊緣計算中發揮作用？機器學習通常需要兩種類型的計算工作負載。訓練中的系統可以從現有數據中學習新的能力。例如，面部檢測功能通過收集和分析數萬張圖像來學習識別人臉。正如人們想象的那樣，這個早期的培訓階段是高度密集的。在這些情況下，開發人員通常會在數據中心中使用可以處理大量數據的高性能硬件。

推理是機器學習的第二階段，通過識別模式和執行任務將系統的能力應用于新數據。繼續上述示例，面部檢測功能將繼續改進其正確識別人臉的能力。在這個階段，系統一直在學習，這會隨著時間的推移增加它的智能。鑒于在邊緣執行的許多限制，設計人員無法在云中執行推理。相反，他們必須通過在邊緣數據源附近執行計算任務來擴展系統的智能。

那么設計人員如何才能替換云中可用的大量計算資源來在邊緣執行推理呢？一種有效的解決方案是利用 FPGA 固有的并行處理能力，并使用它來加速神經網絡性能。通過使用專為低功耗運行而優化的低密度 FPGA，設計人員能夠滿足網絡邊緣的性能和功耗需求。例如，萊迪思的 ECP5 FPGA 可以將神經網絡加速到 1 W 以下，而 iCE40 UltraPlus FPGA 可以將神經網絡加速到毫瓦級，這兩者都允許設計人員構建高效的、基于 AI 的邊緣計算應用程序。

圖 2：邊緣超低功耗堆棧的一個示例是最近推出的 Lattice sensAI。

除了訪問計算硬件之外，設計人員還需要各種 IP、工具、參考設計和設計專業知識來構建有效的解決方案并加快上市時間。sensAI 就是一個有助于應對這一挑戰的綜合開發生態系統的例子，它基于 ECP5 和 iCE40 UltraPlus FPGA 系列。Lattice sensAI 堆棧旨在加速人工智能在消費者和工業物聯網應用中的部署，提供針對邊緣優化的靈活推理解決方案。

Lattice sensAI 通過以下方式滿足邊緣計算的要求：

結合模塊化硬件平臺、神經網絡 IP 內核、軟件工具、參考設計和來自生態系統合作伙伴的定制設計服務

簡化構建靈活推理解決方案的任務

針對從 1 mW 到 1 W 的低功耗進行優化，封裝尺寸從 5.5 mm2開始 ，大批量生產的價格在 1 美元到 10 美元之間

隨著機器學習越來越接近邊緣，為公司和開發人員提供快速有效地開發未來消費者解決方案所需的所有必要工具

隨著物聯網的不斷發展，連接設備的數量和數據量也將不斷增加。最終，將數據發送到云所需的功率和帶寬將過于巨大，存儲數據所需的空間將挑戰即使是最強大的云公司的資源。這是人工智能和邊緣計算革命的開始。隨著用戶尋求更高水平的智能，對在靠近物聯網數據源的地方集成低功耗推理的系統的需求將增長，并青睞在邊緣設備上具有計算能力的平臺。FPGA 在滿足新一代基于 AI 的邊緣計算的要求方面變得越來越重要，因為它提供了安全延遲、設計靈活性，并能夠加快 AI 系統中編程智能的上市時間。

審核編輯 黃昊宇