如今，邊緣采集的數據量十分龐大。據 Gartner 預測，到 2025 年，將有多達 75% 的企業數據會在傳統數據中心以外生成[1]。

隨著企業運營的節奏日益加快，人們對快速響應的期望日益提升，決策逐漸從數據中心轉向網絡邊緣。將采用人工智能 (AI) 和機器學習 (ML) 算法的計算能力及具有 AI 功能的設備安排在邊緣，可以在提升數據處理量的同時生成更多數據，從而實現更復雜的 AI 用例，進而獲得更多可行洞察。

企業實施 AI 需要滿足哪些要求?

在整個企業內廣泛實施 AI 時，務必要確保邊緣設備、邊緣基礎設施和云三大基礎設施要素均具備處理 AI 工作負載的足夠性能。實施 AI 的具體要求包括：

- 高性能：AI 工作負載往往計算密集度較高，在進行 AI 訓練或推理的地方，必須具備強大的計算性能;

- 低時延：將 AI 工作負載轉移到邊緣位置(即使只是將部分 AI 工作負載轉移到邊緣)，有助于降低決策時延;

- 高容量：AI 依賴大量數據，運行 AI 的基礎設施必須確保計算、存儲和內存容量能夠勝任任務，從而避免瓶頸;

- 可靠的安全性：AI 工作負載涉及大量敏感數據，無論是何種 AI 工作負載，運行它們的設備和軟件都必須更加安全可靠。

為什么 FPGA 是 AI 實施的理想選擇?

人的大腦中有近 1,000 億個神經元。盡管這已經是個天文數字，但將這些神經元組織成為網絡的神經連接數量更是達到了百萬億級，而神經連接的數量顯著影響著大腦的能力。

FPGA 內的互連性就類似于人腦中的神經連接。FPGA 內的可編程邏輯結構也以類似的方式相互連接，這就是為什么 Altera FPGA 是神經網絡和其他 AI 工作負載實施的理想選擇。

在邏輯和線路互連的層面上，FPGA 的比特級動態可編程性就好比靈活的大腦，可以調整注意力，專注于當前的特定任務。此外，一直以來，FPGA 的外部 I/O 也具備其他硬件架構所不具備的出色靈活性，可以連接到雷達、音頻、振動和視覺等各種來源的傳感器。這些特性能夠讓信號實時進出 FPGA，達到可媲美人腦的高級智能水平。

Altera FPGA 早先的一些產品比如 Cyclone 10 GX FPGA、Arria 10 GX FPGA 和 Stratix 10 GX FPGA 等，具備 I/O 靈活性、低功耗和低時延，本就可在 AI 推理上帶來優勢。

這些優勢在三個全新的 Altera FPGA 和片上系統 (SoC) 家族的產品中又得到了補充，使得 AI 推理性能進一步獲得了顯著提升。這三個家族分別是 Stratix 10 NX FPGA 以及 Agilex FPGA 家族的新成員：Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列。這些 Altera FPGA 和 SoC 家族包含專門面向張量數學運算優化的專用 DSP 模塊，為加速 AI 計算奠定了基礎。

AI 和 DSP 計算密度的數量級提升*限 Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列提供。

面向 Altera FPGA 和 SoC 的邊緣就緒型 AI 工具套件

分布式 AI/機器學習邊緣解決方案往往十分復雜，開發難度非常高。Altera 提供的開發工具和軟件致力于推動開放標準并支持容器化和云原生開發，從而幫助開發人員簡化工作流程并加速分布式邊緣解決方案的部署。對于使用 Altera FPGA 和 SoC 進行 AI/機器學習應用開發的人員，可以使用以下開發工具。

您可通過以下四種方式利用上述開發工具，將 Altera FPGA 和 AI/機器學習集成至您的系統：

1- 采用基于 FPGA 的 AI/機器學習加速器，實現 CPU 任務卸載。

2- 采用 Altera FPGA 實施 AI 加速器和額外邏輯，實現多功能 CPU 任務卸載。

3- 提取/內聯處理 + AI。

4- Altera SoC FPGA 利用集成的 CPU(ARM 或 Nios 處理器內核)充當 AI/機器學習加速器，直接提取并處理數據，實施 AI/機器學習推理，然后通過以太網網絡將處理過的數據和推理傳輸至云端。

邊緣 AI 用例

許多數據中心以外的終端市場都很適合采用 FPGA 來實現應用和 AI 計算功能所需的邏輯，從而支持在本地處理數據。這些終端市場包括：

醫療和生命科學

包括醫療監護儀、具有圖像識別和物體檢測功能的 2D 診斷設備等。

航空航天

包括無人飛行載具( UAV )、目標檢測、雷達偵測和分類等。

工業應用

可用于在邊緣增加基于 AI 的檢測和實時控制。

專業影音系統

包括可實現鏡頭自動平移/縮放和背景消除的視頻會議攝像頭等。

廣播視頻

包括從 SDR 到 HDR 的轉換、不同視頻分辨率的智能轉換等。

消費級應用

包括具備人眼檢測等功能，可實現立體成像的 3D 顯示器等。