也許公司在實施邊緣人工智能時面臨的最大問題是大多數公司沒有內部資源來開發這些復雜的快速變化的技術。缺乏訓練有素的人員和對設計流程的不熟悉通常會導致時間延遲和培訓團隊成員的額外費用。另外，選擇太多，工程師不可能每個選項都去探索。而且由于每個應用程序都不同，因此可能不適合根據過去的實現來復制解決方案。但是，通過提出幾個關鍵問題并找到合適的合作伙伴將您的項目從構思轉變為芯片，任何企業都可以制定路線圖，在其設備中成功部署邊緣 AI。

定義用例和可行性

在探索實現選項之前定義用例很重要。任何企業都應該問的第一個問題是：客戶會發現什么是真正有用的？在確定客戶想要的功能后，您的團隊需要設定開發和生產成本目標以及可接受的上市時間。

現在是具有挑戰性的部分——做出與技術相關的決策。是否有可能在您正在處理的成本、時間、功率和空間權衡內實現該功能？在此階段，與經驗豐富的合作伙伴/顧問合作或借鑒內部經驗至關重要。你不會有完美的數據來做你的決定，所以實際經驗對于做出這些判斷是必不可少的。

技術選擇

團隊可以做出多種選擇來在產品中實現客戶所需的功能。根據您的可用資源和開發時間，團隊可能會考慮以下一些選擇：

• 僅在現有嵌入式處理器上的軟件——這可能需要非常仔細地編碼模型才能實現所需的性能。功能可能會受到限制，但如果可行，它通常是成本最低的解決方案。因為這是一個純軟件解決方案，升級或錯誤修復更容易解決。
• 升級/更換現有的處理器——如果你能讓它工作并保留現有的代碼庫，這可能是一個很好的解決方案，并且像上面的解決方案一樣，它是純軟件的，可以很容易地修復或升級。但是，這通常會使項目開始走上一條需要進行大量功率和性能評估的艱難道路。公司最好添加神經網絡 (NN) 或類似的加速器。
• 添加一個固定的神經網絡加速器——如果與應用程序的需求有很好的匹配，這是一個最佳選擇，因為評估和設計可能不會太困難。它可以以非常合理的成本很好地提供出色的功率/性能折衷。
• FPGA – 該解決方案靈活且可升級，但最終產品通常成本高且功率大。這很少是“邊緣”產品的好選擇。
• 專用 SoC——這通常是明確定義用例的大容量、低成本和低功耗產品的最佳選擇。

如何評估正確的選擇

如果沒有邊緣 AI 芯片領域訓練有素的專業人員的專業知識，可能很難評估正確的選擇。每個選項的評估通常需要很長時間并且需要廣泛的知識。例如，評估固定加速器與 FPGA 實現可能需要具有不同技能的工程師。由于有如此多的供應商和解決方案提出相互矛盾的主張，對于大多數企業來說，做出基本決策可能會讓人不知所措。

可以采取的最重要的步驟之一是找到可以幫助評估技術權衡的合適合作伙伴，并將公司從最初的研究和評估階段帶到解決方案的設計和實施。此外，不要沉迷于尋找具有“最佳”功率/性能的解決方案。如果您能找到可行的解決方案并擁有足夠的軟件和技術支持，那么這可能是您的最佳選擇。不要被抓到追逐規格。

構建解決方案

一旦選擇了功能和技術，下一步就是實施。通常重點是神經網絡模型的實現，但企業還必須處理邏輯（軟件/硬件）的實現，以處理從傳感器到最終輸出的管道，每一步都需要獨特的算法。

可能出現的問題包括：

• 在將數據傳遞到 NN 加速器之前，我需要什么樣的信號調理/過濾？
• 我應該使用哪種 NN 模型？我的技術選擇是否有現有模型？哪個模型的哪個版本最適合我的應用程序？
• 如何訓練我的模型？我從哪里獲得我的數據以及這些數據中存在哪些偏差？我需要多大的數據量？
• 訓練模型的處理能力的成本和可用性是多少？我們是在云端還是在本地服務器上訓練？
• 什么水平的準確度是足夠的？假陽性還是假陰性更好？
• 需要哪些后期處理，我可以處理該工作量嗎？

最后的忠告

由于有如此多的供應商提出相互矛盾的說法，因此對于希望實施邊緣 AI 的企業來說，重要的是不要專注于尋找“最佳 TOPS”或“最快”的解決方案，因為這些都是難以捉摸的目標。回答許多有關功能、技術選擇和實施的問題的最佳方式是與“已經在那里，做到了”的個人或組織合作。具有快速評估潛在用例、技術解決方案和供應商產品的經驗的人，可幫助您盡可能快速準確地縮小選擇范圍。專注于擁有最完整解決方案的供應商，既有要實現的引擎，也有模型、算法，甚至現有數據，以幫助您處理獨特的用例并創建可靠的概念證明。