與將數據處理集中在云計算設施或數據中心進行云端訓練和推理的模式不同,邊緣AI在本地就能給終端設備提供智能化功能,并且具有低延遲、隱私保護等優(yōu)勢。據市場咨詢公司ABI Research的數據顯示,預計到2025年,邊緣AI芯片市場的收入將達到122億美元,云AI芯片市場的收入將達到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。邊緣AI芯片當前主要用于AI推理,未來可實現邊緣AI訓練乃至自主學習,從而使得邊緣AI更加智能。由于邊緣AI的興起,不同于云端AI的GPU占據主流,FPGA和ASIC等芯片在邊緣AI的價值得到更多體現。
最近,電子發(fā)燒友采訪到Achronix中國區(qū)總經理郭道正,郭總分享了作為一家FPGA廠商怎么看到邊緣AI,以及Achronix有哪些先進的解決方案等話題。
邊緣AI對FPGA和eFPGA的需求
郭道正表示,邊緣AI將在智能化時代發(fā)揮巨大的作用,但是邊緣AI的應用場景數量眾多,這意味著它們需要不同的計算器件和算力等級。這也意味著邊緣的計算架構應該有很高的靈活性,而這正是FPGA技術在提供并行計算的同時還能提供的。在工業(yè)應用中還有一些特殊的要求,如工業(yè)通信協議轉換或者時常更新等,而FPGA是滿足這些要求的最好技術。
Achronix中國區(qū)總經理郭道正
他進一步指出,實際上,邊緣AI也不得不面臨許多云端推理/機器學習不會面對的制約因素,如系統(tǒng)的大小、功耗和成本等;同時,邊緣AI的計算設備不得不面臨來自于各種各樣的傳感器等數據源的數據;此外,這些數據可能還是通過不同的專用通信協議傳輸過來的,這在許多垂直行業(yè)中非常常見。因此,邊緣AI的計算架構必須擁有足夠的靈活性和可編程性,這也就是我們認為FPGA是邊緣AI最好技術之一。
不過正因為邊緣AI面對的復雜性,因此獨立FPGA似乎并不能完全滿足所需。因此,Achronix為解決方案提供商提供了eFPGA IP。郭道正說道:“在他們自己面向邊緣AI推出的ASIC或SoC等芯片上,他們可以在其特有的計算器件旁邊引入我們的Speedcore eFPGA IP來作為硬件加速器,從而為整個邊緣AI解決方案帶來非常高的性價比和能效,并同時為新的應用場景、新的算法、新的協議甚至新的傳感器保持足夠的靈活性。”
全面FPGA技術和三大產品組合
Achronix為邊緣AI提供了全面的FPGA技術和產品組合。Achronix的解決方案包括Speedster7t系列獨立FPGA芯片、Speedcore eFPGA IP和VectorPath加速卡,所有這些都由Achronix ACE工具鏈提供支持。
Speedster7t系列獨立FPGA芯片
據介紹,Speedster7t FPGA的特點是在其高性能、高密度邏輯陣列之外,還具有二維片上網絡(2D NoC)和機器學習處理器(MLP),該器件采用7nm工藝打造。這樣,開發(fā)人員就不必擔心數據在流進流出以及芯片內部流動的帶寬。
具體來看,Speedster7t FPGA架構的各個方面都經過了優(yōu)化,以便為AI/ML應用創(chuàng)建一個優(yōu)化的、平衡的、大規(guī)模并行的計算引擎。每個Speedster7t FPGA都具有一個大規(guī)模并行的可編程計算單元陣列,并被整合成全新的機器學習處理器(MLP)模塊。每個MLP都是一個高度可配置的、計算密集型的單元模塊,具有多達32個乘法器,支持4到24位的整數格式和各種浮點格式,包括直接支持Tensorflow的bfloat16格式和塊浮點(BFP)格式。同時,Speedster7t系列FPGA芯片中集成的2D NoC可以全面消除芯片內外部的數據傳輸瓶頸。
嵌入式FPGA(eFPGA)
異構計算是邊緣AI發(fā)展中非常確信的趨勢之一,因此許多邊緣計算解決方案采用的高集成度系統(tǒng)級芯片(SoC)或專用集成電路(ASIC)都集成了嵌入式FPGA(eFPGA),從而可以幫助解決方案提供商為垂直行業(yè)開發(fā)邊緣AI解決方案,并為特定的邊緣應用場所打造專門的解決方案。在部署的規(guī)模不斷提升之際,一個SoC或者ASIC解決方案的規(guī)模經濟效應將更加明顯。
Speedcore嵌入式FPGA(eFPGA)IP為ASIC和SoC帶來了強大的和靈活的可編程邏輯。客戶可以將Speedcore eFPGA集成到ASIC或SoC中,可用于高性能、計算密集型和實時處理應用,諸如人工智能(AI)、機器學習(ML)、5G無線、網絡、存儲和汽車。當然,它也可以用于這些領域中的大量邊緣AI應用。
郭道正表示,與獨立FPGA芯片的設計過程不同,eFPGA設計人員可以針對客戶應用,選擇所需邏輯、DSP(或MLP)、2D NoC和存儲資源的確切數量。當需要靈活性時,業(yè)界也可以使用eFPGA,同時通過消除獨立FPGA的多余功能來降低系統(tǒng)成本、功耗和電路板面積,諸如高速I/O這些功能在以SoC或者ASIC形態(tài)進入大批量生產時是不需要的。
VectorPath S7t-VG6加速卡
VectorPath S7t-VG6加速卡旨在為人工智能(AI)、機器學習(ML)、網絡和數據中心應用開發(fā)高性能計算和加速功能時,縮短產品上市時間。該加速卡采用了Achronix的高性能Speedster7t AC7t1500 FPGA。VectorPath S7t-VG6是Achronix與領先的企業(yè)級FPGA加速器產品供應商BittWare聯合開發(fā),可提供400G和200G以太網接口、GDDR6總存儲帶寬高達4 Tbps以及一整套軟件和工具,可以立即開始使用。
憑借這一獨特的產品組合,解決方案提供商能夠使用VectorPath加速卡為制造領域快速開發(fā)邊緣AI/ML解決方案,可適用于不同的垂直市場。此外,解決方案提供商可以將其硬件解決方案集成到帶有Speedcore eFPGA的SoC或ASIC之中,并將FPGA開發(fā)移植到芯片中,為制造領域的邊緣AI提供最高的成本效益和功耗效率。
發(fā)展規(guī)劃
邊緣AI不僅得到了FPGA、ASIC廠商的重視,我們看到現在一些廠商在MCU當中集成AI加速器使得MCU更加智能。對于這樣的邊緣AI趨勢,郭道正認為,MCU只是在邊緣使用的處理器品類之一。由于邊緣應用的多樣性,在不同垂直領域或者應用場景中可能需要MCU、通用處理器、應用處理器甚至諸如PLC等技術領域中的特定處理器,而且它們已經在不同的應用場景中構筑了自己相應的優(yōu)勢和生態(tài)系統(tǒng)。而當智能化時代到來之后,所有這些處理器都有一個共同的需求:它們都需要硬件加速器來高效地處理AI/ML算法,這也是邊緣計算領域中非常清晰的異構計算大趨勢。
他說道,與僅用傳統(tǒng)處理器來運行AI/ML算法的模式相比,FPGA是最高效的硬件數據處理加速器之一。FPGA技術在邊緣計算方面的應用包括板級、芯片級和eFPGA等形式,但是Achronix是唯一一家提供獨立FPGA芯片、eFPGA IP和加速卡的供應商,并提供了完整的ACE開發(fā)工具來支持所有種類的應用。據此,邊緣AI解決方案提供商可以為其應用和其他要求選擇最好的解決方案,并高效地重復使用他們的開發(fā)成果和IP。
面對如今規(guī)模高達100億美元并且還在不斷擴展的硬件加速器市場。Achronix也部署了多項舉措。郭道正談到,其一是Achronix一直在不斷擴大自己的團隊,這既包括不斷擴大的高層管理人員團隊,他們?yōu)锳chronix帶來了在不用領域內豐富的經驗或者技術特長,而且還包括我們一直在延聘的開發(fā)、工程、運營和客戶支持團隊成員。在中國,我們也在進一步擴大中國團隊,以確保客戶的成功。
其二,除了組織架構性擴展,Achronix也在不斷將FPGA技術推向更遠的新領域。例如,先進的封裝可以支持Achronix基于chiplet技術構建模塊化產品。通過利用先進的封裝,Achronix可以更快地進行創(chuàng)新以滿足多個市場的需求,而不必為每一代新產品重新設計整個單片FPGA器件。展望未來,云和邊緣計算、網絡設備、人工智能和機器學習、5G/6G無線網絡設備、金融科技、工業(yè)和汽車等領域都是Achronix在未來5年內主要的市場機遇。
通過前面對挑戰(zhàn)和解決方案的分析,我們可以發(fā)現FPGA技術是邊緣AI硬件平臺的最佳選擇,以應對來自技術、經濟規(guī)模和面向未來的解決方案等挑戰(zhàn)。
-
FPGA
+關注
關注
1629文章
21729瀏覽量
603059 -
IP
+關注
關注
5文章
1704瀏覽量
149518 -
Achronix
+關注
關注
1文章
76瀏覽量
22532
發(fā)布評論請先 登錄
相關推薦
評論