電子發燒友網報道(文/李彎彎)相對于云端AI ,邊端側AI在本地進行計算和決策,不需要將數據上傳至云端,具備更好的實時性、隱私性等特點,,近些年,邊端側AI的應用越來越被看好。
然而邊端側AI因為應用場景豐富,碎片化明顯,在落地應用上也存在諸多難題,比如,需要針對不同應用場景定制算法,不少硬件方案只能針對單一應用等,因此具備一定通用性的方案會更被市場需要,比如時擎科技的領域專用架構(DSA)處理器。時擎科技自2018年成立以來,一直致力于在萬物智聯的AIoT時代,從落地場景的需求出發,通過領域專用架構的處理器和定制化芯片設計,為端側設備提供支持語音、視覺、影像、顯示等多模態智能人機交互和數據處理的芯片產品及完整的系統級解決方案。該公司基于RISC-V指令架構為端側智能交互和處理場景量身定制了TimesFormer領域專用架構智能處理器,作為處理和計算核心,推出了AT系列端側智能處理芯片,可以應用于智能家居、智慧家電、泛安防、智能硬件等各類端側設備中。時擎科技也能針對客戶應用場景的需求,提供定制化芯片的設計和交付,以及系統級應用和軟件的開發,為客戶帶來差異化的產品和競爭力。目前時擎科技在售的AT系列端側智能芯片,是一款高集成度、高能效比的智能處理芯片,可廣泛應用于離線語音控制、麥克風陣列、入門級智能影像應用等多種不同應用場景中。以其中已經量產出貨的AT1000為例 –在產品特點上,AT1000系列芯片搭載了自研的RISC-V主控TM500,主頻高達300MHz,支持DSP和浮點操作;提供100G高能效AI算力,配套的TimeFlow算法部署工具友好支持各種模型和算子;優化的存儲系統保證算法執行效率,內置MB級高速SRAM,大容量PSRAM和4MB XIP Flash;專用的高性能語音子系統,支持多達4+2模擬/數字麥克風輸入,以及立體聲/功放輸出,滿足各類基于麥克風陣列的語音處理需求。在應用上,AT1000系列其中主要的應用場景是通話對講、語音降噪等。時擎科技創始人、總裁于欣在接受電子發燒友采訪的時候表示,通話對講場景按照通話距離大體可以分為兩類,一類是遠講,典型場景是會議,一般來說,會議室的噪聲條件相對較好,而如今居家辦公的情況比較多,噪聲條件較為復雜,但最近催生了一些在家中或交通工具上,這些場景對于設備降噪能力提出了更高的需求尤其。另一類是近講,則主要是以對講機作為代表。在通話對講方面,雖然應用場景各不相同,不過其核心算法是類似的。時擎科技針對不同的應用場景針對性地推出了不同型號的芯片,在封裝、存儲上等方面會有所差異,用以適配對算法復雜度、外設接口的不同。時擎科技TimesFormer智能處理器是一種基于RISC-V指令集的領域專用架構(DSA)處理器,專門針對端側智能計算和各類音視頻智能算法的需求而研發。具有高能效比、高性價比、易使用、靈活可擴展等特點,可以廣泛的應用于端側人工智能芯片中。如何理解領域專用架構(DSA)呢?于欣解釋到,DSA的核心特點是,它針對的是一類場景,而不只是針對一個特定設備而設計,比如,用于邊端側的語音,也就是各種類型的通話對講都可以用。相比于很多專用的ASIC芯片而言,,DSA是在專用性和通用性上找到了一個平衡,針對某一類場景所需要的算法所設計,可以提供在性能、成本、功耗上滿足需求的優質方案,又具備一定的通用性保證了芯片足夠大的市場需求范圍。成立四年多來,時擎科技已經基于領域專用架構(DSA),圍繞各類端側智能應用場景,打造了DSA處理器、部署開發工具、端側AI算法三位一體、緊密融合的全棧技術方案。團隊的研發能力和在售產品都獲得了市場的較好認可,公司2022全年銷售額也有望超過七千萬元。相對于云計算,邊端側有它的獨特優勢。具體來說,邊緣AI允許設備在本地進行AI計算和決策,不需要連接到互聯網才能實現數據處理。因此它具備實時性好、帶寬資源要求低、隱私性好等諸多特點,因此在很多場景中邊緣AI比云端AI更好的解決實際的問題。這也是為什么近些年邊端側AI越來越多的被看好。實際上,邊端側AI是相對于云來說的,終端側比較好理解,邊緣側AI可以怎么理解呢?很多時候,邊和端是相對而言。舉一個典型場景的列子,在監控的時候,很多之前部署的攝像頭都不帶本地AI能力,那是不是就只能將采集的信息上傳至云端進行處理呢,答案是否定的。我們可以通過在這云端之間架設所謂的邊緣服務器,從而實現對這些視頻采集的信息更接近數據端的分析處理。事實上很多場景都是如此,比如公司、小區內的視頻監控,都可以通過邊緣服務器對這個小區域里的視頻進行分析處理,相對于云端來說,它直接部署在本地,從拓撲結構上來看,這就是我們所說的邊緣側。一般而言,如果數據采集節點和傳輸至云端服務器中間的路徑上所進行數據加工、處理、分析,則都可以稱為邊緣側的處理。雖然邊端側AI比較被看好,不過在實際落地應用中,還是有不少挑戰。在于欣看來,這是由于客觀條件決定的,很多邊緣側的需求,或者待分析的數據以及其背后的算法等,會存在較多的差異。具體來看,無論是識別人、識別物體,還是工業應用中使用機器視覺做缺陷檢測,雖然都是識別、檢測,但實際在算法上的差異很大。從這個角度來看,就需要多種跟應用場景完全匹配的算法,沒有一個通用的算法存在。每個場景都需要有針對性的算法,并不是說做好一個場景的一套算法,就可以把它輕易復制到別的場景,這是算法層面可復制性方面的挑戰。另外,不同場景應用的解決方案也不盡相同,如果是在云端,如GPU的通用計算方案是主流,而在邊端側,就不太一樣,可能會有八仙過海各顯神通的各種方案,比如時擎科技就是定制的領域專用架構DSA處理器從這個角度來看,無論是算法,還是硬件,很難存在一個特別通用的方案,而且邊端場景往往對成本、功耗等方面有更加苛刻的要求,這就決定了需要去做算法和芯片的匹配,這是成為了邊端側AI復制推廣的限制。還有就是,一些AI的算法的訓練需要很多數據,這也是人工智能不可或缺的一個環節,這也會給形形色色的邊端側AI應用帶來更多困難。這些問題可以如何去解決呢?于欣認為,業界需要在算法、處理器、工具等上面形成整體的解決方案,針對一類應用場景提供解決方案,形成一定的復制性,而不是說每一個場景都要從零開始,某種可以解決邊端側AI應用場景過于碎片化的難題。從目前的發展勢頭來看,未來AI的應用將會無處不在,還有很大的發展空間和潛力。然而任何新興技術在發展初期階段,都會遇到各種各樣的問題,AI也不例外。作為企業來說,如果能夠不斷地進行技術創新,解決發展過程中存在的難題,必然能夠在特定的領域占據重要位置。對于時擎科技來說是如此,對于其他任何AI芯片企業來說,也是如此。聲明:本文由電子發燒友原創,轉載請注明以上來源。如需入群交流,請添加微信elecfans999,投稿爆料采訪需求,請發郵箱huangjingjing@elecfans.com。- “極寒之地”!數據稱硅谷裁員占全球科技公司三分之一,至少8家企業裁員過千
- 英國阻撓中企收購!已完成收購,卻被要求剝離86%的股權!
- 對標蘋果M系列芯片,高通推出Oryon芯片內核,PC市場又起戰事
- 轉向美國制造,蘋果大幅調整供應鏈的背后邏輯是什么?
原文標題:邊端側AI規模應用落地難,領域專用架構(DSA)如何在通用性和專用性之間找到平衡!
文章出處:【微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
原文標題:邊端側AI規模應用落地難,領域專用架構(DSA)如何在通用性和專用性之間找到平衡!
文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
相關推薦
AI發展正酣,隨著終端芯片算力越來越高、端側模型能力越來越強、實時響應及隱私保護的端側應用需求增加,端
發表于 12-12 10:35
?171次閱讀
當前,AI大模型走向端側已經是大勢所趨,端側AI的發展將推動人工智能成為影響世界的第四次工業革命
發表于 11-26 01:00
?133次閱讀
將成為和系統同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進,大模型加速走向端側 從手機移動端開始,
發表于 11-25 16:45
?233次閱讀
本文轉載自:長三角資本市場服務基地在半導體產業和人工智能產業的融合驅動作用下,AI芯片行業正進入發展“快車道”。由于邊端設備大部分都有AI方面的需求,
發表于 09-24 08:03
?458次閱讀
,對變頻器產生的諧波進行有效抑制和消除。其基本結構通常包括輸入濾波器、輸出濾波器及直流側濾波器,分別針對變頻器的不同部位進行濾波處理。
輸入濾波器:主要安裝在變頻器的電源輸入端,用于濾除電網側進入
發表于 09-15 09:42
的技術實力,推出了基于存算一體架構的邊端大模型AI芯片——后摩漫界??M30,引領了AI芯片領域
發表于 06-28 15:13
?681次閱讀
通用和專用集成電路(IC)是在電子領域中常見的兩種類型的電路。它們之間的區別主要體現在其設計、應用和特點方面。本文將詳細探討通用和
發表于 05-04 17:06
?2191次閱讀
Purpose Integrated Circuit,GPIC),專用集成電路在特定應用領域中具有獨特的特點和類型。 一、特點: 定制化設計:專用集成電路是根據特定應用的需求進行定制化設計,與
發表于 05-04 17:02
?1824次閱讀
(General-Purpose Integrated Circuit)相比,專用集成電路通過優化特定應用的硬件和軟件設計,能夠提供更高的性能、更低的功耗和更高的可靠性。 通用集成電路是為滿足各種應用需求而設計的電路
發表于 04-21 16:55
?1229次閱讀
專用集成電路(Application Specific Integrated Circuit,ASIC)是根據特定應用領域的需求而設計和定制的集成電路。與通用集成電路相比,專用集成電路
發表于 04-21 09:15
?530次閱讀
專用集成電路(ASIC)和通用集成電路(ASIC)是兩種不同類型的集成電路,它們在設計和用途上有很大的不同。以下是專用集成電路和通用集成電路之間
發表于 04-19 15:28
?778次閱讀
。與通用型集成電路(General Purpose Integrated Circuit,簡稱GPIC)相比,專用集成電路在特定的應用領域中更為專注和高效。在關于專用集成電路是否都是大
發表于 04-14 10:45
?508次閱讀
Integrated Circuit,簡稱GPIC)相比,專用集成電路具有更高的功能性和性能。在本文中,我們將詳細討論專用集成電路和通用集成電路,并介紹它們的不同類型和應用
發表于 04-14 10:41
?747次閱讀
通用和專用集成電路是電子領域中常見的兩種類型的集成電路。它們在設計、功能和應用方面有很大的差異。本文將詳細介紹通用和專用集成電路的定義、特點
發表于 04-14 10:37
?1160次閱讀
的,可以滿足特定應用場景下的要求。相對于通用集成電路的廣泛適應性,專用集成電路能夠實現更高的性能和更低的功耗。 高度
發表于 04-14 10:24
?738次閱讀
評論