1月7日-10日,2025年國際消費電子產品展覽會(CES 2025)盛大舉行,廣和通發布Fibocom AI Stack,賦智千行百業端側應用。Fibocom AI Stack提供集高性能模組、AI工具鏈、高性能推理引擎、海量模型、支持與服務一體化的端側AI解決方案,幫助智能設備快速實現AI能力商用。
為適應不同端側場景的應用,AI Stack具備海量端側AI模型及行業端側模型,基于不同等級算力的芯片平臺或模組,Fibocom AI Stack可將TensorFlow、PyTorch、ONNX、MXNet等機器學習和神經網絡的模型進行壓縮,并轉換為適合端側部署的最優模型,以匹配不同智能終端應用場景。AI Stack支持Android、Linux、Ubuntu等系統,幫助終端客戶實現跨芯片平臺、跨操作系統的端側高性能推理與部署。
AI Stack擁有完整AI工具鏈,集成易于部署的代碼,可進行數據標注、模型訓練、模型微調。針對模型移植,AI Stack提供模型轉換、模型量化和算子替換等能力。廣和通還提供包含基準測試、性能監控、性能分析等評測服務,協助開發者更直觀地驗證終端部署效果。
高性能推理引擎作為AI部署的關鍵組件,將訓練、轉換完成的模型高效部署在端側并執行推理任務,從而在實際業務場景中實現多樣化的AI應用。推理引擎支持C++/Python/Java等多種編程語言接口,可滿足跨平臺的應用開發,顯著降低開發者端側AI開發的難度和復雜度。通過異構調度、和硬件加速等策略,可最大化發揮AI模組性能,提升推理速度,降低功耗。
同時,AI Stack提供一套全面、豐富的模型倉,包含機器視覺、聽覺、多模態、大語言模型以及行業端側模型等海量模型,可助力行業終端實現目標檢測、語義分割、對話問答、語音識別、圖像問答、多語言翻譯等功能。
得益于其通用性、易用性、高效性等特點,AI Stack可最大程度滿足客戶多層級算力要求,縮短終端開發周期,降低端側AI開發難度,助力智能座艙、智能穿戴、智能零售、機器人等千行百業的業務場景擁抱端側AI。
廣和通AI研究院院長劉子威表示:“廣和通于2024年成立AI研究院,并將端側AI作為公司戰略方向之一,助力產業數智化升級。隨著終端芯片算力、模型能力增強,以及應用場景對實時響應及隱私保護需求增加,端側AI將助力更多IoT場景智能化。Fibocom AI Stack為客戶提供了一站式端側AI部署的能力,未來將廣泛幫助智能零售、智能網聯車、智能穿戴、機器人等場景快速AI升級。廣和通將積極聯合產業伙伴拓展AI創新應用,助推端側AI商業落地。”
-
AI
+關注
關注
87文章
31133瀏覽量
269455 -
消費電子展
+關注
關注
0文章
201瀏覽量
12988 -
廣和通
+關注
關注
3文章
726瀏覽量
12997
發布評論請先 登錄
相關推薦
評論