在 2019 年 4 月,高通公司發布了一款專用于云端 AI 加速的處理器 Qualcomm Cloud AI 100,采用 7nm 工藝,性能比當時業界最先進的 AI 推理解決方案高出 10 倍以上。
而在 2020 年 9 月 16 日,高通宣布 AI 推理加速器 Cloud AI 100 已經面向全球部分客戶出貨。
高通 Qualcomm Cloud AI 100 加速器擁有先進的信號處理能力和領先的能效,能夠支持諸多運行環境對于 AI 解決方案的需求,包括數據中心、云端邊緣、邊緣設備和 5G 基礎設施等。
而全新宣布的 Qualcomm Cloud AI 100 邊緣方案開發套件通過提供一整套面向 AI 處理的系統級解決方案,支持高達 24 路的 1080p 視頻流和 5G 連接,旨在加速邊緣應用的普及。
硬件方面,Qualcomm Cloud AI 100 支持高達 400TOPS 的 AI 算力,同時在 7nm 工藝的加持下,擁有出色的性能功耗比,旨在提供業界領先的 AI 推理效率。Qualcomm Cloud AI 100 還支持從 15W 到 75W 功率的多種設備形態,其中包括 PCI-E 卡。
至于 Qualcomm Cloud AI 100 軟件套件,其中包含一套完整的工具棧,并支持 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes。
該軟件套件包括具備編譯器和模擬器的 Qualcomm Cloud AI 100 應用 SDK,以及具備 runtimes、API、內核驅動程序和工具的平臺 SDK,旨在支持 Qualcomm Cloud AI 100 平臺在多個運行環境中的開發、測試及部署。
Qualcomm Cloud AI 100 開發套件由三個模組化的 Qualcomm 組件構成:
Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理
Qualcomm 驍龍 865 模組化平臺——支持應用和視頻處理
驍龍 X55 調制解調器及射頻系統模組——支持全球運營商的預認證模組實現領先的 5G 連接能力
總體來說,Qualcomm Cloud AI 100 邊緣方案開發套件是已經優化的系統級解決方案,能夠提供高性能的 AI 推理、視頻處理和 5G 連接。
高級副總裁、計算與邊緣云業務總經理 Keith Kressin 表示:“高通在提供擁有業界領先的性能功耗比、從邊緣到云端的高性能 AI 解決方案方面處于絕佳地位。目前,Qualcomm Cloud AI 100 正面向全球部分客戶出貨,我們預計采用該產品的商用設備將于 2021 年上半年面市。”
隨著 AI 技術在社會生產、生活中的應用越來越深入,AI 產業的規模也在不斷增大,小到我們手上的智能手機,大到工業生產的設備,越來越需要 AI 的助力。這些 AI 中,有數據采集、計算、決策都在前端設備本地進行的終端 AI,也有數據訓練、處理都是在云端進行的云端 AI。而未來終端 AI 和云端 AI 都不可能孤立存在,兩者的彼此無縫協同聯動才是大勢所趨。
此背景下,在終端側 AI 領域有著強大號召力的高通,通過 Qualcomm Cloud AI 100 加速器和開發套件將自身的 AI 實力拓展到云端,就很容易理解了。
過去高通一直以來給人的印象都是終端側 AI 的堅定執行者,基于驍龍 AI Engine 人工智能引擎,高通通過終端 AI 為這個星球上一半以上的智能手機提供 AI 運算,方便人們的生活。但我們不知道的是,除了終端側 AI,高通在運算 AI 方面也擁有深厚的積累,事實上,高通一直都在促進終端 AI 和云端 AI 的合作與協同,是分布式 AI 的先行者和踐行者。
而本次交付的 Qualcomm Cloud AI 100 加速器和邊緣方案開發套件,峰值性能能達到驍龍 855 和驍龍 820 的的 3 至 50 倍,就是高通在云端 AI 方面強大實力的最好例證。隨著 5G 商業部署的深入,高通將推進 AI 在運算進行大規模的訓練和推理,然后通過高速率低時延的 5G 網絡,將 AI 的具體能力和執行落實到邊緣終端側,讓邊緣計算和云端的運算實時協同,既擁有強大的運算性能,又擁有極低的時延,從而讓 AI 能夠賦能社會生產生活的各方各面,徹底變革我們的生活方式。
責任編輯:psy
-
高通
+關注
關注
76文章
7459瀏覽量
190556 -
加速器
+關注
關注
2文章
796瀏覽量
37838 -
AI
+關注
關注
87文章
30728瀏覽量
268886
發布評論請先 登錄
相關推薦
評論