人工智能技術的蓬勃發展和智能應用的不斷落地,正在深刻地影響和改變著我們的生活。GPU、NPU、FPGA等各類AI芯片為人工智能的發展提供了算力支撐,其中又以GPU應用最為廣泛。接下來讓我們一起了解一下沐曦的首款GPU產品:曦思N100。
曦思N100是沐曦面向人工智能推理場景推出的高效能GPU產品,針對產品性能,沐曦的架構師們進行了兩大方向的優化:
01要讓“計算算的快”
大家都知道GPU通用性好,適應性強,但反向來說面向特定場景它可能并不是最優解。針對AI應用場景的特點,曦思N100采用了GPGPU+DLA的異構架構,GPGPU可保持GPU的通用可編程性,而DLA(Deep Learning Accelerator)則可加速深度學習任務從而達到更高的計算性能,通過量身打造的推理軟件棧MacaRT可實現內部計算資源的自動調度和優化。
02要讓“數據跑的快”
曦思N100采用高帶寬低延遲的設計理念,高速片上網絡(High Speed Fabric)的應用使各計算單元間的數據傳輸更加通暢,HBM2E高帶寬顯存則為存算交互提供了高速的數據通道,同時曦思N100還加持了目前最先進的PCIe5.0接口,不管是對內還是對外的數據通路都是無比暢通的大道!
除了對計算性能的需求之外,很多人工智能的場景還涉及到大量的視頻圖像處理任務,如果都用CPU來做,整體效率低下而且需要消耗很多CPU資源。針對這種情況,曦思N100在片內集成了強大的視頻處理內核,可支持視頻編解碼、圖像編解碼、圖像處理等功能。高達96路的視頻解碼功能,可在視頻智能分析等場景大幅降低單路分析成本。高達128路的視頻編碼功能則使其能夠在短視頻、視頻云等需要做高并發編碼、轉碼和AI處理的場景大幅提高處理密度并降低單路成本。所以,可以說曦思N100是一款AI全流程處理GPU,不止功能全面還能有效地降低系統整體成本(TCO)。
除了硬件性能強大、功能完備之外,一款好的產品必須要讓用戶覺得好用、易用!對此沐曦團隊打造了MXMACA1.0軟件棧,其中包括簡單易用的MacaRT推理引擎、開箱即用的Model Zoo和應用實例,同時也對主流軟件生態如FFMPEG、OpenCV等進行了兼容支持,最大限度的遵循用戶使用習慣,幫助開發者降低學習和開發成本。
曦思N100人工智能推理GPU非常適合應用于基于視覺的AI處理場景。沐曦已聯合合作伙伴打造了多種基于曦思N100的解決方案,如高密度視頻結構化分析解決方案、高并發智能轉碼解決方案、光電混合異構計算解決方案等,這些方案可廣泛應用于城市安防、智慧交通、工業視覺、短視頻、云計算和智算中心等多個領域。
目前曦思N100已經正式推向市場,并進入批量量產階段。沐曦將攜曦思以及未來更多的GPU產品持續為中國的社會發展和科技進步提供強大算力!
審核編輯:湯梓紅
-
cpu
+關注
關注
68文章
10855瀏覽量
211594 -
gpu
+關注
關注
28文章
4729瀏覽量
128897 -
AI
+關注
關注
87文章
30747瀏覽量
268900 -
人工智能
+關注
關注
1791文章
47200瀏覽量
238270 -
沐曦
+關注
關注
0文章
26瀏覽量
1152
原文標題:智算小課堂(第七課)——曦思N100:功能強大的AI全流程處理GPU
文章出處:【微信號:沐曦MetaX,微信公眾號:沐曦MetaX】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論