近日,百度飛槳深度學(xué)習(xí)平臺新增適配比特大陸最新算豐系列 AI 芯片,兩者的成功融合在芯片利用率、性能功耗比等指標(biāo)上盡顯優(yōu)勢,相比傳統(tǒng) GPU 更適合深度學(xué)習(xí)推理,成為我國構(gòu)建自主 AI 生態(tài)的典范。
2020年伊始,AI 技術(shù)持續(xù)深入發(fā)展,人工智能場景規(guī)模化落地與應(yīng)用不斷創(chuàng)造新的中國速度。隨著 AI 技術(shù)與傳統(tǒng)行業(yè)的不斷融合,智能經(jīng)濟時代的全新產(chǎn)業(yè)版圖初步顯現(xiàn)。進入智能時代,AI 芯片和深度學(xué)習(xí)框架二者融合成為構(gòu)建我國自主 AI 生態(tài)的關(guān)鍵力量。作為智能時代的操作系統(tǒng),深度學(xué)習(xí)框架起到承上啟下的作用——上承應(yīng)用、下接芯片。作為智能時代的核心大腦,AI 芯片支持框架平臺讓 AI 技術(shù)更加普及易用,為行業(yè)賦能更多應(yīng)用場景。
輕量化推理引擎 Paddle Lite 再升級
作為國內(nèi)功能最完備的端到端開源深度學(xué)習(xí)平臺,飛槳以其兼具靈活和效率的開發(fā)機制、工業(yè)級應(yīng)用效果的模型、超大規(guī)模并行深度學(xué)習(xí)能力、推理引擎一體化設(shè)計以及系統(tǒng)化的服務(wù)支持,成為加快產(chǎn)業(yè)智能化升級的主力軍。
Paddle Lite 是飛槳推出的一套功能完善、易用性強且性能卓越的輕量化推理引擎。輕量化體現(xiàn)在使用較少比特數(shù)用于表示神經(jīng)網(wǎng)絡(luò)的權(quán)重和激活,能夠大大降低模型的體積,解決終端設(shè)備存儲空間有限的問題。
推理性能也整體優(yōu)于其他框架,以 ResNet50 模型作例,在高通驍龍845上,Paddle Lite 相比其他框架,比 MNN 快10.26%,比 NCNN 快17.1%。近期已正式上線的 V2.3 版本更通過支持“無校準(zhǔn)數(shù)據(jù)的訓(xùn)練后量化”及網(wǎng)絡(luò)結(jié)構(gòu)與算子優(yōu)化,在不犧牲性能的條件下,將模型壓縮率提升至75%,有效將模型體積大幅縮小,進而滿足移動及邊緣端設(shè)備的輕量化需求。而搭載了比特大陸 AI 芯片的 V2.4 版本即將在近期上線。
▲ 百度飛槳與比特大陸兼容性認證書
通過對比特大陸 AI 芯片的適配,Paddle Lite 不僅可實現(xiàn)對多種硬件平臺的兼容,亦能更好地服務(wù)用戶實際業(yè)務(wù)需求、節(jié)省模型遷移時間、加快敏捷開發(fā)部署,極大豐富了飛槳的硬件生態(tài)。
▲ Paddle Lite 支持比特大陸算豐 BM 系列芯片
算豐芯片與飛槳整合效能
與百度同為國內(nèi)人工智能企業(yè)先行者的比特大陸是世界上少數(shù)幾家有能力開發(fā)云端人工智能芯片的公司之一,并已成功推出四代人工智能芯片(云端芯片算豐 BM1680、算豐 BM1682、算豐 BM1684,終端芯片 BM1880)。憑借多年技術(shù)積累與行業(yè)實踐,比特大陸 AI 芯片正在迅速成長為國產(chǎn)智能芯片陣營的中堅力量,為中國乃至全球的 AI 平臺落地提供核心支撐。
比特大陸開發(fā)的形態(tài)豐富的各種 AI 硬件產(chǎn)品均基于自主研發(fā) AI 芯片,擁有完整的國內(nèi)自主知識產(chǎn)權(quán)和專利,同一套 SDK 和簡單易用的工具鏈支持多形態(tài)應(yīng)用,充分滿足云+邊的“新基建”算力基礎(chǔ)設(shè)施建設(shè)需求。
最新一代算 BM1684 芯片,聚焦于云端及邊緣應(yīng)用的人工智能推理,采用臺積電 12nm 工藝,在典型功耗僅16瓦的前提下,INT8 算力可高達 17.6Tops,在 Winograd 卷積加速下,INT8 算力更提升至 35.2Tops,是一顆低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指標(biāo)業(yè)界領(lǐng)先,超過主流推理 GPU,在性能滿足視頻分析業(yè)務(wù)需求的前提下,可以實現(xiàn)視頻結(jié)構(gòu)化的單路成本最優(yōu)。
▲ 算豐1684在飛槳框架上 int8 運行 Resnet50 的性能指標(biāo)
強強聯(lián)手共建 AI 生態(tài)圈
與此同時,比特大陸積極參與百度的黃埔學(xué)院計劃,進一步深化雙方合作關(guān)系,并成功合作開發(fā)運行百度“行人車輛”算法的 SS-5416C3 人工智能一體機,交付于公安部安全與警用電子產(chǎn)品質(zhì)量檢測中心進行檢測。此外,在接下來發(fā)布的飛槳開源框架版本,也會完整對比特大陸的編譯工具 BM Lang 及相關(guān) Profiler 工具的支持。
隨著飛槳在穩(wěn)定性、兼容性和成熟度等方面不斷升級,比特大陸 AI 芯片也在不斷提升性能、優(yōu)化指標(biāo),助力飛槳加速產(chǎn)業(yè)結(jié)合,二者聯(lián)手幫助產(chǎn)業(yè)實現(xiàn)智能轉(zhuǎn)型,為我國產(chǎn)業(yè)智能化發(fā)展貢獻力量。
責(zé)任編輯:gt
-
芯片
+關(guān)注
關(guān)注
455文章
50721瀏覽量
423165 -
AI
+關(guān)注
關(guān)注
87文章
30746瀏覽量
268896 -
百度
+關(guān)注
關(guān)注
9文章
2268瀏覽量
90363
發(fā)布評論請先 登錄
相關(guān)推薦
評論