2020年7月10日，由全球電子科技領域專業媒體<電子發燒友> 舉辦的第三屆2020年人工智能大會盛大開幕，受疫情影響，今年AI大會由線下改成了線上舉辦，<電子發燒友>隆重邀請到了來自Imagination、賽靈思、中科創達、Arm中國、英偉達、英特爾、Synopsys、研華等眾多家優秀AI企業的專家來作精彩的演講。

電子發燒友總經理張迎輝在致辭中表示，在過去三年的快速發展中，中國的人工智能產業，已經成為了全球AI最大的市場和最快速發展的市場。

人工智能技術發展一日千里，當我們去年還在為圖像、視頻、語音、聲音AI識別的技術問題不斷鉆研創新的時候，今年人臉識別已經在疫情防護中迅速落地，發揮著重要的作用。可以說，曾經走在技術創新前沿的企業，今年已經在市場上獲得了巨大的回報。

此外，2020年國家推出了新基建的經濟刺激發展規劃，人工智能無疑會是新基建領域的重要一環，AI產業也將迎來更高速的發展和更加光明的前景。

調研：我國AI目前處于哪個階段？未來發展機遇在哪里？

在大會上，電子發燒友AI產業分析師張慧娟從AI基礎技術的演進、AI的應用現狀、AI項目落地情況及AI落地變局與機遇四個方面做了精彩分享。

我國AI目前處于哪個階段？張慧娟表示，根據電子發燒友調研，有36.9%的行業人士認為，我國現階段AI處于萌發階段，各項技術都不成熟，有49.0%的人士認為，我國AI處于發展初期，關鍵技術較為成熟。少數人士認為我國AI技術較為成熟，其中有26.2%的人士認為產品化能力有待加強的占，有21.5%的人士認為應用仍處于淺層次階段。也有17.4% 的人士認為，我國現階段AI格局正在形成，搶占賽道階段。

在AI的應用現狀方面，各家公司產品主要涉及到的AI技術有語音識別、機器學習平臺、深度學習、圖像識別、AI硬件優化等。產品在消費電子、智能家居、機器人領域的應用占多數。張慧娟談到，近兩年，AI在智能車載、智能安防、智能醫療、智慧教育等領域的應用也非常被看好，另外，因為技術難度大，只有極少數公司能夠做到，所以在云端訓練、遠端推理領域的應用占較少。

AI企業投入項目之后，存在很大的風險。根據調研，只有3% 的行業人士表示，參與項目之后，部署成功的概率能達到91%以上，而34% 的人士表示，成功概率在30%以下。在談到項目失敗的原因時，有60.4%的人士表示是產品應用市場與預期出現偏差，39.6%的人士表示是項目技術規格無法實現，35.6%的人士表示是配合不暢導致周期無法滿足，還有23.5%的人士表示是項目資金出現問題。

張慧娟認為，雖然多數AI企業2019年的出貨量同比增長放緩，整個行業的融資熱情也有所降溫。但從今年疫情期間，AI技術的加速落地，我們可以看到，AI產業還有很多的應用場景有待挖掘，也存在非常多的變局和機遇。

另外新基建也將給AI落地帶來較大的拉動作用，不過AI企業還需要在算力、算法、產品形態與場景的精準匹配、安全、平臺化服務能力及數據的獲取/治理、軟件平臺各個方面優化提升和突破。

Imagination ：基于GPU與神經網絡加速器的異構計算——兼顧算力效率與算法普適性的平臺

在此次人工智能大會上，Imagination 中國區戰略市場與生態高級總監時昕帶來的主題分享是《基于GPU與神經網絡加速器的異構計算——兼顧算力效率與算法普適性的平臺》。

異構計算技術從80年代中期產生，由于它能經濟有效地獲取高性能計算能力、可擴展性好、計算資源利用率高、發展潛力巨大，已成為并行/分布計算領域中的研究熱點之一。目前Imagination與很多業界伙伴，都致力于異構計算。

“Imagination是一家IP公司，自己不生產芯片，主要是將授權給芯片客戶，目前使用Imagination 授權IP的芯片出貨量累計超110億片，”時昕介紹道，“Imagination是全球唯一一家非美國的GPU IP核心專利持有公司，公司在移動端的GPU IP市場占有率接近40%，在汽車領域的GPU IP 市場占有率約為43%，Imagination的客戶主要有蘋果、聯發科、TI、紫光展銳、三星、ST等等。”

Imagination在AI領域投入大量的時間、金錢及人力，也取得了相當優秀的成績，時昕表示，公司在人工智能領域研究了7年，投入費用超100萬美元，已經申請/授權的人工智能專利超80項。

在會上，時昕重點介紹了Imagination靈活高效普適的異構平臺NX-F及AI Synergy。NX-F神經網絡邊緣計算解決方案，具備高效神經網絡支持的特點，引入了可編程性和浮點支持，包括計算優化GPGPU、PowerVR Rogue架構、基于多年的GPU計算經驗等等。

據時昕介紹，PowerVR AI，是一個組合API，支持在GPU和NNA中互聯互通，軟件可以完美的支持安卓的開發，在安卓之外，也支持常見的Linxux、TensorFlow、PyTorch等等。

Imagination還與英國軟件公司codeplay有合作，2019年10月23日，Imagination宣布，得益于全新優化的開源SYCL神經網絡庫，使用TensorFlow的開發人員將可以直接面向PowerVR圖形處理器（GPU）進行開發。其首個版本在2019年提供商用。

賽靈思：著眼效率提升和與IoT技術融合，AI芯片優化三大路徑

7月10日，在電子發燒友主辦的2020年人工智能大會高峰論壇上，來自賽靈思人工智能業務高級總監姚頌帶來了《AI芯片技術與產業發展路徑》的演講。

姚頌指出，AI需要芯片，芯片需要AI。由于神經網絡的加入，深度學習成為AI產業的助推力。轉折點出現在2012年，英偉達在2007年和2008年推出CUDA，GPU和CUDA讓深度學習復興，對后來的整個人工智能起到了決定性的意義。2012年，Google當時有兩個大神，一個是吳文達老師，斯坦福教授，后來成為百度的首席科學家，還有Justin和吳恩達做了一個貓眼識別的項目，花費了1000臺服務器，16,000個CPU是一個非常大型的分布式的計算系統。采用了兩個GPU，這個算法把神經網絡劈成了兩半，分別放在兩個GPU上，一起訓練出來，極大的簡化了整個計算系統的復雜度，把海量的數據用起來。把神經網絡和深度學習的優勢給體現出來。

在姚頌看來，數據、算力和算法三大因素共同驅動了人工智能的興起。AI芯片的發展主要是關鍵性的應用推動。AI正在為越來越多的細分應用提供支持，不同的模型針對不同的應用類別，例如分類、目標檢測、道路分割等主要采用卷積神經網絡（CNN）。

哪些殺手級應用推動芯片的應用？姚頌認為，下一代技術主力發展是IoT和AI，IoT如果只做簡單的連接，價值不大，如果賦予IoT一定AI能力，比如全家實現語音控制和語音交互，這些智慧生活體驗帶動應用的興起。新零售、新制造、醫療領域也將成為AI市場的新增長點。

AI芯片的核心解決什么問題？姚頌認為，AI芯片主要解決的是帶寬不足的問題，提高芯片的利用率。AI計算優化的三個維度，包括微架構設計、核心技術和算法壓縮。AI芯片微架構設計的核心就是減少訪存次數，芯片物理上的改進，采用的方法包括增大芯片尺寸，采用更多的晶體管，采用最新的制程和最高的帶寬。

AI芯片近年來最大的進步非常大。姚頌分析說，清華大學高性能計算研究組的數據研究結果顯示，從2019年到目前，ASIC產品已經出來，總體性能達到一個很好的指標，FPGA也在不斷改進，，用數模混合方式做出來的AI芯片得到一些特別恐怖的新指標，目前離量產還有一段距離。

姚頌指出，AI芯片越專用，性能越好，設計難度越小。賽靈思的GPU是支持卷積神經網絡，寒武紀是支持機器學習，AI芯片的需求確實差異很大。比如無線耳機的語音喚醒與識別需要AI芯片功耗低，成本低。自動駕駛需要的AI芯片低延遲、高可靠。

姚頌認為，生態與軟件的重要性遠遠大于AI芯片本身。如果只有芯片和指令集，應用時就會產生很多問題。沒有軟件，開發者無法使用，沒有生態，初學者根本沒有辦法看懂，學習成本很高，廠商不做板卡跟系統，工程師拿到你的AI芯片，最后做成產品也非常費勁。

中科創達：邊緣計算推動邊緣智能實現，5G與邊緣智能融合前景看好

7月10日，在電子發燒友主辦的2020年人工智能大會高峰論壇上，中科創達智能物聯網事業群副總裁楊新輝帶來了全球5G和AI融合趨勢的精彩觀點分享，并重點分析了邊緣計算領域最新進展，以及5G與邊緣智能融合的落地關鍵點。

楊新輝的觀察是，全球5G＋AI技術發展迅速，為IoT市場帶來新機會，根據2020年IDC預測，5G智能終端的出貨量會超過1億臺。縱觀全球AI市場，德勤數據顯示，到2020年人工智能在安防、金融、醫療等領域，邊緣計算產品和應用逐步落地，營收可以達到2.4萬億美元的市場規模。2025年全球的互聯網設備將超過250億臺連接，其中將可能有10%是通過5G網絡產生的連接。

5G和AI未來將成為產業智能化的重要推手，考慮到5G網絡具備可擴展能力和可靠性，更加靈活的無線網絡，極大解決了連接安全和計算問題。在邊緣計算和AI方向，邊緣計算會有更多的感知和處理，機器視覺與人工智能將應用于無人駕駛，進行邊緣的服務和數據的私有化，兩者結合起來，將為整個的產業發展提供更強的動力。

楊新輝認為，5G網絡部署帶動通信帶寬的增加和大數據的產生，整個市場對邊際計算的需求日益強烈。5G時代，為了保證邊緣計算產業和網絡邊緣計算的服務有效應對到落地場景，中科創達提供TurboX Edge Platform邊緣智能平臺，底層提供基于5G的通訊模組和邊緣計算的芯片，為了加速開發者的產品落地，他們又推出了成熟的邊緣計算的開發套件TurboX Edge Kit。

TurboX Edge Platform邊緣智能平臺采用層級化、模塊化的設計理念以及容器化的部署方式，基礎層包含核心計算模塊（SOM）、操作系統內核、硬件驅動和開發套件；中間件層包含以人工智能、邊緣計算、安全、人機交互為主的模塊化組件；應用層包含各垂直行業端到端解決方案以及云服務，實現了邊緣與云端的數據協同、控制協同、管理協同。目前，該平臺已經廣泛應用在智能工業、智能城市、智能零售、智能網聯汽車、機器人等多個垂直行業。

Arm中國：AI芯片的發展與周易AIPU

隨著數據量指數級的增長，倒逼著算力需求升級，針對不同場景的算力升級需要不同的AI芯片。同時，神經網絡的發展需要更高算力AI芯片。傳統的CPU和GPU兩大硬件架構進行的運算消耗大量的處理能力，AI芯片不僅對工作負載高的模型算子提升效率，也提供強大的可編輯引擎，對模型自定義層和新興的算子提供支持。

Arm中國高級AI技術市場經理吳彤在分析當前AI處理器的演進時談到，為了提高AI芯片的性能，AI芯片領域專用架構DSA逐漸興起，DSA將彌補軟硬件的性能鴻溝，將硬件架構進行定制并使其具備特定領域應用特征，使該領域的一系列應用任務都能高效執行。典型的DSA架構包括機器學習領域的神經網絡處理器，圖形圖像/虛擬現實領域的圖像處理器GPU，以及可編程網絡交換機及接口。

他還列舉了目前AI芯片六個典型架構，包括英偉達A100 GPU、谷歌TPU 3.0、Xilinx Versal ACAP、Intel Habana Gaudi、Graphcore IPU以及Cerebras WSE。而AI芯片的發展方向將取決于算法和生態等因素，深度學習算法需求以及從底層硬件到工具鏈、更高階的庫再到應用的生態也至關重要，此外Chiplet小芯片通過封裝技術將芯片進行整合，也推動著AI芯片的發展。

去年，Arm中國發布周易AIPU是其自主研發的神經網絡處理IP，具有創新架構、安全性和可擴展性。

據透露，首款采用周易AIPU的芯片全志科技語音芯片R329將于年內上市。吳彤指出，由于算法迭代快，AI芯片如何適配呢，周易提供很好的編程特性，可支持市面上主流算法的升級，此外周易的可擴展性可支持0.2TOP到幾十TOPS算力的應用。從工具鏈到庫、統一面向AI應用的API、支持所有主流AI框架以及豐富的AI應用構建的生態也成為周易AIPU能夠快速從設計到量產的關鍵。

英偉達：Jetson平臺助力邊緣計算開發

英偉達從硬件到軟件構建的生態加速了其GPU產品的應用落地。此次，英偉達帶來Jetson嵌入式計算平臺在邊緣端應用的最新情況。

JETSON平臺已經聚集了50多萬開發者，并且還在快速增長。JETSON在工業、物流、零售、醫療、農業、智慧城市等各行各業得到了廣泛的應用。英偉達以強大的GPU而知名，然而在芯片的基出上，完善好用的工具鏈、SDK等的支持也令英偉達的芯片能夠更方便的進入應用場景。

英偉達開發者關系總監李雨倩在演講中表示，英偉達提供TensorRT和Transfer learning工具，前者可支持多種算法模型平滑對接到英偉達的硬件，后者通過減枝、場景適配和新的層級，可對大型數據進行裁減，對場景增加數據集，以及預留部分通道拓展應用等等。

同時，英偉達提供DEEPSTREAM和ISSACWORKFLOW兩款SDK。DEEPSTREAMSDK提供了一整套數據流分析工具包，透過智能視頻分析（IVA）和多傳感器的數據處理來感知情景和意識。

ISSAC SDK 是一個機器人軟件開發工具包，ISSAC Robot Engine 方便在不同的平臺上部署機器人應用，ISSAC GEMs集成了許多機器人感知導航算法模塊，并且許多有GPU加速，給機器人開發提供便利。

JETSON系列共有四款芯片，包括JETSON NANO、TX2 series、AVIER NX、AGX XAVIER series，覆蓋從0.5TFLOPS到32TOPS的算力需求。考慮到許多設備都受限于小尺寸和低功耗，為此英偉達推出了全新的Jetson Xavier NX，使用戶能夠在不增加設備尺寸或功耗的情況下，大幅提高AI性能。

JETSON產品系列作為人工智能的邊緣計算平臺，將以強大的生態體系帶給更多場景的落地應用。

新思科技：邊緣端AI的延遲、可靠性問題

由于云端計算存在著延遲、數據傳輸成本高、可靠性等問題，許多的AI計算將在邊緣端承載。相關的典型案例，例如NETFLIX作為一家視頻流服務公司，部署了許多邊緣端的服務器，處理傳輸的優化和搜索。海康NVR在本地處理攝像頭的視頻流數據。

邊緣計算對半導需求的影響主要在五個方面，在整個網絡基礎架構中添加服務器架構；人工智能嵌入所有系統；低功耗服務SOC芯片的應用；低延遲網絡的需求，低延遲處理要求。而邊緣AI將刺激AR/VR、機器人、游戲等低延遲應用的爆發。

Synopsys新思科技IP產品方案銷售總監鐘香建在針對AI加速器SOC的發展時談到，大部分的AI加速器采用了12nm和7nm工藝，其實是14nm工藝。它的系統框架中采用了LPDDR、HBM2e、PCIe5.0、CXL等接口，以滿足芯片或DIE到DIE之間的高速傳輸需求。其中，PCIe 4.0和5.0提供了當今AI SOC中最常用的接口，實現了可靠和可信的連接。CXL提供從主機到加速器的低延遲、緩存一致性連接。PCIe Switch有助聚合芯片陣列。Synopsys是PCIe IP領域的領導者，現在提供PCIe Switch IP來實現定制的AI聚合，提高系統性能。

此外，新思ARC EV處理器IP可使用標量、矢量、NN引擎完成人工智能處理，LPDDR IP提供低功耗、低成本的存儲方案，HBM2 IP提供高帶寬和高能源效率的方案，實現以最小的功耗和低延遲實現內存的吞吐量要求等。

通過邊緣計算和5G的新應用及服務預計將出現強勁增長。DesignWareIP正在解決所需的關鍵延遲、可靠性和性能改進。

英特爾： OpenVINO?工具包助力人工智能開發

英特爾的合作伙伴架構師馬小龍，為我們介紹了英特爾為邊緣AI應用的開發、部署和上市推廣，提供了怎樣的軟硬件平臺和資源。

人工智能正在改變每一個行業的體驗和定義，在圖像和語音識別領域，機器已經能夠達到甚至超過人類的水平。隨著用戶對于人工智能延遲和性能要求的提升，邊緣端的人工智能在今年獲得了快速發展。邊緣人工智能近年來在安防，智能城市，零售，制造和視頻等行業領域都獲得了廣泛應用。

英特爾提供了人工智能應用開發的完整生態資源，首先開發者可以借助OpenVINO對已訓練好的模型進行優化和異構部署；OpenVINO工具包是一項用于高性能深度學習推理的工具套件，借助OpenVINO可以更快更準確地將人工智能應用產品化，并從邊緣到云基于英特爾架構來部署。同時該工具包使用了同一個API，可以實現一次編寫，任意部署，因此可以大大降低人工智能應用遷移所需的開發工作量。已訓練模型通過模型優化器（支持TensorFlow、Caffe等多種模型）轉化成中間表示格式，再通過推理引擎部署在不同的英特爾架構上。

在測試與集成階段，英特爾提供了DevCloud邊緣開發云和物聯網開發人員套件來加快產品落地，上市階段也提供了邊緣軟件中心。若是目前手頭沒有配置好的OpenVINO開發環境或缺少相應的英特爾產品進行部署，就可以借助邊緣開發云來快速部署和測試。DevCloud不僅提供了開發服務器、存儲服務器，還擁有一系列不同邊緣節點。而物聯網開發人員套件中，既有即插即用的神經計算棒，也有基于酷睿處理器的多場景開發套件和加速卡。

為了解決性能限制、快速上市和異構部署的挑戰，減少底層開發工作，英特爾也推出了邊緣軟件中心。該軟件中心里包含了針對多應用的邊緣洞見軟件包，同時附帶商用級別的參考示例，也和多個合作伙伴推出了經驗證的邊緣設備。

研華：基于Intel Movidius VPU及海思SoC的邊緣AI解決方案

接下來，研華科技IoT嵌入式平臺事業群物聯網行業經理鞠劍為我們分享了基于Intel Movidius VPU及海思SoC這兩大不同硬件平臺的邊緣AI方案。

英特爾的OpenVINO支持四大硬件架構，CPU、GPU、FPGA和VPU，其中的VPU就是Movidius系列產品。研華目前采用的是英特爾于2019年第四季度發布的Intel? Movidius? Myriad? X VPU，芯片型號為MA2485，該芯片相對Myriad2 VPU在深度神經網絡上的性能高出10倍，算力達4TOPS，專用神經網絡算力達1TOPS，而且擁有超低功率，不到4W。研華基于該芯片推出了一整套邊緣AI解決方案，既有加速模塊也有推理系統。

這其中AI VPU加速模塊已量產的有VEGA-320、VEGA-330、VEGA-340，而VEGA-341是下一代，預計在今年Q3正式量產。

其中VEGA-320集成了MA2485芯片，接口為M.2 2230，主要應用于弱AI場景，比如交通/視頻監控和信息亭/零售行業等；VEGA-330可集成1或2顆MA2485芯片，接口為miniPCIe，主要應用于工業級的AGV還有無人機/機器人領域；前兩個加速模塊都采用被動散熱。VEGA-340是插卡式產品，可集成4或8顆MA2485，接口為PCIex4，采用主動散熱，更適合醫學影像和AOI這類強AI領域。VEGA-320和VEGA-330除了自帶的標準散熱器外，還可以選配效果更好的伴散熱器。

在未加入AI VPU的情況下，測試的人臉識別案例平均每秒幀數為110，CPU負載在100%，能耗為27W。加入了VEGA-330之后，不僅提升了10FPS，還釋放了50%的CPU負債。在額外加入硬件的情況下，反而將功耗降低了30%，功率達到18.9W。

AGV：VEGA-330邊緣 AI 推斷模塊（VPU * 2）集成到他的 AGV 購物車中。這使得 AGV 能夠通過攝像機視覺進行自主導航，并執行障礙物檢測，以避免在人機混合工作場所發生事故。

AI紡織品缺陷檢查：通過帶有八個IntelMovidiusVPU的研華VEGA-340可在分布式織機上進行實時AI檢查。控制系統可以根據檢測結果立即做出反應，提高生產質量和效率。

在研華推出的邊緣推理系統中，Ei-A100主要用于教育零售領域，而AIR-200更適合AGV場景，EPC-C301則主要用于工廠自動化和機械臂等復雜場景。EPC-C301帶有4個USB3.2攝像頭接口，和CAN2.0自動化控制接口，選用了無風扇散熱設計。

機器手臂AI（視覺）升級：將傳統機械手臂進行視覺定位升級，通過EPC-C301內置的VEGA-330邊緣AI推斷模塊，幫助客戶進行運動軌跡輔助判斷。使用手臂前端的攝像機進行自主運動，精確導航。

除了基于英特爾VPU的AI方案，研華科技也針對海思的SoC推出了自己的一套邊緣AI智能物聯網網關方案。目前正在研發的EPC-R5770就采用了海思的Hi3531。這款海思的SoC在視頻編碼能力很強，支持8路1080P H.265/H.264編解碼。除了多路接口外，還支持附加VEGA-330的模組。EPC-R5772尚在計劃中，選用的還是HI3559，各項參數仍然待定。

本次人工智能大會的圓桌論壇環節，由電子發燒友產業分析師張慧娟主持，邀請到Imagination公司時昕、英偉達公司李雨倩以及研華科技的鞠劍等數位嘉賓，共同探討了AI新周期的新挑戰，AI如何走向規模和普惠的話題。

更多關于2020年第三屆中國人工智能大會暨首屆中國人工智能卓越創新獎的詳情，請點擊官網鏈接：http://www.1cnz.cn/activity/ai-2020/index.html。