數字化浪潮的洶涌推進,催生了前所未有的數據洪流,加速了計算從云到端的發展。在近日舉辦的英特爾新質生產力技術生態大會上,英特爾市場營銷集團副總裁、中國區OEM&ODM銷售事業部總經理郭威指出,如今云和端的界限正在變得越來越模糊,兩者朝著彼此融合的方向發展。這一趨勢的背后,是數據量的爆炸性增長,以及對數據在不同地點處理的考量,而這也構成了推動邊緣計算興起的關鍵因素。
英特爾市場營銷集團副總裁、中國區OEM&ODM銷售事業部總經理郭威
越來越多的企業應用開始在邊緣運行。根據Gartner的預測,到2027年,50%的關鍵企業應用將在邊緣運行。研究機構GrandView Research則預計,全球邊緣計算市場規模將在2024年至2030年間以高達36.9%的復合年增長率(CAGR)持續擴張。企業正在邊緣計算上持續投入,預計從2024到2028年,全球邊緣計算支出將以雙位數的復合年增長率(CAGR)穩健增長。
AI在邊緣也展現出強勁的發展勢頭。盡管目前,AI應用主要集中在云端,但考慮到成本、時效性和安全性等因素,AI向邊緣下沉已成為趨勢。Gartner預測,到2026年,50%的全球邊緣部署將包含AI。今年以來,生成式AI在各行業的應用不斷落地,企業積極利用大模型技術解決商業挑戰,并推動了一系列創新成果,大模型商用正進入規模化發展的關鍵階段。
邊緣AI“痛點”大起底:成本、技術與規模化挑戰
盡管邊緣AI在數據處理和實時響應方面展現出顯著優勢,但在其部署過程中仍面臨一系列挑戰。
首先,將資源從云端轉移到邊緣通常需要額外的成本投入,包括硬件采購、部署、維護以及能源消耗等。企業需要在價值、質量和成本之間做出權衡,算一筆“經濟賬”。
其次,技術層面的復雜性是阻礙AI應用的一大難題。“模型幻覺”問題是其中之一,即在邊緣環境下,AI模型可能會因數據質量、模型訓練不足或硬件限制等原因產生不準確的輸出。
此外,邊緣應用場景的多樣性與碎片化也為邊緣AI部署帶來了挑戰。場景、設備及工作負載的多樣性,意味著每個場景都有其獨特的需求和限制。如何設計出既靈活又可擴展的標準化方案,以適應不同場景的需求,成為實現邊緣AI規模化應用的關鍵。
三大策略突破瓶頸,助力邊緣AI規模化發展
策略一:多樣化硬件產品,破解邊緣場景碎片化難題。
在邊緣計算場景中,面對不同的應用負載和場景需求,通用處理器和通用算力芯片是滿足這些多樣化場景的最佳方案,這也是英特爾的優勢所在。
為實現這一目標,英特爾不斷在CPU中集成更多先進功能,通過CPU、GPU和NPU的協同工作,滿足各種場景下的復雜需求。
英特爾專為邊緣設計的多樣硬件產品組合,如英特爾酷睿處理器,為日常的工作負載提供了卓越的性能;英特爾酷睿Ultra處理器則集成了NPU(神經網絡處理單元),為多種應用場景提供了更強大的算力支持。此外,英特爾凌動處理器、英特爾銳炫GPU For the Edge、英特爾至強6 處理器,以及專為加速深度學習訓練和推理而設計的英特爾Gaudi處理器等,為客戶提供了豐富的選擇,使客戶以較低成本滿足多樣化負載和碎片化應用成為可能。
策略二:開源開放平臺,加速易用、可負擔的AI部署。
在軟件工具層面,英特爾提供了一系列工具集,如OpenVINO和oneAPI,這些工具集為開發者在英特爾平臺上優化和部署AI應用提供了強有力的支持。
在AI模型和框架方面,英特爾提供TensorFlow、HuggingFace、PyTorch和DeepSpeed等主流AI模型和框架,確保開發者能夠利用最前沿的工具來構建和訓練AI模型。
企業AI開放平臺(OPEA)是英特爾攜手行業領軍企業共同打造的開放性AI開發與部署平臺。該平臺幫助行業客戶更便捷地基于英特爾的產品,構建完整的企業級AI應用。
策略三:以場景驅動創新,攜手生態破局未來市場。
英特爾攜手合作伙伴,深入挖掘行業場景的需求與痛點,在特定場景中探索創新路徑,共同預見并應對未來可能出現的新挑戰。
針對多元化的應用場景,英特爾與合作伙伴攜手打造了定制化的垂直行業AI解決方案,如英特爾工業邊緣控制、基于英特爾架構的AIPOS 方案等,滿足零售、工業、教育、醫療、能源和交通等不同領域的特定需求。
多元化的生態是英特爾持續深耕行業、推動創新的基石。英特爾也將持續構建和拓展合作伙伴生態系統,與服務提供商、設備制造商等生態伙伴緊密合作,共促技術聯創、共享開發權益、共拓市場項目,加速人工智能的開發和落地部署。
2024年是大模型應用的落地之年,AI應用仍在創新的浪潮下持續拓展邊界。在云、邊、端融合的趨勢下,英特爾憑借CPU、GPU與NPU的強強聯合筑牢算力底座,以開放平臺和生態推動技術創新與產業發展,讓更多行業企業能夠輕松擁抱AI技術,從而引領生成式AI及大模型應用走向規模化發展的新階段,推動業界邁向更加智能、高效與可持續的未來。
審核編輯 黃宇
-
英特爾
+關注
關注
61文章
9949瀏覽量
171694 -
AI
+關注
關注
87文章
30729瀏覽量
268892 -
數字化
+關注
關注
8文章
8708瀏覽量
61728
發布評論請先 登錄
相關推薦
評論